思维链忠实性（CoT Faithfulness）

思维链忠实性问的是：模型输出的推理过程，与它内部实际做出判断的依据是否一致。如果模型先得到结论再补一段看起来合理的推导，那么这段文字就不能作为解释或审计依据——它能让人信服，却不能说明模型为什么这样答。

常见的不忠实表现

• 事后合理化：结论由其他线索决定，推理文本只是补写，改动前提也不影响答案。
• 被提示词带偏：加入无关但有倾向的暗示后答案改变，而推理文本仍声称依据原有条件。
• 系统性省略：真正起作用的特征没有出现在文字里，人据此排查会得出错误结论。
• 编码式推理：部分计算在连续表示中完成，语言化输出只是它的粗略近似。

怎么检验

• 偏置注入：在提示里加入与题目无关但有倾向的信息，看答案是否改变而推理文本保持不变。
• 中间步骤替换：把思维链里的某一步改成错误版本，若最终答案不受影响，说明该步并未真正参与决策。
• 反事实重述：换一种问法或调整选项顺序，观察结论稳定性与解释文本是否同步变化。
• 外部核对：用可执行验证、检索证据或独立模型复核结论，不依赖模型自己的叙述。

与相邻概念的区别

• 与隐式推理：隐式推理是模型在内部表示里完成计算，忠实性问的是写出来的文字是否对应真实过程。
• 与幻觉检测：幻觉检测判断结论是否正确，忠实性判断解释是否真实，正确结论也可能配着不忠实的推理。
• 与推理努力程度：推理长度与计算量可以调节，但更长的思维链并不代表更忠实。
• 与能力评测：准确率衡量答对多少，忠实性衡量可解释程度，两者需要分别报告。

目前的共识是思维链可以作为有用的调试线索，但不适合当作可靠的解释证据，尤其在需要定责的高风险场景里，应改用外部验证与独立复核。争议在于训练方式能否改善这一点：一种看法是通过结果奖励与过程监督让推理更贴近决策，另一种认为只要存在连续表示与并行计算，语言化输出就只能是近似，忠实性最多是程度问题。实践中的折中是明确标注思维链的用途——用于排查与提示，而不是作为合规与归因的依据。还有一个容易被忽略的限制：忠实性无法一次性验证，模型版本更新、系统提示变化甚至上下文长度不同，都可能改变推理与决策的对应关系，因此结论只在特定配置下成立，它更像持续监测项而不是验收指标。