大模型幻觉与人类认知偏差的对比

你可能遇到过这种情况：模型一本正经给出个不存在的事实，你去问它为什么，它还能给你圆回来；而你自己回忆一件事时，也常常把细节记串了还特别确信。这两件事看着像，成因却差得远。这篇不聊玄学，把两者的触发条件、可观测行为和纠正成本逐条对照，再给你一份能照着做的排查顺序，帮你在写提示词、搭知识库、做人工复核时知道该防哪一头。

你可能遇到过这种情况：模型一本正经给出个不存在的事实，你去问它为什么，它还能给你圆回来；而你自己回忆一件事时，也常常把细节记串了还特别确信。这两件事看着像，成因却差得远。这篇不聊玄学，把两者的触发条件、可观测行为和纠正成本逐条对照，再给你一份能照着做的排查顺序，帮你在写提示词、搭知识库、做人工复核时知道该防哪一头。

重点不是给模型开脱，也不是说人类天生爱犯错。关键是搞清一件事：哪些错是「机制使然、可以提前设计规避」，哪些错是「认知特性、只能靠流程兜住」。分不清这个，你的治理动作就会打错靶子——该补资料的场景你去调温度，该换流程的场景你去堆提示词。

为什么要拿这两件事放在一起比

对比的价值集中在一个点上：人对自己的错有内省能力，模型没有。人记错了一件事，被指出后往往能意识到「我刚才可能想混了」，进而调整；模型不会因为你指出错误就改变内部状态，它只是在当前这轮上下文里顺着你说。这个差异直接决定了纠正手段完全不同：对人靠提醒和复核机制，对模型靠补上下文和外部校验。

• 先分清「输出错了」和「知道自己错了」是两件事。很多治理方案卡就卡在这，把模型的道歉当成它真的理解了错误
• 人的偏差往往藏在取舍和权重里，模型的错往往落在细节和出处上，看错的位置不同，排查入口也不同
• 模型这一侧的错大多可以复现，人的偏差很难复现；能不能复现决定了你能不能建回归测试
• 本文只讲成因与判断标准，选型与部署成本那两篇已有专文，不重复

模型这一侧的幻觉是怎么长出来的

最根上的原因是训练目标。模型学的是「给定前文，下一个词像不像」，不是「这句话真不真」。所以流畅和正确在它那里是两套目标，很多时候流畅还排在前面。这解释了为什么幻觉往往长得很像真的：编一个不存在的编号，比老老实实说「我不知道」在语言上更自然。

再往下，概率平滑和长尾覆盖不足会让冷门实体、精确数字、内部编号成为重灾区。这些东西在训练语料里出现次数少，模型没有足够样本去「记住」，只能靠相邻模式推一个看起来合理的。上下文污染和指令冲突是第二个来源：检索塞进来的错资料、前后矛盾的约束条件，会把输出整体带偏。

关于解码参数，有个常见误区：调低温度能压住一部分随机性带来的不稳定，但如果错误的根因是数据没覆盖或者检索资料本身错，调低温度只是让同一个错更稳定地出现，掩盖问题而不是解决问题。判断标准很简单——固定提示连跑几次，如果错误每次都一样，调参数没用，得去补资料。

人类认知偏差那一侧是怎么回事

人这一侧最常被提到的是确认偏误、可得性启发和锚定效应。它们有个共同点：先有结论再找证据。模型是先有格式再填内容，人是先有立场再挑材料，机制不同但结果都是「输出显得很顺，但经不起细查」。记忆的重构性和模型「续写」在动作上确实像，都是把碎片按熟悉的模式拼起来，所以两边都会出现「细节记串了还特别确信」。

过度自信和事后合理化是另一个交叉点。人会给自己的判断补理由，模型也会给错误结论编出通顺的推导——你追问它依据，它能现编一段听起来很有逻辑的链条。区别在于：人会累、会受情绪和立场影响，模型不会累，但你给的上下文每轮都在变，等于它的「状态」一直在被你的输入改写。

• 确认偏误：倾向于找支持已有结论的信息，排查时容易只验自己想看的
• 可得性启发：容易想起的例子被当成更普遍的情况，判断样本被扭曲
• 锚定效应：第一个看到的数字或说法会拖住后续判断，改起来比想象中慢
• 过度自信：对模糊判断的把握程度明显高于实际准确率
• 立场与利益：涉及自身得失时偏差会放大，这一点模型没有对应物

逐项对照：触发条件、表现、纠错成本

把两边摆到一起看，差异比相似更值得记。触发上，人靠情境和利益触发，模型靠数据稀疏度和上下文长度触发。表现上，人错在取舍和权重，模型错在细节和出处。可观测性上，人的偏差要靠外部提示才察觉，模型的错可以靠检索和工具做机器校验。纠错成本上，人的偏差改起来慢，模型的错往往换个提示或补一份资料就能压下去。

这张表最实际的用法是：遇到一个错，先往右列对照一下它更像哪边。如果可复现、能靠补资料解决，按模型侧处理；如果换个场景还是错、且和人的判断有关，那就别指望改提示词，得动流程。至于各家模型在这类校验场景下的表现差异，到 /rankings 核对当时的数字，别凭印象选。

这套对比什么时候不适用

第一，涉及价值判断、立场和偏好时，别硬套「幻觉」这个词。模型和你的分歧不是错误，是取向不同。把分歧当错误处理，你会一直修不好，因为压根没有正确答案可修。第二，任务本身没有唯一正确答案的场景，比如创意写作、头脑风暴、方案发散，追求「不幻觉」会直接压死产出——这时候要评估的是可用性和多样性，不是事实准确率。

第三，模型被刻意要求扮演或模拟时，输出偏离事实是设计目标，不是缺陷。角色扮演里它「自称」是某个身份，属于任务要求，别拿事实核对去卡它。第四，当你需要的是判断而不是事实时，认知偏差那一侧的经验反而更有参考价值——比如评估一个方案的风险，人的直觉往往能补上模型看不到的隐性约束。

一套可执行的自查顺序

1. 先判类型把错误分成事实错、推算错、格式与要求没照做三类。三类修法不同：事实错去补资料和检索，推算错去拆步骤让它分步算，格式错去改提示结构。分错类，后面全白做
2. 固定变量重跑只改一处——要么改温度，要么换检索内容，要么改提示结构，一次只动一个。连跑几次看错是否复现。复现说明是系统性的，不复发说明和随机性有关
3. 给关键结论加外部锚点人名、数字、条款、编号一律回原始资料核对，别信模型自己报的来源。来源打不开、对不上，就当它没有来源
4. 沉淀错例成回归集把复现出来的错例记下来，形成一份固定输入加期望输出的清单。下次换模型、换版本、换提示词，先跑一遍这份清单再上线

这四步的顺序别颠倒。很多人一上来就调参数，结果错因根本没定位。先判类型，再固定变量，再锚点核对，最后沉淀——每一步都在缩小范围，这也是把「感觉不太对」变成可操作动作的过程。

团队落地时的对照清单

团队层面最重要的是分层，别对全部输出用同一套复核强度。高风险输出，比如对外发布的内容、合规文本、涉及金额和承诺的表述，必须人工复核；低风险输出，比如内部草稿、头脑风暴素材，可以抽样看。分层的依据不是模型好坏，而是错了之后的代价。

• 按任务分层：高风险必人工复核，低风险可抽样，分层依据是出错的代价而不是模型的印象分
• 让模型自报来源，但来源必须能打开验证，打不开就当没有来源
• 在提示里显式区分两种场景：「不确定就说不确定」和「必须给出答案」，别混着用
• 记录每次出错时的上下文长度和检索命中情况，用量化数据而不是凭感觉判断
• 把复查责任落到具体的人，流程里不写名字的复核环节，基本等于没有

如果你们还在选模型或者对比不同中转渠道的稳定性，别只看单项表现。同一份提示在不同渠道、不同参数下跑出来的差异，往往比模型之间的差异还大。想量化这种差异，可以到 /tools/speed-test 做一轮实测，再看 /price-watch 核对当时的数字，把稳定性和成本放一起权衡，而不是单看一头。