大模型幻觉与人类认知偏差是什么?搞混这两件事,排查方向就全错了

模型与算力

讲清大模型幻觉和人类认知偏差分别是什么、为什么不能混为一谈,给一套按来源分层的判断标准,以及各自能动手的缓解动作。

线上答错一句,团队里常见两种反应:一种说模型幻觉,认命;一种说人没问清楚,重写提示词。两种都只对一半。幻觉是模型生成层面的毛病,认知偏差是人这边判断出的问题,来源不同,修法也不同。这篇把两者拆开讲,给一套先分层再动手的排查顺序。

线上答错一句,团队里常见两种反应。一种说模型幻觉,摊手认命;一种说人没问清楚,回去重写提示词。两种都只对一半。幻觉是模型生成层面的毛病,认知偏差是人这一侧判断出的问题,来源不同,修法也不同。搞混的直接后果是排查方向跑偏:该补材料的时候去换模型,该让人复核的时候却在调提示词,折腾半天原地打转。

这篇不打算给你一个「准确率有多高」的结论,那类数字一直在变,去站内模型资料库核对当时的记录更靠谱。这里想干的事是把两个词拆开,给一套能落地的判断标准,再按来源分层排个排查顺序。看完至少能回答一个问题:这次答错,我该先动哪一边。

先把两个词摆到桌面上:一个是模型造的,一个是你自己带进来的

幻觉指的是模型输出了看上去合理、实际不成立的内容。编造引用、错配数字、把两件事拼成一件,语气还特别确定。它的麻烦在于「像」——格式对、术语对、行文流畅,唯一的错是事实不成立,而这一点恰恰不靠语感能发现。

认知偏差是人这边的。确认偏误让你只记住模型答对那次,把答错的忘干净;锚定效应让你被它第一句话带跑,后面怎么改都在那个框里;权威错觉让你默认它说得越顺就越对。这些偏差不是模型塞给你的,是你本来就有,模型只是把它放大了。

幻觉
模型生成了不成立的内容,责任在生成环节,可以靠约束、检索、校验去压
认知偏差
人在判断时系统性地跑偏,责任在决策环节,得靠流程和交叉核对去破
两者的交点
模型编了内容、人又刚好信了,最后表现出来的错误一模一样,只看结果分不出是哪一环出的问题

为什么两件事老被混着说:它们长得像,但病灶不在同一层

最直接的原因是结果同形。模型编了一段内容,人没核就用了,最后交出去的错误看起来就是一个错误。事后复盘只看到这个错误,看不到中间是两个独立环节各出了一次问题。这时候无论归因到哪一边,都能自圆其说,于是争论就停在口水层面。

更隐蔽的是偏差会放大幻觉。模型给一个似是而非的答案,人懒得再查一遍,这次侥幸通过了,偏差就把「它一直挺准」这个印象坐实了。下次它再编,人更不会查。实际用下来,很多所谓「模型最近变差了」的体感,是这个循环积累到某天兜不住了。

反过来也成立:人对模型能力估计过低同样是一种偏差。明明能用的任务非要手工做,或者每个答案都从头核一遍,这跟幻觉一点关系都没有,纯粹是信任校准没做好。这类情况你去调提示词、换模型,全都无效。

分不分得清,看三个现场信号

不用搞复杂的实验设计,手边有三个信号足够做初判。它们的共同点是:不改任何配置,只改变观察方式,就能看出问题偏哪一侧。

现场信号偏幻觉的表现偏认知偏差的表现
同一件事换个问法再问一遍每次编的内容不一样,前后对不上两次都照着第一版念,新答案根本没看进去
把原始材料摆出来逐条对答案里的事实找不到出处出处就在材料里,但没人去翻,直接采信了
让同事独立做一遍再比对错得五花八门,方向都不一致两人错在同一处,且都答得很顺

这里有个容易踩的坑:换问法的时候只换了措辞,没换角度,模型大概率给一样的答案,你会误判成认知偏差。正确的做法是换信息入口,比如从「总结这份文档」换成「这份文档里关于某条款怎么写的」,让它必须回到具体位置去找。

模型这一侧能动的几件事,别指望一次装完

先明确一点:幻觉压不到零,只能压到可接受的范围。任何声称「彻底解决」的方案都值得怀疑。所以模型侧的动作目标不是消灭,是让错误变得可发现、可追溯。

  1. 把边界写进系统提示词允许说「不知道」「材料里没有」、必须带出处、禁止补全没给出的字段。这三句比事后校对省事得多。验证方法:故意问一个材料里不存在的信息,看它是否老实说没有。
  2. 能检索就别让它凭记忆答把原文片段一起塞进上下文,答完要求标注这句出自哪一段。验证方法:抽查几条出处,看标的位置是否真的对得上,而不是标了个大概章节。
  3. 建一套固定题目集定期抽查别只凭印象判断好坏。同一批题每次结果的波动,比单次答案更有信息量。题目集里要包含几道「材料里没有答案」的题,专门测它会不会硬编。

不适用的情况得说清楚:开放式的头脑风暴、创意写作、命名提案,这类任务本来就要求它往外编,用「必须带出处」去卡是自找麻烦,会把输出压得干瘪。判断标准很简单——这个任务错了会不会有人受损,会,就上约束;不会,就放开。

人这一侧的做法:把「我觉得对」换成「我怎么知道它对」

人这边的毛病不是不认真,是认真用错了地方。盯着措辞反复打磨,却没人问一句「这条结论怎么验证」。改法不用多复杂,把验证动作前置就行。

  • 先写下结论要满足什么条件才算数,再去问模型,避免被它第一个回答锚住
  • 凡是能回一手材料核的,一律回原文核,尤其是数字、条款、人名、时间这四类
  • 重要结论至少两个来源,其中至少一个由另一个人独立完成,不是同一个人换个问法再问一遍
  • 把答错的几次记下来,复盘时看错在第几类,而不是它错了多少次
  • 涉及对外发布的结论,指定一个人专门唱反调,任务就是找反例,找不到才算过

这里分享一个具体的失败经验。有次做竞品功能对比,模型给了一张对照表,格式漂亮,每条都像模像样。团队里没人回原站核,直接放进周报。后来发现其中两行把两家的功能张冠李戴了——不是模型编的,是它把两个来源的信息拼错了位置。问题出在我们只核了「有没有这个功能」,没核「这个功能属于谁」。这类错误的排查重点不在模型,在核对清单本身漏了维度。

出问题时按这个顺序查,别一上来就换模型

顺序很重要。多数人第一反应是换模型,成本最高、见效最慢,而且常常换完发现错误照旧,因为病灶根本不在模型。下面这个顺序按「改动成本从低到高」排,前三步都不需要动模型。

  • 第一步,看材料给全了没有。缺材料会逼模型编,这类「幻觉」换模型也修不好
  • 第二步,材料给全了还错,看提示词有没有留出「不知道」的出口,堵死出口的提示词是幻觉的常见放大器
  • 第三步,提示词也没问题,拿同一批题跑另一个模型做对照,看是普遍现象还是单个模型的问题
  • 第四步,最后才轮到怀疑流程和人:复核记录里是谁在哪个环节把没核实的内容当事实往下传的

走完这四步还没定位,通常意味着问题不在单点,而在整条链路都缺少校验环节。这时候别继续在单点上耗,去做一件事:把这次出错的完整链路画出来,标出每个环节谁签的字、依据什么签的。画完基本就能看到断点在哪。

什么情况下这套分法不管用

先说最明显的一种:只做娱乐性对话、不承担任何决策后果的场景。这种情况下分清幻觉和偏差的成本比风险本身还高,照做纯属浪费。方法要用在刀刃上,不是所有场景都值得上流程。

涉及医疗、法律、资金的判断,分清来源只是第一步。模型侧再怎么约束,都不能替代具备资质的人签字确认。这套分层法的定位是「帮你把问题归到正确的环节」,不是「帮你把责任分出去」。这一点必须说在前面,否则方法越顺,越容易让人放松警惕。

还有一种常见阻力:团队里没人愿意留记录。没有记录,这套排查全部停留在口头,谁记得住上次错在哪。这种情况下先别谈方法,先把记录习惯立起来,哪怕只是一个共享文档,每次出错记一行:错在哪、当时依据什么、谁发现的。记录立起来之前,任何归因讨论都是凭印象吵架。

下一步想先摸清各家模型在「会不会硬编」这件事上的差别,可以去站内模型资料库对照着看;如果手上已经有中转站或自建接口,先用固定题目集跑一轮抽查,把波动摸出来再决定要不要换。具体数字以页面当时展示为准。

常见问题

大模型幻觉与人类认知偏差,是不是一回事?

不是。幻觉是模型生成了不成立的内容,属于输出层面;认知偏差是人在判断时系统性地跑偏,属于接收和决策层面。两者会互相放大,但修法完全不同,前者靠约束生成,后者靠流程和交叉核对。

模型答错,怎么快速判断是幻觉还是我没问清楚?

把同一问题换个说法再问一次,同时把原始材料摆出来逐条对。答案随问法变、材料里找不到出处的,是模型侧的问题;两次都错在同一处、材料里明明有却被忽略的,多半是人这边的偏差。

提示词里加「不要编造」有用吗?

有一点,但光靠这句话不够。更有效的是给出出口和标准:允许说不知道、要求标注出处、明确哪些字段不许补。堵死所有拒绝选项的提示词,反而会把模型往编造的方向推。

同一个模型,为什么同事用着准,我用着总出错?

很可能不是模型的问题。问法、给的材料、有没有回头核对,这几项差异带来的结果差别比换模型还大。建议两人用同一批题各做一遍,把过程记录下来对照,差异通常一眼就能看出来。

高风险的业务里,能不能靠这套方法把风险降到零?

不能。分清幻觉和偏差只是把问题归位,让人知道该修哪一层。涉及对外承诺、合规或资金的判断,仍然需要人工复核和责任人签字,模型侧的任何约束都只是降低概率,不是保证。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。