你可能遇到过这种时刻:模型一本正经给出一段看似合理的事实,你隐约觉得不对,却又说不上哪里错;同事坚持自己的记忆没错,最后发现记串了。两种都叫「幻觉」,但根子完全不同。这篇不堆概念,只拆成因和表现两条线,帮你判断眼前这次「胡说」属于哪一类,该复查什么、该不该信、下一步怎么验证。
模型一本正经给出一段看似合理的事实,你隐约觉得不对却说不清哪里错;同事坚持自己没记错,最后发现记串了。两种都叫幻觉,但根子完全不同。这篇不堆概念,只拆成因和表现两条线,帮你判断眼前这次胡说属于哪一类,该复查什么、该不该信。
先给一个总判断:AI幻觉是生成机制的副产品,属于系统特性;人类幻觉是记忆和推理的副产品,属于认知特性。两者不能互相背书,也不能用同一套办法验证。下面按成因、表现、排查顺序、日常处理四步讲,每一步都给能立刻上手的动作。
成因不一样:一个来自概率生成,一个来自记忆与推理
大模型按上下文预测下一个词,输出的是「最像答案的答案」,内部没有事实真伪的开关,只有概率高低。人类幻觉多半是记忆重构、信息缺口被脑补、以及情绪和立场带来的偏向,本质是在维护自我一致性。一个是语言统计产物,一个是认知补全产物。
- 模型端常见诱发条件:训练数据覆盖不足、上下文里混入错误前提、提示词逼着它必须给结论、长链条推理中途偏航。
- 人类端常见条件:时间久远、来源混杂、事后被他人描述改写、需要维护面子和立场。
- 一个关键差别:模型不会因为不知道而停下来,人类有时会因为不好意思说不知道而编。
- 反过来说,模型可以稳定复现同一个错误,人的错误更容易随提问角度变化。
表现不一样:看错在哪、错得多整齐
| 对比项 | AI幻觉 | 人类幻觉 |
|---|---|---|
| 外观 | 格式工整、语气笃定、细节具体 | 细节模糊、常自相矛盾 |
| 错误分布 | 成片出现,一个错前提污染整段推理 | 多为点状,换个问法可能就对 |
| 重复追问 | 答案可能漂移 | 说法通常稳定,除非被提示或施压 |
| 松动方式 | 不主动承认不知道,继续补细节 | 被追问时容易改口或含糊 |
| 收敛条件 | 接入可靠检索或工具后明显收敛 | 休息、换环境、查记录后改善 |
看表现时有个实用口径:别只看错没错,看错得多整齐。模型给出的人名、编号、条款常常像模像样,恰恰是危险信号;人的错误往往经不起追问,问两层细节就露馅。不过这条也有不适用的时候:模型接了检索工具会明显收敛,人在疲劳、酒精、高压下也可能成片出错。
遇到疑似幻觉:按这个顺序查
- 先分清对象是模型给的答案,还是人给的记忆。对象不同,验证方式完全不同,别用查人的办法去查模型。
- 模型输出拆结论和过程只保留可外部验证的事实点,逐条去一手来源核对;涉及数字、条款、引用,一律不以模型自述为准。
- 人的说法找旁证找同一时间点的书面记录或第三方在场记录,而不是继续口头对质;追问细节比追问结论更能暴露偏差。
- 统一原则先找独立来源,再看是否互相印证,单一来源不改判断。术语和对齐口径可到 /ai-dict/category/basics 先统一。
能让模型自己承认错的,往往不是更重的语气,而是换一个能点开的外部来源。
日常怎么用:把两类风险放进不同流程
对模型,把生成和核实分成两步:生成阶段允许它大胆写,核实阶段只认能点开的来源,别让同一个模型既出答案又做裁判。对人,重要结论要求留下书面依据,口头传达的内容默认需要二次确认。两条流程分开,才不会被同一套习惯带偏。
- 团队场景写进流程:模型产出的对外内容,指定一个非生成者做事实抽查,抽查比例按风险高低定。
- 人的口头结论:给一个二次确认的出口,比如群里复述一遍让对方确认。
- 别走极端:模型幻觉不代表它没用,人类幻觉也不代表人不可信,关键是分场景决定容错度。
- 想先摸清模型能力边界,可以去 /models 和 /ai-dict 对照看,别只凭一次对话下结论。
| 场景 | 该信谁多一点 | 动作 |
|---|---|---|
| 查事实、查条款 | 只信一手来源 | 模型输出只当草稿 |
| 日常闲聊、头脑风暴 | 可以放松 | 不必逐条核实 |
| 对外发布内容 | 谁都不全信 | 指定非生成者抽查 |
| 同事口述结论 | 需要旁证 | 找书面或第三方记录 |
常见问题
模型说得特别笃定,是不是就说明它没在编?
不是。笃定程度和事实正确性之间没有稳定关系,模型只是在生成「像答案的文本」,语气是风格的一部分,不是置信度信号。判断依据应该是能不能找到独立来源,而不是它说话有多肯定。哪怕连续追问几次都答得一致,也只是说明它稳定,不代表它对。
人类幻觉和记错、说谎怎么区分?
记错通常是细节偏差,主体事件没错;说谎是有意为之,当事人知道真实情况;而幻觉式的偏差往往是自己也确信,被证据推翻时本人会真的意外。区分方法不是靠态度,而是看有没有可验证的原始记录,以及当事人面对反证时的反应是否与「明知故犯」吻合。
我做的产品里,怎么减少用户被模型幻觉误导?
可以从三处下手:一是关键的对外结论强制带来源,让用户能自己点开核对;二是对数字、条款这类高风险字段走固定数据源,不交给模型自由生成;三是在界面上把「模型生成」和「已核实」区分显示,别让两者看起来一样。具体到检测和监控口径,可以看站内的 质量检测(/tools/quality-check) 与 质量监控(/tools/quality-monitor) 了解做法。