你可能遇到过:模型一本正经给出一条不存在的论文、编出一个看着很合理的接口参数,或者把两件事的因果关系讲反了。这类错误不是「它不想答」,而是它本来就这么工作。这篇不重复幻觉怎么治好,只讲幻觉是什么、在哪几类任务上最容易冒头、以及你当场怎么判断和补救。
你可能遇到过:模型一本正经给出一条不存在的论文,编出一个看着很合理的接口参数,或者把两件事的因果关系讲反了。这类错误不是「它不想答」,也不是它偷懒,而是它本来就这么工作。你追问一句,它甚至还能给这个错误补上更多细节。
这篇不重复幻觉怎么治好,只讲幻觉是什么、在哪几类任务上最容易冒头、以及你当场怎么判断和补救。看完之后,你至少能分清哪些输出可以直接用,哪些必须先挂个「待验证」的标签。
幻觉到底指什么:说错、编错、还是不知道却说知道
幻觉指模型生成了流畅、格式正确,但与事实或与你给的材料不符的内容。重点在「听起来对」而不在「错得离谱」——真正离谱的答案反而好识别,麻烦的是那种语气笃定、细节齐全、结构工整的错。
它和普通口误、粗心不一样。口误是偶发的,幻觉往往成体系:同一个错概念会在几轮对话里反复出现,还会被你追问时越描越细。读者不看原文,很难第一眼分辨。
- 不是某个模型独有的毛病,换模型、换厂商、调参数都只能降低概率,不能清零
- 同一件事换个问法问两遍,如果两次答案对不上,至少有一次是编的
- 它常出现在你没法立刻核对的地方:冷门文献、内部字段、小众法规
- 什么时候不适用:如果你要的是创意发散、脑暴、修辞润色,这里「编」恰恰是需求,不要拿事实标准去要求它
为什么会发生:它是在续写,不是在查证
模型的训练目标是预测下一个词,追求的是「这段话在该语境下接得像不像」,而不是「这句话是不是真的」。它没有联网查证的动作,也不是从某个数据库里检索出答案再念给你。
训练数据里没覆盖到的细节,它并没有「我不知道」这个默认出口,只能按学到的语言规律填一个最像的。这就是为什么越具体的数字、越冷门的名字,越容易出事——因为「最像的下一个词」在那些位置上最容易跑偏。
- 续写机制
- 它在补全一段看起来合理的文本,合理性和真实性是两回事
- 缺失出口
- 不知道时它不一定会承认,而是倾向给出一个符合语境的填充
- 上下文干扰
- 你贴的材料有歧义、过期或互相打架时,它常选一个说法讲下去
- 预设引导
- 指令里带强烈预设时,它更容易顺着你的方向补出内容
换句话说,幻觉不是偶发故障,而是这套机制的副产品。想让它更靠得住,靠的是提问方式和核对流程,不是指望某一次调用运气好。
哪些任务最容易冒头:一份自检清单
同样是幻觉,不同任务上的杀伤力差很远。先按任务分个风险档,能帮你决定要不要逐字核对。
| 风险档 | 典型任务 | 处理方式 |
|---|---|---|
| 高危 | 要具体数字、日期、人名、引用出处、法规条款、接口字段与参数取值 | 逐条核对,核不到就不采信 |
| 中危 | 多步推理、跨文档总结、把口头描述翻译成代码或公式 | 抽查关键步骤,验证中间结论 |
| 低危 | 改写、翻译、分类打标、格式化整理 | 先看是否忠于原文,事实性可放宽 |
- 看答案里有没有「可被外部证实的具体断言」,有就重点盯
- 看它有没有把不确定的地方标出来,全篇零犹豫反而更可疑
- 看结论和它引用的材料是否对得上,尤其注意有没有超出你给的范围
- 自检方式:拿到答案先问自己「这条信息如果错了,我有没有别的地方能核对」,核不了就先标成待验证
当场怎么判断和补救:一套可执行动作
光知道原理不够,关键是当场能做什么。下面这组动作不需要工具,改一下问法就能用。
- 先要依据再要结论把提问从「直接给答案」改成「先说依据和假设,再给结论」,看它能不能把推理链摆出来。
- 追问三连这条信息出自哪里、如果记错了可能是哪种错、哪些部分你没有把握。答不上来的部分就是风险区。
- 给材料再问把需要它回答的范围限制在你贴进去的文本里,并要求只依据该材料作答,超出范围就说没有。
- 外面对一遍拿不准的事实类结论,去站内 /ai-dict 与 /models 这类资料页把概念和口径对一遍,再决定采信。
- 固定成流程把这几步写进你自己的检查清单,长期做法与取舍见 /guides/hallucination-mitigation-playbook 那篇的落地思路。
需要提醒的是,这套动作能显著降低被误导的概率,但给不了「绝对准确」的保证。如果你的场景对错误零容忍,那结论应该是加人工复核,而不是换个模型继续盲信。
下一步想对比不同模型在事实类任务上的表现和资料口径,可以到模型资料库和评测页面看当时的数字,再结合你自己的检查清单决定用哪个。→常见问题
模型说「我不确定」的时候,是不是就没幻觉了?
不一定。语气上的不确定和事实上的错误是两回事:有的模型习惯在正确答案上加一堆免责,有的模型则会用同样自信的口吻讲错话。所以别把「说得犹豫」当成可靠信号,也别把「说得斩钉截铁」当成可信证明,还是要拿外部材料核对关键事实。
换一个更大的模型,幻觉就消失了吗?
不会清零。模型规模、训练数据覆盖、是否联网检索,都只影响幻觉出现的频率和类型,不同模型在不同领域的弱项还不一样。现实做法是把「必须准确」的部分交给可核对的来源或检索,把模型放在整理、表述、提取这类环节上。
我做的只是内部文档总结,也会遇到幻觉吗?
会,而且更容易被忽略。当材料很长、术语密集或者前后有冲突时,模型可能把两段内容缝在一起,或者补出一个材料里没有的数字。稳妥的做法是要求它逐条标注对应原文位置,你抽几条回查,确认口径一致再往下用。