你大概遇到过这种场面:AI 一本正经给出一本书名、一个法条编号、一段 API 用法,你拿去用才发现根本不存在。这跟「它答错了」不是一回事,处理方式也不一样。这篇把幻觉的成因、典型表现和「错误」的边界讲明白,最后给一份三步核对清单,让你拿到答案后知道该查哪里、查到什么程度可以放心用。
你大概遇到过这种场面:AI 一本正经给出一本书名、一个法条编号、一段 API 用法,你拿去用才发现根本不存在。这跟「它答错了」不是一回事,处理方式也不一样。把幻觉当成普通错误来改提示词,往往改不动;把普通错误当成幻觉来怀疑一切,又白白浪费一次次能用的回答。
这篇把幻觉的成因、典型长相、以及它和「错误」的边界讲清楚,最后给一份可以照着走的三步核对清单。目标是:你拿到一段回答后,知道该查哪里、查到什么程度就算过关,而不是要么全信、要么全不信。
一句话说清:幻觉是怎么产生的
先把根子上的事说明白:模型不是在「查资料」,而是在按概率接下一位。它见过的文本里,这类问题后面一般跟着什么写法,它就生成什么写法。所以它天然倾向给出通顺、格式规整、像模像样的内容,而不是真实存在的内容。这两件事在模型眼里没有区别——「看起来对」和「真的对」是同一个目标。
还有一个反直觉的点:训练数据里没见过的,或者见过但记串了的内容,模型通常不会说「我不知道」。它没有内置的「此处存疑」开关,只会用最像的写法把空位补上。更麻烦的是,幻觉很少自带提示——语气、排版、条理全都正常,甚至比真话更工整,迷惑性正来自这里。
- 模型目标是「像」不是「真」,通顺和真实是两个独立的标准
- 没把握时不说不知道,而是补一个最像的答案
- 格式规范不等于内容可靠,越规整越要留意
- 它不会主动区分「我记得」和「我猜的」,这活只能你来干
四种最常见的幻觉长相
幻觉听起来抽象,但落到具体输出上就那几种长相。认熟了以后,你扫一眼就能大致判断「这段该不该去核」。下面这四类覆盖了日常遇到的大部分情况,注意它们可以叠加出现,比如编来源的同时把细节也编了。
| 长相 | 典型表现 | 第一反应 |
|---|---|---|
| 编来源 | 书名、论文、判例、条款编号、网址看着规整,实际不存在或张冠李戴 | 按可查事实处理,去找原文 |
| 编细节 | 主体是对的,数字、时间、人名、参数被换成相近的值 | 回到一手材料逐个对 |
| 编能力 | 声称能查实时数据、能读刚发的文件、能调用某工具,其实没接上 | 验证它到底连了什么 |
| 过度自信 | 把「大概是」写成「一定是」,不给不确定,也不提前提条件 | 自己补条件再判断 |
「编来源」最值得警惕,因为它最难自查——一个不存在的条款编号看起来和一个真的没有区别,除非你真去查。而「编能力」常常被忽略:很多人以为 AI 能读自己刚粘贴的整份文件,其实上下文里能塞多少、有没有真的解析,得看具体接入方式,这类信息到站内模型库核对当时的说明更稳。
幻觉 vs 错误:差在哪,怎么分别处理
很多人把这两个词混着用,但它们的处理方式相反。错误常见于算错、理解偏、口径不合你的要求——逻辑链本身还是通的,你指出问题、补条件、换个问法,通常能收敛。幻觉是凭空生成了本不存在的事实,你越是追问,它可能越认真地继续编,因为它不觉得自己错了。
判断上有个简单的分法:看这段内容指向的是「外部可验证事实」还是「基于你提供材料的推理」。指向外部事实的,先按幻觉预案走,能查的都查;指向你自己材料的,先当推理可能出错,回头对一遍原文条件就行。
| 维度 | 幻觉 | 一般错误 |
|---|---|---|
| 来源 | 生成了不存在的事实 | 事实在,但用法或理解偏了 |
| 追问效果 | 越问越像真的,可能继续编 | 补条件、换问法通常能修 |
| 典型场景 | 条款号、模型能力、接口字段 | 算错、口径不合、答非所问 |
| 处理方式 | 先核实,不核实不采用 | 指出问题,要求重做或补条件 |
- 不确定属于哪类时,先问:这条内容离了 AI 还能不能在现实里找到?
- 找不到就直接归入幻觉预案,别花时间争论它「有没有道理」
- 头脑风暴、起名、写文案初稿这类没有唯一正解的任务,不必逐句核
- 涉及对外发布的数字、条款、字段名,一律按幻觉标准从严
三步核对清单:拿到答案先做这三件事
- 分档把回答里的内容拆成三类:可查事实(人名、条款、接口字段、外部数据)、推理结论、主观建议。只有第一类必须逐条核,第二类对一遍条件,第三类直接当草稿看。
- 找一手来源模型名、模型能力、上下文档位这类信息,到站内模型库和术语词典对照当期的说明,别拿另一个 AI 的回答当依据。看不明白就先记下疑点。
- 留痕验证把关键数字、条款号、接口字段单独搜一次,搜不到原文就把它降级成「假设」,别直接写进对外文档或生产代码。搜到了,把来源链接一并记下。
这三步的核心不是「怀疑一切」,而是把有限的核对精力花在真正会出事的地方。一段回答里通常只有一小部分是必须核的,其余可以放心当草稿用。养成先分档的习惯,比逐字怀疑省力得多。
什么情况下这套判断不适用
上面那套判断有它的适用边界,硬套会适得其反。第一种情况是处理你自己喂进去的私有资料:这时候所谓「幻觉」更多表现为把你那几份文件记串了,核对对象应该是你自己的原文,而不是外部来源。
第二种是纯创作、翻译润色、格式整理类任务。这类本来就不要求事实唯一,重点应放在通读一遍有没有硬伤,而不是逐句去查。第三种更明确:涉及医疗、法律、财务决策的答案,不管看起来多靠谱,都要走人工或官方渠道二次确认,这套自助清单不能替代专业意见。
- 私有资料场景:核你自己的原文,别去外面找不存在的「标准答案」
- 创作翻译场景:只看有没有硬伤,不做事实级核对
- 医疗法律财务:一律走人工或官方渠道,清单不替代专业意见
- 纯闲聊、找灵感场景:不用启动这套流程,省点力气
常见问题
AI 说得特别肯定,是不是就说明是真的?
不是。语气自信和事实正确没有关系,模型只是在生成最顺的下一个词。判断标准换成:这句话涉及外部事实吗?能查到原文吗?查不到就先当假设,别当结论用。
同一个问题问两次,答案不一样,哪次是幻觉?
可能两次都不准。模型按概率生成,默认带随机性,所以答案会飘。想稳定一点可以要求它给出处、给前提,再拿两次答案里重合的部分去核对,重合不等于正确,但至少说明它没在乱补。
怎么让 AI 少编一点?
几个可落地的动作:明确要求它标注不确定、允许回答「不知道」;把资料直接贴进上下文让它基于原文答;涉及数字和条款时先要出处再去查。这些只能降低概率,不能保证清零,所以核对环节省不掉。