大模型幻觉的四种类型怎么选?先看错出来的东西你敢不敢直接用

入门与上手

把大模型幻觉拆成四种常见类型,给一套按使用场景挑重点的判断顺序,配可执行的核对动作和不适用的边界。

你可能是这样卡住的:模型答得又快又像那么回事,可一旦拿去用,就发现作者、数字、条款对不上。这篇不讲原理,只解决一件事——同样是幻觉,你这次到底该防哪一种、先查哪一项。看完能自己排出一张对症的检查清单。

你大概是这么卡住的:模型答得又快又像那么回事,段落齐整、语气笃定,你顺手就复制进了文档。等拿去用,才发现作者对不上,数字像是从别的年份飘过来的,条款条件和现行版本差了一截。这时候再回头翻,已经花掉半小时。

这篇不讲原理,也不讨论模型为什么会编。只解决一件事:同样是幻觉,你这次到底该防哪一种、先查哪一项。看完你应该能自己排出一张对症的检查清单,而不是每次都对着一整段文字发愣,不知道从哪儿下手。

先说清楚:四种类型不是四个等级,而是四种不同的错法

很多人把幻觉当成一个从轻到重的刻度,觉得小错无所谓、大错才要防。这个理解会让你查错地方。四种类型是按「错在哪一层」分的:编事实、编来源、编细节、编因果逻辑。它们没有高低之分,只对应不同的核对动作。

分型的意义在于决定你先查什么。一段输出里同时中两三种很常见,别指望一次全清。我一般先看这段东西要拿去干什么,再倒推哪种错最要命。你要是想先摸清各家的整体表现,可以到 /rankings 看当时的评测结果,但记住那是平均情况,落到你手上这段文字还是得自己查。

第一种:事实编造——名字、数字、时间张口就来

最典型的样子:问它某个概念的定义、某个人的履历、某个参数的上限,它答得顺,句子读起来毫无破绽,但那个名字、那个数值根本不存在,或者存在但不是它说的那个。这种错最容易被放过,因为语句本身通顺,你的注意力会被行文带走。

判断标准很粗暴:这条信息能不能在站内资料库里找到对应条目,找不到就先当它没说。做法是拿支笔,把答案里所有专有名词和数字圈出来,逐个回查,查不到的直接删掉再给人看。别试图「改一改」让它对,你改出来的新数字同样没依据。

  • 圈:所有人名、机构名、产品名、年份、数量、比例
  • 查:逐个回资料库或原始文档,确认能对上
  • 删:查不到的一律删,不要保留「大概是」的说法
  • 标:必须保留但暂时没法确认的,写成待核并注明来源缺失

这一步花的时间通常最短,收益也最直接。麻烦的是很多人跳过圈这一步,直接从头改文风,结果把错的事实润色得更像真的,下游更难发现。

第二种:来源编造——书和论文真的有,页码是假的

这种最坑,因为它看起来最可信:作者对、期刊对、年份对,格式标准得像模板,就是那一页没有这句话。你按它给的线索去查,能查到这本书,反而更容易信以为真,以为只是自己记错了。

适用场景要分清。写报告、做综述、给领导交材料,优先防这一种,因为引用一旦被追查,丢的是你的可信度。纯粹闲聊、起个草稿,不用管它,成本不划算。

  1. 只留能拿到原文的引用每条引用都问一句:我现在能不能打开原文或拿到确切链接?拿不到的先不放进正文。
  2. 降级处理必须保留的观点,改写成「据我了解」并明确标注待核,别伪装成有出处的断言。
  3. 抽一条验一次一份材料里至少随机挑一条引用实查一遍。全对不代表全对,但抓到一条假的,整份材料都得重查。

第三种:细节漂移——主体对了,条件、范围、单位错了

常见于参数、条款、流程步骤。模型记得大致方向,把 A 版本的条件套到 B 版本上,或者把「不超过」写成「不低于」,把按月算写成按年算。主体没错,错在边上,所以特别容易漏。

判断标准:凡涉及「谁适用、什么时候生效、按什么单位算」的表述,一律回原始出处核对,不要凭印象放行。这类错不适用的情况也很清楚——纯头脑风暴、起名字、写文案,细节漂移基本不构成风险,别在这儿浪费核对时间。

看到这类措辞回查什么查不到怎么办
适用于、仅限、不包括适用范围的原条款删掉限定词,改为泛指或直接不用
不超过、不少于、以上具体数值和比较方向保留原文表述,标注待核
按…计算、以…为准单位、周期、基数重写为不带计算的描述
生效、截止、有效期对应版本和时点到 /guides 找对应指南确认口径

第四种:因果编造——数字没错,串起来的推论是硬凑的

它不撒谎,只是把两件不相干的事说成有先后关系。前面的事实你逐个查都对,可整段读下来那个「所以」是硬接上去的。这类最难自查,因为你是顺着它的逻辑读的,读的时候大脑会自动帮你补上中间那步。

做法我试过几次,比较管用:把结论单独抄出来,遮住中间论证,问自己一句「只看这两个事实,能不能推出这句」。推不出来,就说明中间那段是模型自己补的,不是从材料里来的。这时候别急着润色结论,先把被遮住的论证拆开看缺了哪一环。

事实全对,不代表结论成立。核对事实和核对推论,是两件事。

怎么选:按「错了的代价」排优先,不按类型编号排

四种类型不需要每次全防。按错了之后的代价来排,效率高得多。对外交付、涉及钱和合规的,先防来源编造和细节漂移,事实核对放第二轮——因为这类错一旦被外部发现,代价最大。内部讨论、找思路的,先防因果编造,其他三种抓到再说,反正没人会拿讨论稿去签合同。

只是要一段能用的文字,比如产品说明、活动文案,细节漂移最影响返工,其余可以先放过。拿不准的时候,就统一走一遍四步:圈名词、查引用、抠条件、剥结论。全程控制在十分钟内,超时基本说明这份输出本身不值得用,换个问法重来更快。想知道各家中转站在稳定性上的差异,可以去 /sites 看当时的检测记录,但那是选渠道,不是替你核对内容。

一张能直接照着做的核对清单

下面是四遍过法,顺序别换。第一遍只找名词和数字,不做任何判断,先全部圈出来;这一遍刻意不动脑,避免边看边改。第二遍查来源,拿不到原文的引用全部降级为待核。第三遍看条件和单位,重点盯「适用于」「不超过」「按…计算」这类词。第四遍把结论段落单独读一遍,看它是否还站得住。

  1. 第一遍:圈只圈名词和数字,不改写不判断。验证方式:圈完看数量,通常比你预想的多。
  2. 第二遍:查来源逐条找原文。验证方式:能打开原文的比例,低于一半就整篇降级使用。
  3. 第三遍:抠条件对照上面那张表逐项回查。验证方式:限定词是否都在。
  4. 第四遍:剥结论遮住论证,单读结论。验证方式:自己能否不借助原文复述推理链。

全程十分钟是个硬线。超时别硬撑,那份输出多半本身就有问题,重问一次比修一遍便宜。你要是想先把渠道和工具的底摸清,可以到 /tools/speed-test 跑一遍再决定用哪家,但核对动作还是得自己做。

这套分型什么时候不管用

第一种不管用的情况:模型被明确要求创作、虚构、角色扮演。这时候编造是功能不是缺陷,你拿核对清单去卡它,纯属给自己找麻烦。第二种:你手上没有任何可回查的原始材料,只能靠模型给的信息——这时问题不在幻觉类型,在信息源本身,换渠道比改清单更有用。

第三种:任务本身是开放探索,没有标准答案,比如让模型帮你想三个方向。核对清单在这里会变成无意义的自我怀疑,每个词都想验一遍,最后什么也出不来。这时候该做的是先收下草稿,等方向定了再回头查事实。

下一步如果你正在比几个渠道,别只看报价,先看它们的内容可信度和检测记录,再决定这份材料值不值得花十分钟核对。

常见问题

四种类型必须分清才敢用吗?

不用。分清只是为了让你知道先查哪一项。实际用的时候,把名词、引用、条件、结论四步过一遍,比纠结属于哪一类有用得多。

事实编造和细节漂移怎么区分?

看错的层级。整件事、整个人都不存在,是事实编造;事情和人都在,但适用条件、单位、范围对不上,是细节漂移。后者更隐蔽,因为它经得起粗看。

为什么因果编造最难查?

因为它的每一块材料都可能是真的,错在连接方式。你顺着读会觉得很顺,只有把结论抽出来单独看,才发现中间那一步是硬接上去的。

创作类任务也要按这套核对吗?

不需要。写故事、起名字、做头脑风暴时,编造本来就是产出的一部分。这套清单只适用于你需要对外负责、需要能被别人复核的内容。

核对要花多久才算合理?

一般控制在十分钟内。超过这个时间还没核完,说明这份输出本身信息密度不够或者可信度太低,不如换一种问法重新生成一次。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。