ai幻觉和生物幻觉原理：两套出错机制，判断与排查怎么做

搜「ai幻觉和生物幻觉原理」的人，多半是碰到了两种困惑：一是模型一本正经胡说，想弄清它为什么会这样；二是把人的幻觉、错觉、记忆错乱拿来类比，越比越糊涂。这两件事看着都叫「幻觉」，底层机制却完全不同，混着理解会得出错误结论，比如以为「多问几遍它就自己想明白了」。这篇先把两套机制拆开，再给一套能照着走的判断与排查顺序。

搜「ai幻觉和生物幻觉原理」的人，通常卡在两个地方。一是模型一本正经地胡说八道，想搞清楚它为什么会这样，能不能从根上治；二是拿人的错觉、记错事、病理性的幻觉来类比，比着比着就糊涂了——既然人也会犯错，那模型编点东西是不是也算正常？

这两件事都叫「幻觉」，但底层机制差得远。混着理解会推出很危险的结论，最常见的一个就是「多问几遍它自己就想明白了」。实际用下来，同一个错误前提你换三种问法，它可能给你三种不同版本的编造。这篇先把两套机制拆开，再给一套能照着走的判断和排查顺序。

先别急着类比：名字一样，机制不是一回事

AI 幻觉是概率生成的结果：模型在每一步挑下一个最可能的词，训练里学到的共现模式撑起了整段输出。它没有「我刚刚说的是真的吗」这一层主观体验，也没有一个事实库检索的必经步骤。生物幻觉则落在感知和认知系统上——输入信号本身可能是好的，坏在加工环节。这两件事只有一个共同点：输出和外部现实对不上。

借用这个词做用户沟通没问题，跟同事解释「它就是会编」时用「幻觉」很省事。但做技术判断和兜底设计时不能借。你一旦假设模型「知道自己在编」，下一步就会想用追问、提醒、让它自查来纠正，而这些动作对概率生成基本不起作用，反而容易得到一段更自信的编造。

• 类比有用的时候：对外解释现象、写产品提示语、跟非技术同事沟通风险
• 类比有害的时候：设计核查流程、判断某段输出能不能直接用、评估要不要换模型
• 最典型的误判：以为模型「心里有数只是没说」，于是靠二次追问代替外部核对
• 正确的姿势：把模型当成一个没有现实校验环节的信息加工器，出错是默认状态，不是意外

AI 这一侧：它每一步都在挑下一个词

理解这一点，很多现象就不用猜了。模型写出一段流畅的话，只说明这段词序列在统计上很常见，不说明背后有依据。越具体、越少见的要素越容易出问题：人名、编号、条文号、引用页码、具体日期，这些在训练语料里出现次数少、区分度又低，模型很容易按「长得像」的规律拼一个出来。

还有一种情况特别隐蔽：你的提问里藏了错误前提。比如你问「某条规定里关于 X 的例外是怎么写的」，而这条规定压根没有 X 的例外，模型往往不会先纠正你，而是顺着前提往下编一段例外说明。它不是在骗你，是在完成「补全一段合理文本」这个任务。

温度和采样设置会影响发散程度，把温度调低确实能让输出更保守、更贴近高频模式。但这只是降低编造的概率，不解决「有没有依据」这个根本问题。想对照提示和调参术语，可以到 /ai-dict/category/tips 看当时的整理，别拿记忆里的参数经验直接套。

生物这一侧：输入本身没坏，是加工环节错了

人的「幻觉」得拆开看，混在一起谈会失去判断力。感知层面的错觉，是刺激本身在，但被加工歪了；记忆的错构和混淆，是细节被重组、来源被记串；病理状态下的幻觉，则是没有外部刺激却产生了真实感知体验。三者的触发条件、严重程度、应对方式完全不同。

人有一个模型没有的东西：现实校验。你说错一个电话号码，对方当场纠正你；你记错一次会议时间，迟到这个后果会给你反馈。多数人的错误会被环境和他人迅速压下去，留下的痕迹也大多可查——你能回忆起自己是在哪听说的、大概什么时候记下的。模型没有这个过程，它每次都是从零重建一段文本，上一轮的「记忆」并不构成对下一轮的约束。

所以「人也会记错」这句话不能拿来给模型开脱。人的错误通常有来源可追溯、有反馈可纠正；模型的错误是每次全新生成，同一个问题问两次，可能得到两个都错但错法不同的答案。这也是为什么核查不能靠「再问一遍看它怎么说」。

判断标准：什么样的输出必须先假设它可能错

判断一段输出该不该信，不用凭感觉。有一个很实用的分界线：看它有没有出现可被外部证实的精确要素。数字、编号、条款、文献、链接、日期、具体的人名和机构名——只要出现这类东西，就先当未核实处理，哪怕它读起来特别顺、语气特别肯定。

另一个信号是自相矛盾。同一段输出里前后口径不一致，或者前一句说「通常是这样」、后一句又给出一个斩钉截铁的绝对结论，这都说明它在拼凑而不是在陈述已知事实。反过来，答得过于顺滑、全程没有任何不确定表述，也要留个心眼——真正有依据的回答，往往会带一点边界说明。

也有可以放宽的情况。纯头脑风暴、改写润色、格式转换、翻译这类不依赖外部事实的活，核查成本可以压低，重点看结果好不好用，而不是逐句找依据。但要注意一个不适用场景：领域内根本没有可查依据的问题，靠核查解决不了，这时候正确的做法不是硬核，而是换成「只给方向、不给结论」的用法。

排查顺序：从提问到输出，四步走

碰到一段可疑输出，别一上来就换模型或者重写提示词。按下面这个顺序走，大部分问题在前两步就能定位，省掉很多无用功。

1. 先查提问回看自己有没有把错误前提塞进去，有没有该给的资料没给。把「是不是它没材料只能编」和「是不是它编了材料」分开，这两种情况处理方式完全不同。
2. 再查依据让模型逐句标出处，标不出来的句子直接列为高风险句。注意这一步只是筛句子，不是验证——它标出来的出处同样要核。
3. 然后查外部拿关键词回到原始来源核对，别在同一个模型里自我验证。同一个模型自查，等于让出题人自己判卷。
4. 最后查场景这份输出是要发出去、要进合同、还是要喂给下游系统？按后果的严重程度决定核查强度，不是所有输出都值得同等对待。

这四步的价值在于顺序。很多人跳过前两步直接去换模型，结果换了三四个，同样的问题还在——因为问题出在提问或者场景本身，不是模型选得不对。先定位再动手，比反复试错便宜得多。

团队能落地的几件事

一个人用，靠习惯就够了；一个团队用，得靠流程。第一件事是把输出分类：哪些必须依赖外部事实（对外文案、合同条款、数据引用、客户答复），哪些只是内部草稿。前者走人工复核，后者走抽检。这个分类不做，核查就会变成全量负担，最后没人执行。

第二件事是给提示词加固定约束。不确定就说不确定、禁止编造引用、宁可少答也不要补全——这几句写进系统提示，比事后逐条纠错省力。但它只是降低概率，别指望写完就再也不出问题。第三件事是建样例集：遇到疑似幻觉就留档，记录提问、输出、核实结果。攒一段时间你会发现同类问题反复出现在相似的提问结构上，这才是真正值得改的地方。

• 把需要外部事实支撑的输出单独列出来，走人工复核，其余走抽检
• 提示词里固定写死「不确定就说不确定、禁止编造引用」这类约束
• 建立可复现的样例集，疑似幻觉一律留档，方便比对是不是同类问题反复出现
• 把核查成本算进流程，别把「零幻觉」当目标，那不现实
• 换模型前先确认问题出在提问、依据还是场景，别拿换模型当万能药

降低幻觉损失靠的不是让模型不犯错，是让错误在流出去之前被拦下来。

想拿当时的数字和口径，去哪查

上面讲的是机制和流程，涉及具体能力和成本的判断，别拿记忆里的印象做决定。模型能力、速度这类对照数据会变，站内一直在更新，看当时的数字比看别人转述靠谱。

要对比各家模型的实际表现，去 /codex-live 看当时的对照；要算成本，到 /official-api 核对各家官方接口的规格与计费口径，别拿旧信息估预算；想实测某家输出质量，用 /tools/quality-check 跑一遍再下结论。这些页面上的数字和排名都会变，重点是核对当时的版本，而不是记住某个结论。