AI幻觉和人类幻觉原理，常见问题和做法

团队里有人把模型答错归成「它胡说」，也有人把自己的记错说成「我也幻觉了」，两种说法混在一起就没人去改流程。这篇把AI幻觉和人类幻觉的产生机制分开摆，给一份判断顺序：哪些错是模型缺依据、哪些错是人缺核对，以及各自该在哪一步动手，什么情况下这套判断不适用。

团队里经常出现两种说法：有人把模型答错归成「它胡说」，也有人把自己的记错说成「我也幻觉了」。两种说法混在一起，讨论就停在「以后注意点」，没人去改流程。其实这两件事的成因完全不一样，一个是生成时缺依据，一个是记忆和动机在作怪，用同一套办法治基本没效果。

这篇把两种「幻觉」分开摆，给一份遇到可疑结论时的判断顺序：先分清这句话是谁产出的、有没有可点开的原始来源、错了会有什么后果，再决定是去查资料还是去补流程。判断标准写清楚，也说明什么情况下这套顺序不适用。

AI幻觉和人类幻觉是怎么来的

模型侧的核心机制是按概率往下续写。当它手里没有足够依据时，不会停下来告诉你「我不知道」，而是用一段读起来很顺的措辞把空补上。训练数据里的旧信息、时效断档、问题问得越具体，这种补空就越容易发生。所以模型出错往往不是「态度问题」，而是它本来就没有可靠依据，却被要求给一个确定答案。

人这边不一样。人的记忆是每次回忆时重新拼出来的，拼的过程中会掺进后来听到的信息、自己的预期和想听的结论；事后复盘时又习惯给事情补一条通顺的因果线。确认偏误再一叠加，人很容易把自己希望是真的东西记成「当时就是这么说的」。

模型侧

分布外生成：缺依据时用像样的措辞填空，越具体的提问越危险

人类侧

记忆重构加动机偏差：回忆时重新拼接，倾向记住自己认同的版本

共同点

两边都会给出「听起来很确定」的答案，但确定性不等于有依据

关键差别

模型的问题在生成环节，人的问题在核对和传递环节，改的位置不同

三个容易被混成一件事的场景

下面三种情况在日常里最常被笼统叫成「幻觉」，但归因不同，处理动作也完全不同。分错了，后面的整改就会打偏：该查来源的去做了培训，该改流程的去换了模型。

需要注意的是，第一行里「来源对不上」有时是链接失效或页面改版，不一定是模型编的。判断前先确认原始页面还在不在，再到 /guides 看有没有对应的查证方法说明。第三种情况最麻烦，因为错误经过了一次人工确认，责任看起来被「稀释」了，实际上核对点根本没落实。

遇到一句可疑结论，按这个顺序查

1. 先分角色确认这句话是模型直接产出的、人转述别人的，还是人自己推测出来的。角色不同，后面查的方向不一样，别一上来就怪模型。
2. 再分依据看有没有能点开的原始来源，是官方文档、产品页，还是二手转述或截图。找不到原始出处就先停，不要用「感觉对」来补。
3. 最后看后果如果这句错了会影响钱、合规、对外承诺或客户交付，直接升到人工复核，不要让模型自证清白，也不要靠再问一遍模型来确认。
4. 够不上就改口径三条里有任何一条说不清，就先记成「依据不足」，别急着下「这是幻觉」的结论。标签贴早了，复盘就会变成互相甩锅。

这套顺序也有不适用的时候：纯创意写作、头脑风暴、内部草稿这类错了也没成本的场景，不必每条都追来源，追下去只会拖慢节奏。反过来，对外发布、合同条款、参数配置这类内容，哪怕模型答得很有把握，也要走完上面三步。报价和模型选择这类需要具体数字的判断，到 /price-watch 核对当时的数字，不要凭记忆或凭模型转述。

对AI和对人，动作不一样

模型侧的可执行动作是缩小它的发挥空间：把回答范围限定在给定材料里，要求指出来源位置而不是只给结论，关键结论换一种问法再问一次做比对。敏感场景先接检索再生成，让它有东西可依，比在提示词里反复强调「不要编」管用。

• 对模型：限定材料范围，要求标出来源位置，关键结论二次提问比对
• 对模型：时效性强的信息先检索再回答，别让它靠训练记忆硬答
• 对人：把核对点写进流程，明确谁签字、对哪份原件，别指望靠提醒减少传错
• 对人：关键数字和结论落成书面记录，减少口头转述的环节
• 两边共用：把容易出错的结论沉淀成对照表，下次直接查，不重新问也不重新回忆

两边共用对照表这一条最容易被忽略。同一个问题反复问模型、反复找人确认，成本高还不稳定；把已经核对过的结论、来源和适用条件记下来，下次先查表，查不到再走上面的判断顺序。哪些工具适合做这类留档，可以在 /tools/speed-test 和相关工具页里按需挑，别为了留档引入一堆用不上的东西。