你可能在两个完全不同的场景里撞见同一个词:一个是模型一本正经编出不存在的事实,一个是人发烧、缺觉或精神紧张时看见听见并不存在的东西。两者都叫「幻觉」,但成因、能否被外部核对、以及你该做什么,几乎没有交集。这篇用一张对照表加三步自检,帮你分清说的是哪件事,并指出这个类比在什么情况下会误导人。
你大概在两个完全不搭边的场景里,撞见过同一个词。一边是模型一本正经地告诉你一个根本不存在的事实,语气还特别稳;另一边是有人发烧、连着几天没睡好、或者精神高度紧张的时候,说看见、听见了并不存在的东西。两件事都被叫「幻觉」,但它们的成因、能不能被外部核对、以及你该做的动作,几乎没有交集。
这篇不打算讲深奥机制,只想帮你练成一个反射动作:听到「幻觉」这两个字,先判断说的是哪一件事,再决定用什么办法处理。下面先用一张对照表把差别摊开,再给一套三步自检,最后说清这个类比在什么场合会把人带偏。术语口径想统一的话,可以顺手到 /glossary 之类的站内术语页翻一遍分类再讨论,先对齐用词,别急着争论对错。
同一个词,两套完全不同的成因
| 对比项 | AI 幻觉 | 生物幻觉 |
|---|---|---|
| 出错的主体 | 模型或整条生成链路 | 一个有感知能力的人 |
| 有没有主观体验 | 没有,它不「看到」也不「觉得」 | 有,人确实感知到了那个东西 |
| 典型触发条件 | 提示词、上下文、训练数据分布 | 疾病、药物、极度疲劳、感官剥夺、精神紧张 |
| 出错表现 | 文字通顺、结构工整,但事实没依据 | 看到/听到/闻到并不存在的东西,本人坚信不疑 |
- AI 幻觉本质上是概率生成的结果:模型按语言统计规律往下补,补出了通顺但无据可查的内容,这里没有「感知」,也没有「体验」;
- 生物幻觉是感知系统出了状况,属于真实发生的主观体验,当事人不是在编,也不一定是表达问题;
- 最关键的一条分界线是:有没有主观体验,以及这个错误能不能被外部证据直接推翻;
- 「AI 也会生病」这种说法只是修辞,听着顺耳,但它不是机制解释,别当成因果来看。
能不能被外部核对:这是最实用的一条分界线
AI 幻觉大多是可证伪的。换个说法再问一遍、去查一手资料、让它给出能点开的出处,往往当场就露馅了。它更像是「输出环节没被约束住」,而不是「认知环节坏了」。这也是为什么围绕 AI 输出,工程上能堆一整套兜底手段,而不用去谈什么治疗。
生物幻觉没法靠「再问一遍」来验证。你再问,对方给的还是那个答案,因为他确实感知到了。判断要靠医学评估、既往史和旁人观察,这是临床判断,不是技术问题。所以对着一个真实的人用「多问几次试试」这种办法,是帮不上忙的。
- 外挂知识库
- 把答案来源限定在可信资料里,让模型少自由发挥,属于给 AI 侧的兜底手段。
- 引用核对
- 要求输出带可查证的出处,再逐条点开对,能对上才算数。
- 多模型交叉
- 同一个问题换一两个模型问,答案南辕北辙时优先怀疑事实层面有问题。
- 临床评估
- 针对人的判断流程,靠问诊、既往史和旁证,跟上面三个不是同一类工具。
要提醒一句不适用的情况:AI 答错一道多选题,不一定叫幻觉,也可能只是它这方面的能力本来就不够。一个是「编造」,一个是「不会」,处理方式不一样——前者要加约束和检索,后者要么换模型要么降低预期。具体到各家模型当时的强弱表现,可以到 /rankings 看当时的评测数据,别凭印象下结论。
三步分清你现在遇到的是哪一种
- 第一步:看主体出错的是一个模型或一套系统,还是一个有感知能力的人?主体不同,后面整套动作都不同,这一步别跳过。
- 第二步:看触发条件换个提示词、换个模型、换个时间点再试,结果会不会变?只有 AI 幻觉会随输入漂移;人那边你换几种问法,描述基本还是那一套。
- 第三步:看证据形态能不能拿出一段可复查的原文、数据或资料来对照?能对照的,走 AI 这一套处理流程;拿不出客观证据、只能靠当事人描述的,先按人的问题对待,别拿技术名词往下解释。
- 如果对方描述的是「只有他一个人看到、听到」,先别套技术名词,认真对待他的处境;
- 如果是模型反复在同一个知识点上编,那是数据或检索环节的漏洞,去补来源比反复追问更有用;
- 如果两边同时出现,比如有人拿着模型的错误输出当真,那就得分两条线处理:一条修系统,一条关照人。
这个类比在哪些场合会误导人
把 AI 幻觉说成「模型产生了意识或者感知错乱」,是往一个方向上带偏:非技术读者会高估模型,觉得它「有想法」,而本该做的事——加检索、加引用核对、加人工复核——反而被跳过了。这类说法在培训或对外沟通里最容易埋雷。
反过来更危险:把人的幻觉说成「脑子里的模型算错了」,会让人把真实的就医判断往后拖。这不是措辞问题,是可能耽误事的方向性错误。两种误导里,后一种代价明显更高。
- 写文档、做培训时,凡是用到「AI 幻觉」或 Hallucination,补一句限定语:指模型输出了不实内容;
- 跟非技术同事沟通时,别用「生病」「发烧」这类拟人词,改成「编了个不存在的事实」更不容易误解;
- 想统一术语口径,先到站内术语页面按分类过一遍,用词对齐了再讨论机制,效率会高很多。
同一顶帽子戴在两个人头上,不代表他们是同一种人。先分清主体和证据形态,再谈怎么处理。下一步如果你更关心的是怎么给 AI 输出做事实核对、怎么挑靠谱的调用入口,站内的中转站与工具目录里能直接对比当时的可用情况与检测结果,比凭印象挑要稳。→
常见问题
AI 幻觉和生物幻觉是一回事吗?
不是。共同点只有一个词。AI 幻觉指模型生成了通顺但没有依据的内容,属于技术现象,可以被查证和工程兜底;生物幻觉指人真的感知到了不存在的东西,属于主观体验和临床问题,需要医学评估。两者在成因、验证方式、应对手段上基本不重叠。
为什么都叫「幻觉」,是翻译造成的吗?
有这层原因。英文里同一个词被借用到两个领域,中文照搬过来就成了同名不同义。判断时别看词,看句子在讲什么:主语是模型还是人,错误能不能被外部证据推翻。想系统对齐术语,可以到站内的 AI 术语词典按分类对照一遍。
分清这两者对我有什么用?
直接决定你下一步动作。是 AI 输出问题,就去做交叉验证、加知识库、加人工复核;是人感知到异常,就该走医学评估路径,别用技术手段解释。混着用最典型的坏结果是:该查证的没查证,该就医的没就医。