ai幻觉是什么意思

入门与上手

讲清 AI 幻觉是什么:它怎么产生的、在什么场景最容易撞上、以及普通用户能做的几种缓解动作与判断标准。

用 AI 查资料、写材料、做数据核对时,最怕它一本正经地编:时间、数字、引用、人名看着都对,一查全是假的。这篇不聊玄学,把幻觉的成因拆成几条能理解的原因,再给出你当场能做的核对顺序和缓解办法;看完你至少知道哪些活可以放心交出去,哪些必须自己再验一遍。

用 AI 查资料、写材料、做数据核对时,最怕它一本正经地编:时间、数字、引用、人名看着都对,一查全是假的。这篇不聊玄学,把幻觉的成因拆成几条能理解的原因,再给出你当场能做的核对顺序和缓解办法。

看完你至少知道哪些活可以放心交出去,哪些必须自己再验一遍。下面先说它长什么样,再说为什么编,最后给一套能照着做的排查和缓解动作。

AI 幻觉是什么:一句话和三种常见长相

说人话:模型是按「最像话的下一句」往下生成的,它给你的是一段通顺的答案,不是一份查证过的事实。通顺和正确是两套标准,大多数时候它们重合,冲突的时候模型往往优先保通顺,这就是幻觉的根。

  • 编造来源与链接:书名、论文名、文章标题都像真的,链接点开是 404 或者根本对不上内容
  • 把数字和日期说得像真的:统计口径、金额、时间点都给你,语气还特别笃定
  • 拼接出不存在的东西:把两个真实存在的实体拼成一个假名字,比如把两家的产品名合成一个

为什么会编:四个你能理解的成因

理解成因的意义在于,你能大概猜到哪类问题危险、哪类问题安全。下面四条不是学术结论,是你能直接对应到日常使用上的解释。

训练目标
它是被训练成「像人话」,不是被训练成「像事实」;两套标准冲突时,通顺优先
上下文缺答案
问题超出它掌握的范围时,它经常不说「不知道」,而是顺着你的问法补一个看起来合理的答案
问法带暗示
你问「是不是因为 X」,它容易顺着 X 往下编;封闭式提问会显著抬高幻觉概率
资料截止与联网
不联网时只能靠记忆,记忆模糊的地方就是幻觉高发区;相关术语可以到 /ai-dict 对照

这四条里,你能改的是后三条。也就是说,同样的模型,换个问法、补上材料,出错的概率就能明显降下来,不需要换工具。

哪些场合最容易撞上:风险对照清单

不用把每件事都当成高风险,那样效率太低。按「错了的代价」分三档,把力气花在真正要核的地方。

风险档典型场景建议动作
高风险法条与合同条款、医学用药、财务与统计数字、代码里的库函数与参数名、文献引用与链接一律回原始来源核对,不接受「AI 说是这样」
中风险行业惯例、人名职务、产品参数、时间线叙述抽查关键项,尤其是会被别人看的部分
低风险改写润色、头脑风暴、格式整理、翻译大意直接用,出小错不影响结果

判断某件事稳不稳,有个土办法:同一件事换三种问法问一遍,看结论是否一致。想看更系统的稳定性做法,可以到 /tools/output-stability-reproducible 看站内那套流程。

拿到答案后的核对顺序:四步排查

下面这四步按顺序做,不用全做完,通常做完前两步你就能感觉出这段答案值不值得信。

  1. 看出处看它有没有给可点开的来源。只给名字、不给链接的引用,一律当未证实处理。
  2. 反问他拿一个你已经确定知道的细节去问,看它是稳住还是改口。改口说明这段整体不可靠。
  3. 单拎关键项把数字、日期、专有名词单独列出来,去原始来源对一遍。这一步只对高风险内容做。
  4. 改追问方式不确定时别追问「你再想想」,改成「列出你这段里不确定的地方」,比逼它给一个结论有用。

还有一点:一段答案里如果有半句你已知是错的,别只看那半句就改,要把整段按不可靠重查。模型编错的地方往往成片出现,不是孤立的。

能落地的缓解思路:改问法、给材料、留出口

缓解的核心就三件事:把开放题变成有材料的题、让它分清「原文有的」和「它推的」、给它一个说「不知道」的出口。

  • 带材料提问:把要参考的文本贴进去,让它只在这段文本里找答案,并指出是在哪一段
  • 分行输出:明确要求「原文里有的」和「你自己推测的」分开写,不混在一起
  • 先列不确定项:让它先写出自己拿不准的地方,再给答案
  • 定核对强度:按「出错代价」决定要不要人工复核,代价高的必须有人看
  • 别信自我确认:让它自己检查一遍,能减少低级错误,但不能替代外部核对

如果你想让提问方式更稳一些,可以看 /guides/prompt-engineering-getting-started 里那套模板写法;已经想成体系处理幻觉问题的,可以顺着 /guides/hallucination-mitigation-playbook 往下走。它俩讲的是「怎么写提示」和「整套缓解流程」,跟这篇的分工是:这篇只帮你判断一段答案可不可信。

下一步如果你想看不同模型在实际问答里谁更容易编、谁更爱说不知道,可以到模型资料库和评测页核对当时的实测记录,比只看宣传口径靠谱。

常见问题

AI 幻觉和模型笨有关系吗?

关系不大。能力强弱影响的是难任务的正确率,幻觉是生成方式本身带来的:它按通顺往下写,不会自动区分「我记得」和「我编的」。所以越强的模型也会编,只是编得更像真的。判断一个模型靠不靠谱,除了看能力,还要看它愿不愿意说不知道。

是不是联网了就不会有幻觉?

不是。联网能减少「记忆型」幻觉,但检索到的内容可能不对口、被误读,或者它引用了页面里根本没有的句子。带来源引用的接口相对更好核对,但每一条引用仍要自己点开看。要不要带来源引用,可参考 citation-qa-api-guide。

日常用怎么把风险压到最低?

三条:让它基于你给的材料回答而不是凭记忆;把关键数字、引用、专有名词当成必须复核项;输出里凡是「看起来很具体」的地方都当作待验证。做不到全验时,至少验那些一旦错了会带来实际损失的字段。模型侧的对比数据可以去 /rankings 看当时的排行。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。