ai幻觉和精确性有什么原理，为何会这样

用AI写方案、查资料、出报表时，最怕它一本正经地编。这篇不泛泛谈「AI会胡说」，而是把幻觉从哪来、精确性被什么拉扯、哪些场景天生容易翻车讲清楚，最后落到一套可照着做的判断与核对流程，让你知道哪些输出能直接用、哪些必须回到原始出处。

用AI写方案、查资料、出报表，最怕它一本正经地编。它给出的答案往往句式工整、语气笃定，读起来挑不出毛病，可一旦拿去用，才发现数字对不上、条款不存在、引用查无此文。这篇不泛泛讲「AI会胡说」，而是把幻觉从哪来、精确性被哪些因素拉扯、哪些场景天生容易翻车说清楚，最后给一套能照着做的判断与核对流程。

读的时候可以把目标定得很具体：不是让你从此不信AI，而是让你在看到一段输出时，能快速判断它是「可以直接用」「抽检一下能用」还是「必须回到原始出处逐条核对」。这个判断能力比追问模型原理更值钱，因为它每天都要用到。需要先对齐术语的，可以到 /glossary 查基础概念。

先看清：模型输出到底是怎么生成的

模型本质是在按概率续写下一个词，而不是先查证再作答。它做的是一次又一次「接下来最可能是什么」的选择，把句子接得通顺是它的强项，至于这句话在现实世界里成不成立，是另一套机制在管。搞清楚这一点，你就明白为什么「说得顺」和「说得对」经常不是一回事，也明白为什么光看文风判断不了真假。

训练过程是把大量文本压缩进参数里，这个压缩必然丢细节。常见的、被反复提到的信息压得比较实，越冷门、越具体、越少见的信息，在生成时越容易被「补全」成看起来合理的假值。这就是为什么它答常识题很稳，答某个小地方的办事流程、某个不常见型号的参数时，容易给你一个像模像样但错的答案。

概率续写

按上下文猜下一个词，追求连贯而非追求真实

参数压缩

海量文本被压进模型权重，长尾细节在压缩中丢失

解码随机性

同样的提问多次生成可能不一致，温度越高越明显

上下文窗口

模型一次能看到的材料有限，超出部分它只能靠记忆补

还有一件事常被忽略：同一问题反复问几次，答案会飘。这种不稳定性本身就是精确性的信号——如果它真有稳定依据，不该每次说得不一样。具体到某个模型在这方面的表现，各版本差异很大，可以到 /models 看当时的模型资料，不必记死某个结论。

幻觉的四个主要来源，按可控程度排一下

把幻觉当成一个笼统的毛病，就没法对症下药。按来源拆开，你会发现有些是你自己能控的，有些只能靠流程兜底。下面这张表按「你能不能干预」排了个序，越靠前越该在提问阶段就处理掉。

格式压力这条最容易被忽视，也最常见。你在提示里写「请给出三条带编号的政策依据」，模型收到的信号是「必须凑够三条带编号的」，它未必有能力判断这三条是否真实存在。要求越硬，编造动力越强。所以凡是要求「必须给出出处」的场景，一定要同时给它「找不到就明说」的出口。

• 知识缺口型：换成把原文贴给它，让它只基于材料回答
• 上下文误导型：检查自己的提问里有没有夹带未经验证的假设
• 格式压力型：把「必须有」改成「有则给，没有则标注未核实」
• 随机漂移型：同一问题问两遍，答案分歧处就是重点核对对象

精确性不是越高越好：被什么拉扯

很多人下意识觉得精确性越高越好，其实不是。精确性和覆盖面通常此消彼长：模型越保守，越倾向说「这个我不确定」「需要你补充信息」，准确率是上去了，但可用性下来了，你问十句它八句在打太极，还不如自己查。真正要做的不是把精确性拉满，而是按任务类型找平衡点。

判断标准很简单：先问这条输出出错会造成什么后果，再决定投入多少核对成本。后果可逆、改起来快的，比如一段文案、一个头脑风暴清单，容忍度高；后果不可逆、代价大的，比如合规条款、财务数字、用药剂量、对外承诺，就不能让模型单独产出，必须有人回源确认。

这张表不是让你给每个任务贴标签，而是提醒你：核对成本应该花在后果重的地方，别把精力平均分配。一个团队如果对所有AI输出都逐字核对，很快会放弃核对；如果对所有输出都不核对，迟早出事。按后果分级，才可持续。

一眼识别高风险回答的信号清单

不用每次都做全流程核对，先花十秒钟扫一眼有没有高风险信号。有信号的重点查，没信号的可以直接用或略作抽检。下面这几条是实战里命中率比较高的，看到其中任意一条，就把它当成「待核实」而不是「已确认」。

• 出现精确到小数点的数字、具体年份或条款编号，却给不出可点开的原始出处
• 语气异常笃定，你追问「依据是什么」时它开始改口、绕圈或重复原话
• 涉及近期事件、小范围内部信息、具体人名机构名，这类内容最容易补全
• 同一问题换个问法答案就变，说明没有稳定依据，只是生成
• 结论和它自己前文给的依据对不上，前后矛盾是编造的典型痕迹

反过来也要提醒一句：没有这些信号不代表一定对。有些错误藏得很平，比如把两个真实存在的概念混在一起、把正确数字放错位置。信号清单是筛子不是保险，它的作用是帮你把核对精力优先投到可疑处，而不是替代核对本身。

核对流程：从低成本到高成本分三层

核对不是全有全无，而是分层投入。下面这套三层流程，从零成本自检到高成本回源，你按后果等级决定走到第几层。大多数日常任务走到第二层就够，涉及数字和对外内容才需要走到第三层。

1. 第一层：让它自检让它逐条列出结论依据，并标注哪些是推测、哪些有材料支撑。它自己标「不确定」的部分优先核对，这一步几乎零成本。
2. 第二层：交叉重问换一个模型或换一种问法重问同一个问题，答案分歧的地方就是风险点。想看不同模型在这类任务上的差异，到 /rankings 对照当时的评测记录。
3. 第三层：回到源头涉及数字、条款、政策、引用的，一律回原始文件或官方页面核对。注意模型给的链接本身不可直接信，要自己搜到源头再比对。

三层走完还不放心的，就别硬用模型了，改成人工查。这不是效率倒退，而是把「不确定的产出」挡在交付之前。另外，第二层交叉重问时，如果两个模型答案一致，也不要直接当成正确——它们可能基于同一批有偏差的材料，一致只说明分歧小，不说明对。

把精确性往前挪：提示与工具层面的做法

核对的成本能往前挪就往前挪。在提问阶段多做一点，后面的核对量会明显下降。最有效的两个动作：一是明确给它「不知道」的出口，二是把能查的材料直接作为唯一依据贴给它，不让它凭记忆答。

具体写法上，提示里可以直接写：不确定就明说不知道；只依据我提供的材料回答；每条结论后面标出处，找不到出处的标「未核实」，不要留空也不要编。这样它的输出结构就天然带着可核对的钩子，人工复核时一眼能看到哪些点没底。

请只依据下面这段材料回答，不要引入材料之外的信息。要求：1) 每条结论后标注出自材料哪一段；2) 材料里没有覆盖的问题，直接回答「材料未涉及」，不要推测；3) 涉及数字的原样引用，不要改写。以下为材料：……

工具层面，能查的资料别让模型凭记忆答。检索增强和知识库外挂是目前降低幻觉最实在的手段，具体怎么搭、怎么切分文档、怎么处理召回不到的情况，站内有一篇专门讲知识库的可以接着看。这里只强调一点：外挂了知识库不等于不会编，材料没覆盖的部分它照样可能补全，所以上面那条「材料未涉及就直说」的约束仍然要写。

最后固定一套验收格式：结论、依据、不确定项三段式输出。有了固定结构，复核的人不用通读全文，直接盯「依据」和「不确定项」两栏就行，效率高很多。

什么情况下这套标准不适用

上面这套判断和核对流程是为「事实准确性有要求」的场景设计的，不是放之四海皆准。硬套在不合适的地方，反而拖慢节奏。至少有三类场景要换思路。

• 纯创意、头脑风暴、文案铺量：不必逐条核对，重点改成人工通读加事实抽检，别把创作流程做成审计流程
• 离线私有部署、数据涉密：核对链路要换成内部资料库，不能用外部搜索验证，这时「回源」指的是回你自己的文档
• 需要现查的数值：模型能力、上下文长度、定价这类会变的东西，别记结论，到 /models 和 /price-watch 看当时的记录

还要提醒一句：模型本身在迭代，今天适用的判断手感，过一阵可能要重新校准。所以上面给的是判断框架和动作清单，不是某个固定结论。需要具体数字时一律现查，别拿记忆里的旧数据当依据。