大模型幻觉的表现特征、效应争议及潜在价值

做客服问答、合同摘要或者数据分析时，模型一本正经地编出不存在的人名、条款和数字，这是最常见的翻车场景；但换个场景，让模型头脑风暴、做假设推演，同样的「编」反而成了产出。这篇不谈抽象定义，只讲幻觉长什么样、哪些场景必须拦、哪些场景可以放行，以及落地时该按什么顺序排查。

做客服问答、合同摘要或者数据分析时，模型一本正经地编出不存在的人名、条款和数字，这是最常见的翻车场景；但换个场景，让模型头脑风暴、做假设推演，同样的「编」反而成了产出。这篇不谈抽象定义，只讲幻觉长什么样、哪些场景必须拦、哪些场景可以放行，以及落地时该按什么顺序排查。

判断幻觉，比定义更重要的是任务属性。同一段输出，在可核查任务里是事故，在发散任务里是素材。所以先把任务标清楚，再谈拦不拦，比笼统问「这个模型幻觉严重吗」有用得多。

幻觉在输出里长什么样：五类可识别的信号

幻觉不是随机乱码，它通常格式完整、语气笃定，甚至比正确答案更像真的。判断的第一原则是可核查性：能拿外部来源对上的才叫验证，只在自己逻辑里自洽的不算。

• 事实类编造：给出不存在的机构名、人名、文献名，格式却完整到像真的
• 数字与引用漂移：把金额、比例、条款编号写得很确定，但你找不到出处
• 上下文自洽但前提错：推理链条看着通顺，第一步引用的前提就是错的
• 指令跟随下的过度补全：你只问一句，它主动补出一堆你没给的条件和结论
• 跨轮次漂移：同一份材料问两遍，关键结论对不上

效应争议：为什么同一现象有人喊缺陷有人说价值

争议真正的分界不是模型好坏，而是你的任务有没有唯一正确答案和外部校验手段。客服、财务、法务、医疗这类答案能对错的场景，编造就是事故；起名、创意、假设推演这类现实里没有标准答案的场景，越能编越有产出。

缺陷视角

可验证任务里，编造意味着交付物不可用，后续返工成本高

价值视角

发散任务里，模型提供的是候选池，人工挑优，不要求每条都对

中间态

结果对但理由是编的，本次可用，迁移到新问题就失效

还有一种容易被忽略的中间态：模型答对了，但支撑理由是编的。结果可交付，过程不可信。这种输出短期看着没问题，一旦换材料、换问法，就会暴露。

按任务分级处置：哪些必须拦、哪些可以放行

分级不是拍脑袋，先给任务打标再决定动作。可核查任务要求强制出处，让它指出信息来源，指不出来的一律当未验证处理，去站内核对原文；半可核查任务要求复算，数字、口径、单位自己过一遍，别直接复制进交付物；不可核查任务可以放宽，但要保留人工选优环节。

落地排查清单：从提示到复检的四步动作

1. 限定范围明确告诉模型只用给定材料回答，没有的就说不确定，而不是硬答。验证方式是塞一份不含目标信息的材料，看它会不会承认不知道。
2. 要证据要求按结论—依据—不确定点三段式输出，不确定点必须显式写出来。没有不确定点的回答反而要警惕。
3. 抽样复检同一批问题换措辞再问一遍，两次结论不一致的挑出来人工看。不一致本身就是信号。
4. 记录归档把反复出错的题型记下来，作为后续校验规则和评测用例的输入。

这四步里，第二步和第三步最容易被跳过。只限定范围不复检，等于把判断权交回模型自己；只复检不记录，同样的坑下次还会踩。

什么时候别指望这些方法管用

提示词和复检能降低幻觉的漏出率，但拦不住知识本身不在材料里的情况。这时候再严格的提示也只能让模型说「不确定」，真正补料还得靠外部检索或人工查最新。

• 知识超出材料范围：再严格的提示也拦不住补全，只能靠外部检索补料
• 实时性强的信息（价格、库存、政策）：天然滞后，要靠联网或人工查最新
• 高风险决策场景（医疗、法律、资金）：不该由模型单独定论，幻觉率再低也不行

幻觉不是一律要消灭的毛病，是要按任务可控地用的特性。