DeepSeek R1幻觉率降45%-50%：AI懂得越多边界越难划清？

15年前iPhone 4S问世，Siri跟着火了。那是人们头一回成规模地跟一个“能听懂人话”的AI聊天。不过那时的AI常听岔指令，也常老实回一句“我听不懂”。15年过去，AI已能按指令完成任务，甚至自己跑自动化流程，能用的地方多了很多。

2025年DeepSeek R1升级，更新说明里写上了“幻觉率降低45%-50%”。准确性仍要接着提。艾媒咨询的调查显示，2026年中国用户列出的AI大模型缺陷里，“反馈答案无法保证百分百正确”占31.64%，仍是主要毛病之一。

北京航空航天大学人工智能学院教授沙磊打了个比方：一个人手里信息不够，却非得给出明确答案，就可能把猜测当事实讲。大模型碰上类似情形，也会给出听着合理、其实没依据的回答。他说：“我们很难指望幻觉彻底消失，更重要的是降低它在关键场景中造成实际损害的可能性。”

沙磊是北京大学自然语言处理方向博士，之后在海外做AI研究，一路都围着“让AI更好用”转。回国进了北航，他的研究重心转向可信大模型、可解释性与大模型幻觉治理等方向。他还把AI研究做到医工交叉领域，作为核心研究者参与的多组学疾病筛查成果刊发于Nature Communications，并推动其在产业界落地。

在沙磊看来，眼下大模型在听从指令、记忆力、解决幻觉问题这几方面都改观明显，但AI更需要把自己的“边界”亮出来。模型知道得越多，战线拉得越长，要划清“哪里知道、哪里不知道”反倒比从前更难。幻觉消灭不掉，真正要压到最低的是“有害幻觉”；到了医疗这类关键场景，AI始终是医生的帮手和补充，替代不了医生。

边界确定比之前更难

时代周报：拿今天的大模型和几年前比，进步是明显的，大家感受也很直接。这背后是哪些东西变了？

沙磊表示，普通人感受最直接的一点，是模型对复杂指令的理解更到位了，对前文说过的内容也记得更牢。这背后有两个层面的变化：架构做了调整，训练规模也在扩大。早年的自然语言处理多采用循环神经网络，RNN、LSTM都是常见选择。它们按顺序读文本，并行计算受到限制，前面的信息还得不断压进容量有限的内部状态里。文本一拉长，早先的细节就很容易丢。

注意力机制则不同，模型可以径直在不同位置之间搭起联系，上下文因此被用得更好，训练也更容易并行展开。不过标准注意力的计算开销会随序列长度迅速上涨，所以模型规模、数据规模与算力得一起往上扩。

时代周报：所以，模型能力变强首先体现在“记得住”上？

沙磊：这是一个重要方面。

架构、参数规模、训练数据同步做大以后，模型能装进去的知识更多，能留住的也更多，遇到相关问题时把知识调出来的本事也更强。常见的事实性问题，靠预训练阶段学到的信息就能作答。碰到更复杂的题目，则要把不同知识和解题策略拼接起来。DeepSeek R1就是个例子：强化学习让模型在一次次尝试解题的过程中，慢慢摸索出更管用的推理策略。

时代周报：以前Siri说“我不知道你在说什么”，现在模型开始“瞎说”。这也是一个很有趣的现象。

沙磊：幻觉真正变成特别需要关注的问题，是在生成式模型越来越好用之后。早先的Siri只管一批相对固定的任务，设闹钟、查天气都算。一旦超出它能识别的意图，系统往往会直接说明理解不了或处理不了，用户也就比较容易摸清它的能力边界。

而现在的大模型，几乎什么问题都能流畅地答上一段，光看表达，用户很难判断答案有没有依据。能力覆盖的面越宽，哪些问题能直接信、哪些得去查证、哪些该交给专业人士，反而越难提前划清。

时代周报：它“乱编”的时候，是不是真的认为是准确的？

沙磊：模型可以生成语气很确定的句子，但语气本身并不能证明答案准确。

模型的回答，来自训练中习得的语言与知识关联，再加上当前拿到的上下文。信息不足时，它一样会顺着熟悉的套路往下补。比方说，它给出一条格式齐全的文献引用，可作者、题目、年份却分别出自不同来源。这种看上去可信、实际立不住脚的答案，就是人们常说的幻觉。

时代周报：不同的AI产品产生幻觉的程度不同，这是什么导致的？

沙磊：拿DeepSeek、千问、Kimi、豆包等产品来说，它们在事实问答、专业推理和联网检索这些任务上的表现并不一样。

想判断哪个更容易出幻觉，得把具体版本、任务和使用条件摆到一块儿比。训练数据怎么筛、不同阶段用什么数据、强化学习和后训练怎么做，都会左右模型的表现。落到产品上，能不能检索到可靠来源、能不能把检索结果用起来，也影响用户最后拿到的答案。

时代周报：现在用户可能有一个普遍的体感现象：越“骂”AI，它越笨。这是什么原因？

沙磊：模型会按提示里的措辞和上下文调整回答。一种可能的解释是，训练语料里带攻击性的表达，有时跟情绪化、信息量低的对话一块儿出现，类似的提示可能把回答引向这些对话模式。具体影响还得看模型和任务，这种体验不能概括成普遍规律。实际用的时候，指出它错在哪、补上缺的背景，或者明确要求它核对哪一步，通常更能帮模型把回答改好。

尽量减少有害幻觉

时代周报问：眼下业界都用什么办法对付大模型幻觉？大厂似乎主要在走“喂更多数据”这条路？

沙磊答：不断补充、更新高质量数据，是业内压低幻觉的一条重要路径。假如模型在某个专业领域老是出错，先要查训练数据有没有覆盖相关知识，手头材料准不准、有没有过时。碰上需要实时更新的信息，或者必须以某份文件为准的问题，系统还得接入可核验的外部来源。前一种做法让模型多掌握知识，后一种做法给具体回答提供可查证的依据。

时代周报问：RAG，即检索增强生成，是另一条常被提到的路。通俗理解，是不是“我不知道，先去网上查，查完再回答”？

沙磊答：可以这么理解。

系统先找出与问题相关的资料，再把资料交给模型，由它据此组织回答。资料既可能来自互联网，也可能来自企业内部知识库、专业数据库，或者用户提供的文件。

用户在 DeepSeek、豆包等产品里看到的是一个对话窗口，窗口背后通常还有检索、工具调用和结果处理等环节。打个比方，大模型像发动机，用户使用的是整辆车。检索增强生成只是产品系统中的一个环节。业内现在谈的 Harness，也就是大模型外围的工程框架，还会决定何时检索、调用什么工具、如何使用并检查返回的结果。我们的研究也已经延伸到这一系统层面。

时代周报问：那让模型“承认我不知道”这条路呢？现在能做到什么程度？

沙磊答：让模型说出“我不知道”这几个字很容易，难的是让它在该说的时候说出来。目前有些方法能依据模型的置信度、回答的一致性或者外部证据，判断它适不适合直接作答。面对一个具体问题，系统可以先看资料是否足以支撑回答。能通过检索补齐证据，就尽量给出有依据的答案。关键证据仍然缺失，就应当明确告诉用户哪一部分无法确认。

时代周报问：可用户其实宁愿它说“我不确定”，也不希望它“自信地编”。

沙磊答：这就牵扯到所谓的“校准”问题。说白了，模型宣称自己有多大把握，得跟它在同类题目上真正答对的比重对得上。打个比方，一批答案被模型标成九成把握，那这批答案的实际正确率也该在九成上下。

至于如何把这种不确定性摆到用户面前，眼下仍是个产品设计上的难题。提示会不会干扰使用体验、用户能否看明白、不同产品之间怎么竞争，厂商都得掂量。对用户来说，有时候比盯着一个置信度数字更管用的，是搞清楚答案里哪条判断还没把握、该去哪儿查证。

时代周报问：大模型幻觉最终能完全消失吗？

沙磊答：在开放场景中，完全消除幻觉很难。

用户提的问题，可能牵涉模型没见过的信息，手头的证据也未必够撑起一个确定结论。我更在意的是有害幻觉——错误答案可能把用户带向错误决定。医疗、法律、金融这类场景，对事实准确和证据核验的要求更严，这类风险应当优先压下去。创意写作本来就允许虚构，要紧的是让用户分得清哪些是创作、哪些是事实判断。

医用设备AI化将成为趋势

时代周报问：团队的多组学工作，是怎么控制幻觉的？

沙磊答：我们拿血液样本做分子测序，得到数据后用这些数据训练模型，再针对具体的疾病筛查任务做微调。相关成果发表在《Nature Communications》上。这项工作中，我们把一部分已知的生物学原理写进模型设计，用来约束模型对测序数据的表征和预测，再通过实验检验模型表现。

这里主要盯的是筛查预测靠不靠谱，以及模型的预测跟已知生物学规律合不合拍。依托这项研究，我们也参与了医疗和生物科研平台的建设与部署。

时代周报问：从实验室指标到临床，还有多远？

沙磊答：从实验室验证到临床应用，还要经过进一步的临床评价，并按具体用途满足相应的注册要求。

现阶段，我们主要与华大基因等机构联手，推动技术验证和应用转化。在一项合作开展的早期筛查任务里，用上我们的研究方法后，一项评估指标从约0.60升到约0.85。这个数字对应的是该合作项目的评估，换到不同人群、放进真实临床流程还能不能有相近表现，尚待进一步验证。

时代周报问：AI目前在医生实际工作中应用多吗？主要用在哪些地方？

沙磊答：眼下见得比较多的应用，包括医学影像的识别与分割、文献检索，还有科研和病例汇报材料的整理。我们之前也做过用于科研绘图的智能体，拿到了一些海外用户的使用反馈。

到了诊疗环节，AI能标出影像里值得再看的区域，或者补上医生可能漏掉的线索。医生再结合病史、体征和其他检查结果，看这些提示跟患者实际情况对不对得上，然后给出专业判断。

时代周报问：通用大模型能应付比较泛化的用户需求，可一旦落到垂直或专业场景，专用大模型就成了刚需。那在医疗领域，专用大模型的必要性首先体现在哪儿？

沙磊答：专用模型的好处是能围着明确的使用场景挑训练数据，把任务范围限定住，再拿这个领域的标准去验证。像疾病筛查模型，可以针对特定人群和筛查目标，专门评估漏检和误报。这种有针对性的训练和验证，有助于减少任务里的错误。不过模型换到另一家医院，或者面对不同人群，适用性还得重新评估。

时代周报问：医疗场景里，训练AI的数据是从哪儿来的？

沙磊答：这得看模型要完成什么任务。

医学教材、临床指南与专业文献，是基础医学知识的来源。落到具体临床任务上，模型还得先拿到相应授权、做完数据治理，才可能用上合作医院给的病历、影像或检验数据。各家医院的数据格式、编码规范、记录习惯并不一致。多中心合作时，把数据标准统一起来、把数据质量核对清楚，常常不比训练模型本身轻松。

时代周报问：本地化部署和云端部署，在调用数据上有什么区别？

沙磊答：碰到涉及患者隐私的场景，不少医院会考虑把模型部署在院内，让数据在院方管理的环境里完成处理。比如系统可以按授权读取院内病历，把跟当前任务相关的信息交给模型做推理。云端部署则要根据数据范围、传输路径和访问权限，来确定哪些信息可以调用。其实不管用哪种方式，允许模型在一次任务中读取数据，和允许拿这些数据训练模型，是两项不同的授权。

时代周报问：以后医院里AI会铺得更广吗？

沙磊答：我认为应用会越来越广，尤其是流程清楚、结果便于医生复核的环节，比如导诊、病历整理、影像初筛和用药风险提示。这些工作能减少医生的重复劳动，让他们把更多精力放在需要专业判断的患者身上。

我也看好AI和医用设备的结合。比如把图像识别、异常提示这些能力嵌进设备，医生在熟悉的操作流程里就能用上，必要时复核结果或者接管操作。这类应用更容易融进临床工作。

时代周报问：什么样的AI才算好用，以后要往什么方向发展？

沙磊答：在好用的AI身上，用户应该能看明白：什么情形下可以信它，哪些结果得再去核实，什么时候该换人来处理。AI正一点点进入电脑、随身设备和各类基础设施，用户很多时候未必会专门去开一个对话窗口。这样一来，系统就得在该说明的时候讲清楚：判断是依据什么做出的，还缺哪些信息，用户接下来又能怎么确认。