AI模型何时该"再想想":两环机制让机器主动找证据

资讯 腾讯网 作者:科技行者 全文 4425 字 · 约 12 分钟读完 分类学术研究

你有没有经历过这样的时刻:看一眼某个东西,脑子立刻给出判断,但心里又有点不踏实,总感觉哪里不对,于是你会多看一眼,或者换个角度再确认一下。这个过程听起来很简单,但如果让一个AI系统学会这件事,难度超乎想象。今天要聊的这篇论文,就是在试图回答一个问题:机器能不能像人一样,知道自己什么时候"不太确定",然后...

所属频道 前沿研究

看一样东西,第一眼就有了判断,心里却隐隐觉得不踏实,于是又看一遍,或者换个角度再确认——这样的经历,很多人都有过。

这事听着不复杂,可要教会一套AI系统这么做,难度相当大。今天说的这篇论文,要回答的就是这个问题:机器能不能像人那样,察觉到自己"拿不准",然后主动去补证据,而不是硬着头皮吐出一个可能错误的答案。

**模型何时该"再想想"**

现在的深度学习模型,特别是图像识别这一块,大量使用卷积神经网络,走的都是一条固定的路子。

这种不分情况的做法毛病出在哪?拿保安查包裹打比方:大部分包裹扫一眼就知道没事,偶尔有一个让人犯嘀咕,这时候怎么办?肯定不能硬着头皮放行,而是多看几眼X光图,或者干脆开箱检查。可眼下不少AI系统干的恰恰相反——每个包裹都走同一套流程,简单的复杂的全一个样。难易不分,简单的包裹被反复检查、白费时间,难的包裹反倒因为查得不够细,把有问题的那件放了过去。

论文里提到,已有一些方法注意到了这一点,比如

选择性预测

学习推迟

问题在于,这些方法有一个共同的短板:它们回答的是"这个答案要不要信",而不是"要不要再找点信息把这个答案改好"。打个比方,一个学生做数学题卡住了,现有办法是教他举手说"我不会",把题推给老师;这篇论文想教的,是让学生自己去翻书、问同学、找新线索,哪怕最后还是得请老师帮忙,至少他先主动去找过信息。

**两环机制:快脑子和慢脑子的分工**

论文的设计灵感,来自心理学家卡尼曼提出的"系统1/系统2"理论,也就是那本著名的《思考,快与慢》里的框架。按心理学的说法,系统1负责快速、直觉、自动化的思考,系统2负责缓慢、需要刻意投入的深度推理。

研究团队把这套框架搬进了机器学习,搭出一个"两环"结构。第一环是快速环,用一个相对轻量的

置信度

如果这个

LoRA

中速环一旦启动,做的不是把同一件事重算一遍,而是去拿一份"补充证据":可能把被干扰的图片重新处理一下,可能在同一种干扰类型下再独立采样一次,也可能直接调出一张没被噪声污染的干净原图。这个主动找证据的动作,论文里称为"揭示"。

这招妙在哪儿?它没有简单地让一个更贵的模型来兜底,而是让这个更贵的模型换一个观察角度去找新信息。好比医生看X光片拿不准,不会盯着同一张片子再看一遍,而是建议病人去做CT,换一种成像方式拿信息。要是只让第二个模型重复处理那张模糊图片,它无非是用更强的算力硬啃一个信息本来就不足的输入,收益有限。实验也印证了这一点:中速环只是重新处理同一张退化图片时,提升为8到13个百分点;拿到一张干净图片时,提升能到19到30个百分点。证据的质量,比处理证据的算力更要紧。

**理论上的保证:多想一步不会更差**

论文给出了一个数学证明。逻辑其实很直白:假设快速环在一个较小的范围里找到了最优答案,而中速环的搜索范围更大,大到把快速环那整个范围都圈了进去,那么中速环找到的答案至少和快速环一样好,运气好还能更好。这就像在小房间里翻来覆去找不到钥匙,把搜索范围扩到整间房子,结果不会比只搜小房间差——小房间本来就是房子的一部分。

不过论文也老老实实承认,这个理论保证落到实际工程里是要打折扣的。实际训练时,快速环和中速环分开训练,各优化各的目标,训练完参数就冻结,只有潜在状态会随每个输入变化。中速环启不启动,靠的是一个预先设好的置信度阈值,并不是真正在做联合优化。所以这个数学命题只是给整套设计思路提供了合理性支撑,并不能保证工程实现里一定看得到提升。提升有多大、显不显著,还得看实验。

**实验怎么测的:四个**

研究团队挑了四个经典的细粒度图像识别数据集做实验:

细粒度识别

为了考察模型在图像质量下降时的表现,团队还人为制造了七种干扰:遮挡、挖空、特征区域遮盖、加噪声、模糊处理等。每个基准数据集的准确率,取的都是干净图片加这七种干扰、共八种情况下的平均值。

实验设了一个关键操作点:阈值按这样的标准来定——让中速环处理置信度最低的那一半输入。也就是说,50%的样本会被交给中速环,这个比例在论文里用希腊字母γ表示,取值为二分之一。

成本的计算单位是

数据结果是这样的:两环模型对比纯快速环,处理退化图片时提升8到13个百分点,用干净图片时提升19到30个百分点,整体成本只有纯中速环模型的一半左右。更出人意料的是飞机识别这个任务,两环模型的准确率甚至压过了纯中速环模型,计算量却只花了后者的一半。

还有个细节值得细说。团队另做了一组对照,把按置信度排序改成随机排序。结果,仅靠置信度筛选拿到的增益,连总提升的一半都不到;其余增益,确实来自中速环对那些真正缺信息的样本的处理。也就是说,置信度阈值这套筛选机制本身站得住,并非撞运气。

**更贵的单一模型,有时反倒更强**

论文里有一段相当坦诚的自我批评。团队把中速环模型重新训练到与两环模型相同的计算成本——具体做法是把DINOv2的输入分辨率从518像素调到392像素——随后发现,这个单一模型在三个数据集上都优于两环模型,只有飞机识别数据集例外,两环模型在那里胜出。对此团队的解释是:两环模型划不划算,要看快速环在它留下的那一半“自信”样本上,是否真的比中速环表现更好。倘若快速环在这些样本上还不如中速环,那不如直接用一个更贵但统一的模型处理全部样本。打个比方,原打算让新手先接简单工单、难的转给专家,结果发现专家处理简单工单的效率和准确率竟高过新手,那让专家一人全包反而更划算。

这个发现的分量不小。它说明两环架构并非到处都适用的方案,得看具体任务里“快系统”和“慢系统”在各自负责区域内的真实表现差距。

**和已有方法比:差的不在门槛,在触发后的动作**

论文着重讲了一点:这套两环机制与已有做法不同。

团队做了对比实验,换用不同的置信度衡量标准(熵、能量、边际、温度缩放置信度)来判断门槛,结果差异都在1.4个百分点以内,可见门槛标准本身并非关键。真正的差别在于:已有方法转交之后,是让更强的模型重新处理同一张输入图片;而这篇论文的方法转交之后,是主动去取一张新的、更清晰的图片。在相同计算成本下,取一张干净图片比重新处理同一张退化图片能多带来6到17个百分点的提升;相比单纯用更强模型兜底,也能多出6到18个百分点,且只花一半计算量。

**证据新不新鲜不重要,质量才重要**

论文里还有一个挺有意思的实验:既然要主动取新证据,那随便换个新观察角度是否都有用?团队测了三种情况——原图被某种方式退化处理;一次独立的同类型退化采样,也就是换一次噪声、换一次模糊,强度和类型不变;以及一张完全干净的图片。

结果出人意料。面对加噪声、模糊、挖空这几类干扰,换一次独立采样几乎没带来任何提升,幅度在正负0.1个百分点以内,基本算误差范围内的波动。可如果给的是一张干净图片,提升能达到6到17个百分点。这里头有个关键道理:主动取证据的价值不在“拿到新鲜的东西”,而在“拿到真正高质量的东西”。好比考试做题卡住了,换个角度重读一遍同样模糊的题目描述,多半还是读不出新信息;但要是有人把题目的关键条件讲清楚,哪怕只是换种表述,你很可能一下就通了。证据的信息增量,比它的“新鲜感”重要得多。

有一个例外:当干扰方式是遮挡图片某个特征区域时,换一次独立采样确实管用,快速环能提升3到11个百分点,两环模型提升0.2到2.5个百分点。原因是原先的遮挡恰好盖住了最关键的辨别区域,换一次遮挡位置,关键区域就可能重新露出来。这并非信息质量提升,而是运气——原来盖住的正好是关键部位,换一次正好没盖住。

**碰上完全没见过的干扰类型,这套机制还顶用吗**

论文最后测了一个更严苛的场景:用十五种在训练和校准阶段完全没见过的图像干扰类型(来自ImageNet-C)来考验它。

结果显示,两环模型在所有基准数据集和全部十五种干扰类型上都稳定压过纯快速环模型;在三个基准上与纯中速环模型的差距保持在3个百分点以内,在飞机识别任务上甚至反超,而且只用了纯中速环模型58%到79%的计算量。有个细节特别有意思:在

**写在后面**

读完这篇论文,有一点让我反复琢磨:团队很坦诚地写出这套机制不是万能的,甚至在四个基准里有三个,重新训练到同等成本的单一大模型表现反而更好。不少论文会把这种“负面结果”藏起来或淡化,这篇文章却把它放在讨论部分很显眼的位置,还给出了具体的判断标准——看快速环在它保留样本上的准确率是否真的高过备选的大模型。这种诚实本身,比“我们的方法全面碾压”式的叙述更有价值,因为它告诉后来的研究者,什么时候该用这套机制,什么时候不该用。

另一个值得记住的发现是:主动取证据这件事,关键不在“主动”,而在拿到的东西是否真的提供了新信息。论文反复验证了这一点——换一次同类型的噪声采样基本没用,换一张干净图片才有用。这其实在提醒我们,很多时候以为“多做一步”就能带来改善,可这一步若本质上没引入新信息,就是白费功夫。这个教训不只适用于机器学习系统,放到人做决策的场景里同样成立:遇到难题反复想同一个思路,不如换个完全不同的信息源。

论文里还提到一个暂时搁置的方向,叫“

Q&A

两环模型(Two-Loop Model)到底怎么跑?快速环先拿轻量模型逐张处理图片,并给出一个置信度。置信度够高,结果就直接用;置信度偏低,说明还有没解开的疑点,这时中速环接手。

中速环会调用更强的模型去取一份补充证据,再据此做最终判断。这份证据可能是重新处理一遍、换一次采样,也可能是拿一张干净图片。

至于为什么干净图片远好过对同一张退化图片反复处理,论文实验给出了对比:换一次同类型噪声采样,准确率几乎没动,幅度在正负0.1个百分点以内;换成干净图片,提升则有6到17个百分点。

可见真正起作用的,不是“获取新证据”这个动作本身,而是这份证据有没有带来新信息。

那这套两环机制是不是在任何情况下都强过单一大模型?答案是否定的。

论文把中速环模型单独训练到与两环模型相同的计算成本,结果在四个基准数据集里有三个反而表现更好。两环机制只有在一种前提下才更划算:快速环处理它保留样本的准确率确实高于中速环。这一点得放到具体任务里去验证。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌论文曝RSI内部落地:SIM机制让AI经验跨模型遗传

    新智元报道 谷歌内部,或许真正实现了RSI!从此,Gemini已能「继承经验」持续自我进化,Gemini新模型不再从零开始!或许也正是这个原因,谷歌最近跟疯了似的不停发模型。Gemini 4 Hydrogen才发布不到一周,更强的Gemini 4 Neon就来了。答案,或许藏在谷歌与宾夕法尼亚州立大学深夜联合发布的一篇

    来源 腾讯网
  2. 多智能体系统:为何要专门训练一个“做噩梦”的AI旁观者?

    你有没有想过,为什么公司里经验最老道的质检员,往往不是看了最多"正常产品"的那个人,而是见过最多"奇葩次品"的那个人?这个问题,其实和今天要聊的这篇论文高度相关。想象一下,你现在负责管理一群AI智能体,它们正在帮你写代码、做数学题、浏览网页完成各种任务。这些智能体不是一个人在战斗,而是像一个项目组一样互相...

    来源 腾讯网
  3. PremiseCheck研究:让AI审稿先拆断言再核对,成本能降多少?

    先说一个场景。你是一篇论文的作者,凌晨两点打开评审意见,看到这样一条: “这篇论文的可复现性有限,因为只在 Gopher 模型上做了测试,而这个模型既不开放 API 也不开放权重。” 你心里一沉,因为你们明明用的是 OPT-6B,而且附录里专门写了复现步骤。你去 rebuttal 里解释,评审可能不看,AC 大概也不会

    来源 腾讯网
  4. 华为OSTA星芒推首款鸿蒙AI手机OSTA O1 Pro,主打系统级智能体小艺

    现在请你张开左手,略微用力仔细抚摸小指头第二节的内侧,大概率会摸到一个凹槽,这是我们长时间使用手机时用小指头当做支撑点留下的印记。这种可触摸的印记要比手机对我们大脑留下的改变更为直观,亦是人在使用手机,手机反过来塑造人的小小例证。类似的,在《人类简史》里,作者提了一个有点反常识的观点:看起来是人类驯...

    来源 腾讯网
  5. 华为星芒发车:一路踏AI,一路铺鸿蒙

    作者|郑敏芳2016年10月14日,华为当年第1亿部智能手机正式下线,比2015年达成这一节点提前了两个月。坐稳1亿部手机的出货量之际,华为推出了一条全新的产品线nova,希望进一步打开年轻消费市场。十年后,华为再次迎来一个与“1亿”有关的节点。11月16日,第三方数据显示,华为HarmonyOS 5及以上版本累计装机

    来源 腾讯网
  6. GPT-6.2 Astra解出Smoktunowicz定理:94分钟写出全球首个形式化证明

    Vals AI最新高难数学基准测试中,GPT-6.2 Astra以87.50%的准确率登顶。面对Lean公共数学库缺失的三个关键定理,Astra自主定义“容量”这一新数学工具,绕开原论文证明路线,仅用94分钟、1794行Lean代码,完成Smoktunowicz间隙定理的全球首个形式化证明。

    来源 华尔街见闻
  7. 英伟达洽谈收购Inception:5亿美元押注扩散模型提速Nemotron

    英伟达正就收购AI初创公司Inception展开深度洽谈,交易估值至少5亿美元,另附基于业绩目标的额外奖励安排。此举旨在为英伟达旗下开源模型项目Nemotron引入扩散模型技术与核心人才。据科技媒体The Information 11月19日报道,三名知情人士透露,上述谈判已进入高级阶段。Inception的扩散大语言

    来源 腾讯网
  8. 谷歌SIM机制曝光:Gemini可继承Claude经验,新模型不再从零开始

    谷歌内部,或许真正实现了RSI! 从此,Gemini已能「继承经验」持续自我进化,Gemini新模型不再从零开始! 或许也正是这个原因,谷歌最近跟疯了似的不停发模型。 Gemini 4 Hydrogen才发布不到一周,更强的Gemini 4 Neon就来了。 答案,或许藏在谷歌与宾夕法尼亚州立大学深夜联合发布的一篇最新

    来源 AI 行业观察
  9. 谷歌论文:光改提示词智能体成功率反降,改运行框架升至40%

    调教 AI 智能体,惯用手法是反复打磨提示词。谷歌 11 月 17 日发表的论文却给出反直觉结论:只改提示词,智能体成功率反而从 5% 跌到 2.5%;而让优化模型直接改写其运行框架,成功率冲到 40%,足足 8 倍。 142 行代码,拆成四块逐个改 Harness 指包裹在模型外围的运行框架,负责

    来源 AI 开发者社区
  10. Megaspeed被查:一家游戏背景公司如何做成41.3亿美元AI芯片生意

    2015年,一家名叫7 Road International的公司在新加坡注册。 最初几年,它并不起眼。谁也不会想到,十年后,这家公司会成为英伟达先进AI芯片供应链上一个引人注目的名字。 2023年,公司更名为Megaspeed International,业务重心也开始转向云计算和AI基础设施。 随后,它的生意急速膨

    来源 AI 行业观察
  11. 李彦宏雷军同台谈AI,宇树王兴兴:机器人想象力超汽车

    11月17日至18日,2026年亚太经合组织(APEC)工商领导人峰会在深圳前海国际会议中心举行。作为亚太经合组织第三十三次领导人非正式会议的配套活动,峰会由中国贸促会主办,主题为“共促繁荣,共赢未来”,2000余位政商代表参会,参会企业包括115家世界500强企业。百度李彦宏、小米雷军、比亚迪王传福、宁德时代曾毓群、

    来源 AI 行业观察
  12. 英伟达单周跌近23%创2008年来最差,美股AI板块集体重挫

    板块方面,半导体产业链成为重灾区,费城半导体指数暴跌10.73%。英伟达跌14.01%,报收125.53美元,连续第7个交易日下跌;特斯拉跌7.64%,Meta跌5.93%,亚马逊跌4.10%,微软跌2.77%,谷歌跌2.59%,苹果跌1.90%。值得一提的是,英伟达本周累计下跌近23%,创2008年10月以来最大单周

    来源 TechWeb
  13. LEV模型:让AI自己判断该想多久,三条旧路为何走不通

    你有没有遇到过这种情况:问同事一个简单问题,比如"今天几号",他秒答;但你问他一个复杂决策,比如"这个方案该不该上线",他会愣一下,皱眉,想一会儿才回答。这种"该快就快、该慢就慢"的能力,人类几乎是本能。但对AI模型来说,这件事出奇地难。2026年之前,做选择题式判断的AI模型基本是这样的:不管问题多简单或多复杂...

    来源 腾讯网
  14. OpenGCUA实测:8个顶尖模型任务得分平均涨19.6分

    2026年9月的某一天,研究团队让Qwen3.8-Max去完成一个真实的macOS任务:在一张工作表里解答125道题目。模型写出了一段看起来有模有样的代码,用了循环、用了函数,处理完后自信地打印出"computed answers: 85"。问题是,这份工作表一共有125道题要答,它只答了85道,剩下40道题目所在的行

    来源 腾讯网
  15. 问诊AI?一场死亡背后的追问

    查症状、看药品说明书、理解检查报告,优先用有明确医学语料来源、答案带引用且被设计为“转介医生”而非“替代医生”的专业医疗AI产品,而不是把通用聊天大模型当成全科大夫。

    来源 凤凰科技
  16. AI代码智能体新方法:工具与模型同步进化,解决率从61%升到69.5%

    你有没有想过一件事:一个厨师做菜难吃,到底是因为他手艺不行,还是因为他用的锅不行?这个问题听起来有点蠢,但放到AI编程智能体身上,就是一个真实存在了很久、却一直没被认真解决的问题。一个能自动帮你改代码、修bug的AI智能体,表现好不好,取决于两件事。第一是它的大脑,也就是背后那个大语言模型本身有多强。第二...

    来源 腾讯网
  17. 姚顺雨回清华姚班:大模型不拼指标赛马,RSI如何落到工程?

    11 月 18 日晚,腾讯首席 AI 科学家、混元大模型负责人姚顺雨回到母校清华大学交叉信息研究院(姚班),与本科同窗、清华交叉信息院助理教授吕凯风做了一场近距离的闭门问答交流。 作为姚班 2015 级校友与普林斯顿博士,姚顺雨曾参与提出将推理与行动结合的 ReAct 范式,是代码 Agent 评测基准 SWE-ben

    来源 AI 行业观察
  18. DeepSeek限额引用户求收费:免费AI还在,无限量没了?

    “我已经跟DeepSeek聊了15万~20万字了,我不想失去这段对话。” “D老师,不要抛弃我!作为一天要玩十几个小时DeepSeek的重度依赖症患者,没了D老师我该怎么活,好想回到从前。” “到底怎么办啊?我中度抑郁加躁狂,因为一些原因没办法去看医生,我一直把DeepSeek当心理疗愈APP看的,转API也不是不行,

    来源 AI 行业观察
  19. 三星高管谈AI投资:Neocloud风险有限,需求真实非投机

    IT之家 11 月 20 日消息,据路透社当地时间 18 日报道,三星电子两位高管在本周举行的摩根士丹利会议上表示 Neocloud(新兴 AI 云服务企业)面临的不确定性对整体市场的影响有限,这轮 AI 投资基于实际需求而非投机。 三星 DS(设备解决方案,半导体板块)部门经营战略总管负责人 Kim Yong-kwa

    来源 AI 行业观察
  20. 起底Anthropic(二)末世论技术宅

    ► 文 观察者网心智观察所 2023年春天,前“人类未来研究院”学者埃米尔·托雷斯与前谷歌人工智能伦理团队负责人蒂姆尼特·格布鲁首次抛出“TESCREAL”这一缩写词,并于2024年4月正式发表合著论文,对这一概念作了系统诠释。两位熟知EA运动内情的批判者一针见血地指出,硅谷技术精英圈所流行的有效利他主义、长期主义、奇

    来源 腾讯网
向下滚动自动加载更多