生成式视觉推理多走几步能更聪明?论文从数学上给出否定答案

资讯 腾讯网 作者:科技行者 全文 4451 字 · 约 12 分钟读完 分类学术研究

你有没有想过这样一个问题:如果让一个AI模型多想几遍,它是不是就能变得更聪明?这听起来像是常识。人做数学题的时候,打草稿、检查、修改,步骤越多往往越准确。那AI生成图像来解决问题,是不是也应该是步骤越多越聪明?2025年,一群研究者盯着这个问题死磕了很久,最后得出一个让人意外的答案:不一定。**事情要从一种叫...

所属频道 前沿研究

如果一个AI模型多想几遍,它会不会因此变聪明?这个问题听起来像常识。

人做数学题,打草稿、检查、修改,步骤越多通常越准。那么AI通过生成图像来解题,是否也遵循步骤越多越聪明的规律?

2025年,一群研究者在这个问题上钻了很久,最后给出的答案出人意料:不一定。

**先说说“生成式视觉推理”这个新思路。**

过去,AI解推理题(走迷宫、解数独、找最短路径之类)走的是文字链条的路子,一步一步把推理过程写出来。后来有研究者注意到,有些问题天然适合用图像处理,比如空间规划、拼图、路径搜索,画出来比写出来更直观。于是有人提出:干脆让AI直接“画”出解题过程,靠生成图像一步步逼近正确答案。

这套方法的核心工具叫

流匹配

直觉上,这套方法简直天生就该装进“推理”的外壳。从噪声变成图像要走很多步,这“很多步”不正好对应AI一步步思考的过程?先想个大概方向,再细化细节,再修正错误,跟人脑解题的套路一模一样。

确实有研究者把这个想法付诸实践,用

但论文作者们觉得不对劲,决定从数学上较这个真。

多走的步骤,可能只是白走

研究团队用了一套叫

电路复杂度

的理论工具,刨根问底地分析

这话怎么理解?

想象你在玩“传话游戏”,不是传给一群人,而是你一个人反复小声修正同一句话,每次只改一个字。改1000次,这句话能变多复杂?答案是,不会比你改10次复杂太多。每次能改的幅度太小,1000次小修正加起来,整体效果还是能被几次大修正模拟出来。流匹配的问题就出在这:每步更新幅度都被步数K严格限制,步数越多,每步能改变的东西反而越少,变化幅度是O(1/K)这个量级,步数翻倍,每步改动量就减半。

论文证明了一件很扎实的事:整个采样过程本质上是在解一个连续的

常微分方程

因此,无论把这个方程拆成多少个离散步骤来走,理论上总能找到一种替代求解方式,用固定数量的并行计算轮次(不随步数K增长)把整条轨迹模拟出来。换句话说,你看着走了50步、100步,但这些步骤真正蕴含的“串行计算深度”是个常数,不会因为多走几步就变多。

**这意味着,采样器再强、步数再多,模型的推理能力都被焊死在它自己的**

这个结论落到现实的神经网络架构上,含义很具体。研究者提到,像标准的

对数精度

Transformer,如果不用思维链,其计算能力被证明只能落在一个叫TC?的

论文给出的结论是:这种Transformer就算被放进流匹配的采样循环中反复跑很多步,本事仍旧卡在TC?这一档(换成别的架构变体,可能只到更弱的AC?),一步也没能再往上走。

这就好比你雇了一个只会做简单加减法的会计,让他把同一张报表反复检查1000遍。检查1000遍能查出微积分里的错误吗?不能。他的能力上限从一开始就定死了,重复检查的次数再多,也突破不了“只会算加减法”这个天花板。那如果不设这个限制会怎样?这意味着任何一个弱小的模型,只要给足够多的采样步数,就能解决任意复杂的问题,这显然和我们对计算能力的基本认知相悖。

证明这件事的过程本身也挺精巧。研究者用了一种叫

并行Picard迭代

的技巧,把原本看起来必须顺序执行的K步计算,压缩成了O(L)轮(L是模型的

这就是Lipschitz常数。

这些并行计算所需的轮数只与L(模型的Lipschitz常数)有关,不会跟着步数K一起涨。原本1000个人得排成一队挨个传话,如今所有人同时参照邻居的猜测互相修正,几轮下来就能收敛到同一个答案,长队根本不用排。

真正的突破口:让模型随身带一块草稿板

问题既然卡在“每一步的变化幅度太小,装不下复杂计算”,解法也就明朗了:让模型在相邻的采样步之间多传一些信息,变化幅度不再被步长锁死。

研究者给出的答案叫

自条件

的技术。

它具体怎么跑?传统的流匹配里,每一步更新只看当前的噪声状态,状态的改变幅度被步长牢牢压住。但

这个预测值跳出了步长的约束。它不是靠小幅度一点点累加出来的,而是模型直接对最终结果做一次“跳跃式”的猜测,再随着当前进展随时推翻重写。

可以这么理解。流匹配原来的采样过程,像蒙着眼睛走迷宫:每一步只能挪一小段,终点在哪个方向完全不知道,只能凭脚下的触感微调。这样走1000步,攒下的信息其实很有限,每步能纠正的偏差太小了。而

论文给这个终点预测起了个名字,叫

内部草稿纸

这个比喻很贴切。正是这块“草稿纸”的存在,让模型在不同采样步之间能传递任意复杂的信息,不再受“每步只能改一点点”这条物理约束的束缚。

训练用了两阶段的做法:第一遍模拟采样刚开始、草稿纸还空白的情形;第二遍模拟草稿纸已有内容、需要在此基础上继续修正的情形。两次预测用同样的权重加总成损失函数,模型只需多做一次前向传播,就学会了怎么用这块草稿纸。

从“常数深度”到“图灵机”:理论上限被打开

加上自条件之后,模型的理论能力边界有了什么变化?

论文的核心定理证明,带自条件的流匹配只要步数足够多,一个结构极其简单(属于AC?这个最弱电路类)的模型,居然可以模拟

空间受限图灵机。

也就是说,只要采样步数给够,模型能解决的问题范围就从“常数深度电路做得到的”一跃跳到“整个空间受限计算理论做得到的”,这是质的变化。具体来看,论文证明步数为多项式级别时,模型能解决P/poly类问题;步数到指数级别时,甚至能触及PSPACE/poly这个更宽的类。

证明的路子很直接:草稿纸既然能承载任意信息,那就让模型把一台图灵机的“纸带”内容和运行状态直接存到草稿纸上。每走一步采样,模型就模拟图灵机推进一步,纸带内容随之更新。等模拟的图灵机跑到终止状态,答案就写在纸带上不再变化,模型只要把这个固定不变的答案一路保持到采样结束。

这好比原先你给一个只会查字典的助理一张纸条去办事,他的能力永远跳不出字典能查到的范围。现在给他配一块白板,告诉他每收到一条新指令就在白板上更新当前进度,下次执行前先看一眼白板写了什么。这个助理突然就能完成需要记忆、需要分阶段推理的复杂任务了——白板给了他保存状态、持续迭代的能力,不必每次都从零开始、靠一张便签条做判断。

不过,这一理论上的大幅提升并非无条件成立,论文本身也承认了这点。相关证明要建立在若干正则性假设之上,例如模型输出的变化幅度必须受限(也就是有界

三个“刁钻”任务,用来验证理论

只有理论证明还不够有说服力,研究者设计了三个任务,专门卡在理论预言的“分界线”上,拿来做实锤验证。

第一个任务叫线条追踪,要求模型给五条穿过多个“排列阶段”的长折线上色。这个任务被证明属于NC?复杂度类,理论上难度刚好超出TC?模型(普通流匹配大概够不着)能处理的范围。第二个任务是长竖式乘法,要求模型完整画出多位数乘法的竖式计算全过程,包括每一步的进位和求和,复杂度是TC?完全的。第三个任务是长文本渲染,要求按排版规则把一段文字渲染成图像,同样是TC?完全的。

这三个任务有一个共同点:它们的符号化版本的计算复杂度,刚好卡在普通流匹配(受限于AC?或TC?)理论上碰不到、而带自条件的流匹配理论上能碰到的那条分界线上。

实验结果印证了理论预测。线条追踪任务上,训练计算量相同,带自条件的版本能把折线准确上色到第50个阶段(即全部正确),普通流匹配稳定到第8个阶段左右就开始出错。长竖式乘法上,带自条件的版本用不到一半的训练预算就达到90%以上的准确率,普通流匹配在整个测试的计算预算范围内都没到这个水平。长文本渲染任务上,带自条件版本的字符错误率最终降到0.005左右,普通流匹配一直在0.03到0.1之间徘徊,差了整整一个数量级。

更能说明问题的是一个叫"自条件"的机制。这组数字直接验证了论文最核心的理论判断:普通流匹配加再多步数也白搭,自条件版本却能把多出来的步数变成更深的推理能力。

除了三个专门设计的合成任务,研究者还把验证搬到了更贴近真实应用的视觉推理基准上,一共五个任务:大规模视觉空间规划、走迷宫、数独、拼图复原,规模更大。

旅行商问题

在训练计算量和采样步数都受控的相同条件下,带自条件的方法五个任务全部压过普通版本,平均准确率从65.9%升到76.7%,涨了10.8个百分点。研究者随后又把这套方法放到一个200亿参数的大模型上做更大规模测试,并与此前两个代表性工作对比:一个叫

自条件还带来一个意外的"副作用"。分析生成轨迹时,研究者发现自条件机制保留了两个很有意思的特性,而这两点,传统逐词生成的思维链方法天生做不到。

第一个特性是并行局部计算。在长竖式乘法任务里,哪怕只走一步采样(

更值得关注的是第二个特性——原地纠错。研究团队设计了这样一组实验:让模型先围绕问题A展开生成,中途冷不丁把条件替换成问题B,观察它能否把已经写了一半的内容拽回来、重新对上问题B的答案。数据显示,只要这次"调包"落在采样轨迹的前半段,带自条件的版本约有90%的概率能把答案纠正到与问题B匹配;即便调包时间稍晚,只要没越过轨迹70%的位置,成功率依然不低,真正彻底失灵要到第35步前后。

打个比方,你正在写命题作文,写到一半监考老师通知换题目。假如你习惯写一句就定死一句、绝不回头改,那题目一变基本只能推倒重来。反过来,要是写作过程中始终留着一份"大纲草稿",每写完一段就对照大纲检查一下,题目突然换了,你也不用推翻已有内容,把后面的部分朝新方向带过去就行。自条件机制里那块,起的就是这个作用。

Q&A

Q1:自条件机制与普通流匹配的本质差异在哪里?A:普通流匹配每一步只允许状态做很小幅度的变化,而且步数越多这个幅度还会进一步收窄,于是步数加得再多,效果也等同于常数轮的并行计算。自条件则多做了一件事:让模型预测一份"终点草稿"并回喂给下一步,这份预测允许大幅跳变,等于给模型配了一块随时能重写的状态记录板,多出来的采样步数这才真正被转化为更深的推理能力。

Q2:这篇论文的理论结论在现实训练出来的模型上靠谱吗?A:论文的理论证明依赖模型输出变化幅度有限(即

Q3:自条件版本在实际任务上比普通流匹配到底强多少?A:在三个合成任务上普遍有显著提升,比如长竖式乘法用不到一半训练预算就达到90%以上准确率;在五个结构化视觉推理任务上平均准确率从65.9%提升到76.7%;在200亿参数大模型上针对单任务训练的自条件版本平均达到90.0%,超过此前的DiffThinker(75.8%)等基线方法。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 知乎推出Paper开源计划:论文与讨论打通,科研作者可绑定身份

    知乎把论文阅读与社区讨论连接了起来。近日,2026知乎科学季收官。除了邀请科研人员参与线下交流,知乎还在科学季期间推出“Paper开源计划”,将论文关联、讨论入口和研究者身份绑定纳入社区功能。基于这项计划。用户阅读论文时,可以通过插件查看知乎上的相关讨论;社区问题可以关联论文卡片,方便读者查阅原始研究;科研...

    来源 腾讯网
  2. 清华与港中文团队提出缓存工程:推理成本降27.7%

    用 Agent 跑长程任务时,模型推理和工具调用的历史轨迹会随着任务进行越积越多。超长的历史轨迹会显著拖慢模型的速度并带来高昂的费用。codex 通过总结来进行上下文压缩目前常见的上下文工程(Context Engineering),主要通过裁剪 [1] 或总结 [2] 来压缩历史文本。然而,早期文本一旦被修改,模型已

    来源 腾讯网
  3. OpenAI报告:1819名科学家58万条消息,AI提效最高达2.83倍

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月17日消息,今天,OpenAI发布一项研究报告,关于科学家使用ChatGPT的情况以及对AI加速科研发现的看法。据受访科学家估计,在完成同等质量工作的前提下,使用AI的工作效率可达未使用时的约1.9倍。OpenAI经济研究团队以ChatGPT学

    来源 腾讯网
  4. 曾妍的新论文,就是字节 “10万亿”路线图

    95后的曾妍,正在快速晋升。 曾妍于1997年出生,2021年以校招的方式进入字节,后来成为了Seedance的预训练负责人。字母AI在文章《字节的“罗福莉”,撑起了Seedance的半边天》中曾对她进行过详细报道。 如今有传言称,曾妍的头衔已经上升为Seedance核心负责人。早在今年3月时,曾妍的职级还是3-2,而

    来源 AI 行业观察
  5. 谷歌PageBreak:AI安全代理已挖出500多个XSS漏洞,误报率接近零

    根据谷歌发表的一篇论文,其人工智能驱动的安全代理自今年 1 月全面投入运行以来,已在旗下各类 Web 应用中发现了 500 多个 XSS 漏洞。Google PageBreak 利用 Gemini 模型自主调查潜在漏洞,但仅在确定性验证器在运行中的应用程序上成功复现该漏洞时才会上报,因此误报率几乎为零。 借助 Page

    来源 AI 行业观察
  6. 哈佛研究:美国 403 座超大规模数据中心年排放量与丹麦全国水平相当

    IT之家 11 月 17 日消息,据路透社报道,当地时间 16 日,哈佛大学研究人员在《自然 · 可持续发展》期刊发表论文指出,美国 403 座超大规模数据中心每年的温室气体排放量,相当于丹麦全国一年的排放总量。 研究数据显示,2024 年 5 月至 2025 年 4 月,这些数据中心共排放 2570 万吨二氧化碳。与

    来源 AI 行业观察
  7. 蚂蚁国际杨鹏:AI与通证化重塑资金流动,普惠可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  8. 蚂蚁国际杨鹏SFF谈未来金融:AI重塑资金流动,普惠与可信成关键

    在今天的“未来金融体系”圆桌讨论上,蚂蚁国际CEO杨鹏预测下一代金融体系发展:当AI、通证化与智能体商业重塑资金流动方式,真正决定成败的不仅有更强的智能,而包括——普惠普及性(Accessibility)与可信任(Trust)。“如果只有大型企业、大公司和大型科技公司能把这一切收入囊中,那样的未来会非常无趣。”

    来源 TechWeb
  9. AI越聪明选择越单调:马茨实验揭示算法如何压平人类多样性

    我们对 AI 的信任,正在达到史无前例的高度。 无论是在屏幕前码字,还是在生活中做决策,我们都习惯向 AI 寻求那个「完美建议」。用得多了,你甚至会发现它总是精准地踩中我们预期中的最优解。 这种顺滑,很可能是一种被精心设计的心理按摩。 哥伦比亚大学教授桑德拉·马茨用冰淇淋店 Baskin Robbins 做了一个实验。

    来源 AI 行业观察
  10. DeepSeek长对话限额7天,免费用户为何反求收费

    话题“DeepSeek用户呼吁取消7天限制”冲上微博热搜。但与一般产品限流引发的骂战不同,这场争议中出现了一个颇为“魔幻”的画面:平时最不愿意付费的一群人,正在主动求着DeepSeek收费。

    来源 TechWeb
  11. 梁文锋的“大肥鱼”,围剿大厂 Agent 地盘?

    点击 Tech星球 > 点击右上角“···” > 设为星标 Tech星球(微信ID:tech618)文 | 华卫封面来源 | 豆包AI龙虾(OpenClaw)成为过去时,现在AI社区里流行起了“养鱼”。近日,一群有独特个性的AI小鱼活跃在互联网各个角落。除了在办公、编程中干活,还做了不少意想不到的事儿,有的在社交平台到

    来源 腾讯网
  12. AMD完成收购Taalas:芯片将并入加速器路线图

    IT之家 11 月 18 日消息,AMD 当地时间昨日宣布完成对专用 AI 推理芯片开发商 Taalas 的收购。这家初创企业带来了差异化的技术和世界一流的工程专业知识。AMD 表示此举将进一步加强其全栈 AI 产品组合和长期推理路线图。AMD 计划将 Taalas 的技术整合到其加速器路线图中,结合 Instinct

    来源 腾讯网
  13. 字节跳动马来西亚买GPU的4.8亿美元贷款被叫停,发生了什么?

    据报道,在美国出口管制新规生效后,字节跳动一笔原本用于在马来西亚采购英伟达GPU的4.8亿美元贷款突然被叫停。有知情人士消息称,评估该交易的至少五家银行已内部讨论退出或不参与,部分银行人士私下判断,这笔贷款“实际上已经死亡”。

    来源 TechWeb
  14. 雷军:AI+手机与具身智能机器人空间大,三四年内或迎颠覆时刻

    IT之家 11 月 18 日消息,小米创办人、董事长兼 CEO 雷军 11 月 17 日出席 APEC 工商领导人峰会。今日(11 月 18 日),雷军接受了人民日报采访。谈及人工智能,雷军坦言,人工智能浪潮席卷各行各业,作为 AI 从业者能感受到一些焦虑。雷军认为,“AI+ 手机”“AI+ 具身智能机器人”等领域有很

    来源 腾讯网
  15. 字节跳动马来西亚买GPU贷款被叫停:4.8亿美元融资生变

    【TechWeb】11月18日消息,今日,话题“字节跳动买显卡贷款被叫停”冲上微博热搜,引发热议。 据报道,在美国出口管制新规生效后,字节跳动一笔原本用于在马来西亚采购英伟达GPU的4.8亿美元贷款突然被叫停。有知情人士消息称,评估该交易的至少五家银行已内部讨论退出或不参与,部分银行人士私下判断,这笔贷款“实际上已经死

    来源 AI 行业观察
  16. DeepSeek限制长对话使用:用户反求付费,官方未给时间表

    【TechWeb】11月15日起,多名用户在社交平台发帖称,DeepSeek已对App与网页版的长对话功能实施了使用限额。页面弹窗显示:“因算力不足,不再支持超过7天不活跃的长对话。” 随后几天,愤怒与不解迅速在社交平台发酵。11月18日,话题“DeepSeek用户呼吁取消7天限制”冲上微博热搜。 但与一般产品限流引发

    来源 AI 行业观察
  17. 亚马逊CEO安迪·贾西首谈黄仁勋辞职风波:与英伟达合作不动摇

    在英伟达创始人黄仁勋辞任CEO危机的背景下,贾西首次就此公开表态,明确传递了亚马逊对英伟达合作关系的信心。辞职消息公布后,英伟达股价开盘大跌13%,市值一度跌破4万亿美元。此后,黄仁勋曾表示准备重返CEO职位,但英伟达董事会明确表示“无意让他复职”。贾西在采访中将亚马逊与英伟达的关系描述为一种“竞合”关系,既是合作伙伴

    来源 TechWeb
  18. 亚马逊CEO首度回应英伟达黄仁勋风波:合作关系不会动摇

    在英伟达创始人黄仁勋辞任CEO危机的背景下,贾西首次就此公开表态,明确传递了亚马逊对英伟达合作关系的信心。辞职消息公布后,英伟达股价开盘大跌13%,市值一度跌破4万亿美元。此后,黄仁勋曾表示准备重返CEO职位,但英伟达董事会明确表示“无意让他复职”。贾西在采访中将亚马逊与英伟达的关系描述为一种“竞合”关系,既是合作伙伴

    来源 TechWeb
  19. 中际旭创被看空:300亿利润测算指向AI硬件软肋

    一份看空中际旭创的估值测算,几乎把整个AI硬件资产的估值困境摆到了台面上。 11月17日,一份关于中际旭创的看空测算在投资圈迅速传播。按照这份材料的预测,到2029年,中际旭创的年净利润大....

    来源 腾讯网
  20. 谷歌 SRE 圣经被迫重写:AI 时代,硬技能在塌陷,第一性原理在升值

    编译|林绮蓓 策划|Tina 2016 年,一本蓝色封面的书砸进了整个技术行业,把“运维”这两个字从地下室拽进了工程学科的殿堂。 在它之前,运维在大多数组织里是一个成本中心,是一群被凌晨告警叫醒的人,是开发团队眼中“拖慢发布速度的那帮人”,是一门靠师傅带徒弟、靠口口相传、靠个人英雄主义在机房里临场发挥的手艺。系统出了故

    来源 AI 行业观察
  21. 5450亿美元!高盛大幅上调AI项目融资预测,但关键担保人英伟达正在退场

    高盛将2027年全球AI项目融资规模预测从3000亿美元大幅上调至5450亿美元,但这一雄心勃勃的预测面临一个核心矛盾:支撑其中最大增长部分的关键担保人——英伟达——正在收缩其金融承诺。根据高盛信贷团队11月17日发布的报告,5450亿美元预测中有3200亿美元来自芯片融资,这一规模较今年迄今完成的480亿美元增长近七

    来源 腾讯网
向下滚动自动加载更多