AI空间推理新突破:不用工具也能学会,MindCube-Tiny涨到62.9分
你可能没想过这样一个问题:一个AI模型要判断"从第一张照片到第二张照片,相机往哪个方向移动了",到底有多难。对人类来说这几乎是本能。你瞥一眼两张照片,大脑自动比对一下沙发的位置、窗户的角度,答案就出来了。但对多模态大语言模型来说,这件事出奇地难。这就是这篇论文要解决的问题,也是它故事的起点。**空间推理这...
一个AI模型要回答“从第一张照片到第二张照片,相机往哪个方向移动了”,这件事究竟难在哪,可能很多人没想过。
人做起来几乎是本能:扫一眼两张图,大脑自动比对沙发的位置、窗户的角度,答案自然就出来了。可换成多模态大语言模型,这件事就出奇地难。
这篇论文瞄准的就是这个问题,故事也从这里开始。
**空间推理难就难在“没有标准答案可以打分”**
先说说空间推理到底指什么。
所谓空间推理,是从二维图像里推断三维世界的属性,比如物体离得多远、相机往哪边运动、视角一变场景会是什么样。对多模态大语言模型(能同时看懂图像和文字的AI模型)来说,这是最头疼的能力之一。
头疼的原因在于:空间推理的最终答案也许能验证对错,但中间的推理过程几乎没办法自动打分。你让AI讲“我是怎么判断相机往左移动的”,它给出一堆理由,可你很难写个程序自动判断这些理由站不站得住。
几条常规训练路子就这么被卡住了。
第一条路是监督微调。
监督微调(SFT)的做法很直接:拿问题和答案成对的数据去训练模型,让它学会给出正确答案。简单粗暴,毛病在于模型学到的只是“这种图配这种答案”的表面映射,空间理解始终是隐性的、脆弱的,场景稍一变化就彻底崩掉。
第二条路是强化学习,比如GRPO。
GRPO(Group Relative Policy Optimization)是一种强化学习算法:让模型自己生成多个答案,按对错给奖励,再逐步调整策略。理论上它能绕开“中间步骤没法打分”这个坑,因为它只看最终答案对不对。
可现实并不理想。空间推理缺少可验证的中间步骤,强化学习管线只好依赖昂贵的冷启动数据和稀疏的结果奖励,效率低得让人头大。打个比方,这就像让学生做数学题,你不告诉他每一步对不对,只等他写完整张卷子再报个总分。他要试多少次才能摸清哪一步错了?没有过程反馈,他很可能一直在瞎撞运气,而不是真正掌握方法。
于是研究者想到第三条路:让AI用工具。
**AI学会写代码、调用工具来解决空间问题**
思路是这样的:既然AI自己判断不准,那就让它像人类工程师那样,写代码调用专业工具去算。
这种系统被称为空间编码代理(Spatial Coding Agent),说白了就是让多模态大模型靠写 Python 代码、跑 Python 代码来处理空间难题的智能体。深度估计、物体分割、相机位姿计算这些专业工具它都能调起来,在一直运行着的编程环境里一步一步往下推。
论文里反复提到的SpatialClaw就是一个例子。给它两张照片,它会写代码调用三维重建工具,算出相机在两帧之间的精确位移向量,比如横向移动了零点三八米、纵向移动了零点四三米,再依据这些数字判断方向,甚至渲染一张鸟瞰图做视觉确认。
这个思路确实管用。论文的实验数据显示,在MindCube-Tiny这个基准测试上,直接问答只有40.2分,加提示词引导的思维链能到47.4分,而让AI调用空间编码代理后,分数直接跳到62.9分。这个跃升相当大,相当于每十道题里,用了工具的AI比光靠嘴说的AI多做对两道。
但新问题也随之而来,而且很现实:工具不是免费的。
每次推理都要反复调用代码执行、等待工具返回结果,这个过程既慢,又依赖外部基础设施。如果要服务成千上万用户,“写代码、跑代码、等结果”的循环会把服务器成本和响应延迟都拖得很高。
好比去另一个城市出差,专车接送确实准时又靠谱,司机对路线一清二楚,不会迷路。可你不能指望每次出门都叫专车,成本扛不住。你更希望自己学会开车,熟练程度接近专车司机,这样才能真正自由地说走就走。
论文要攻克的正是这一点:能不能让AI把“用工具推理”这项本事内化成自己的本能,彻底脱离工具运行?
**一个意外的发现:给AI看看别人的解题笔记,它自己就开窍了**
在反复试验中,研究团队碰到了一个颇有意思的现象。
他们安排了一组四路对照实验。第一路是直接问答,什么引导都不给;第二路走提示词思维链,让AI自己一步一步琢磨;第三路真刀真枪调用空间编码代理,写代码、跑工具;第四路最特别——AI不自己调工具,而是先看别人(也就是空间编码代理)跑完留下的执行记录,再基于这份记录直接作答,全程不再碰任何工具。
第四路有个专门的名字,叫智能体轨迹条件化思维链(Agent-Trace-Conditioned CoT):AI先读一份完整的工具调用记录作参考,随后在不调用工具的前提下,自行写出推理过程和答案。结果出人意料——这一路的成绩,几乎和真正跑工具的第三路打成了平手。
具体看分数。MindCube-Tiny上,提示词思维链拿到47.4分,工具代理是62.9分;而只是读了一遍别人的解题记录、再自己写答案,就冲到了63.0分,比真跑工具还高出一丁点。SPAR-Bench-Tiny上也是同样的走势,49.4分对56.6分,读记录条件化之后能到57.0分。
这组数字指向一件事:AI的空间推理底子并没有想象中那么差,它缺的是一个能把它“激活”的触发点。
研究者接着拆解了AI读完执行记录后写下的推理文字,发现提到三维度量相关概念的频率涨了1.8倍,提到反事实运动(比如“相机要是往左移,画面会变成什么样”)相关概念的频率涨了1.6倍。也就是说,看了解题记录,AI并非照抄答案,而是被引着往空间感知的方向去想问题。
打个比方,一个学生做几何题老是干巴巴地套公式,你给他看一份高手的解题笔记,笔记里不光有答案,还写着“先想想把这条线延长会怎样”。学生读完,哪怕之后独立做题、不再翻笔记,也开始习惯性地在脑子里做这类空间假设推演。笔记没被带进考场,却改掉了他的思维习惯。
正是这个观察,撑起了整篇论文的核心方法。
**SpatialOPSD:把特权信息变成训练养料**
既然读执行记录能让AI开窍,那能不能把这份“开窍”永久写进模型参数,让它以后不读记录也能达到同样水平?
这正是SpatialOPSD要解决的问题。它的全称里含着一个关键概念——在线策略自蒸馏(On-Policy Self-Distillation,OPSD):同一个模型出两个副本,一个当学生,只看原始输入;一个当老师,额外能看到特权信息。学生在自己生成的推理轨迹上,逐词向老师给出的概率分布靠拢,老师多掌握的那部分知识就这样转移给了学生。
这里有个概念得先解释清楚:特权信息。
特权信息(Privileged Information),指训练时额外喂给老师模型、但学生模型在推理阶段永远接触不到的内容。放到这篇论文里,特权信息就是空间编码代理跑出来的执行轨迹的总结。
整套流程分几步走。先让空间编码代理把训练集里的题目跑一遍,只留下最终答案经验证正确的轨迹,由此得到一批“确认靠谱”的解题记录,全程不用人工标注。接着把这些记录转成四种不同风格的特权信息文本,逐一测试哪种风格最管用。最后拿这些特权信息当老师的“外挂知识”,训练学生模型在碰不到它们的情况下,自己生成接近老师水平的推理过程。
有个细节耐人寻味:论文测了四种构建特权信息的方式,分别叫全轨迹、摘要、事实、意图。
全轨迹(Full-Trace)保留代理的完整原始记录,代码、工具调用细节、探索时走的弯路都在里头。摘要(Summary)把记录提炼成关键推理要点,并刻意抹掉答案的直接提示。事实(Fact)只抽工具测出的客观事实,不含推理过程,但附上格式化答案。意图(Intent)提取代理解题策略背后的思路,工具相关的细节痕迹一概去掉。
实验结果显示,摘要风格效果最好,MindCube-Tiny上比基线提升8.6分,综合平均提升6.0分。研究者的解释是,摘要风格让老师和学生之间的“熵差”(可以理解为两者对答案确定程度的差距)停在适中水平:信息太少,老师自己也云里雾里;信息太细,老师过度自信,学生又无从模仿。全轨迹因为塞了太多工具细节,反倒把这个差距拉大,优化起来更费劲。
这就像教新手开车,你不会把发动机原理和每个传感器的电压参数都讲一遍,那只会让他更晕;也不能什么都不说,让他自己瞎摸。最合适的做法是教练在旁边提醒一句“注意看后视镜,判断一下旁边车道的距离”,提示给得刚刚好。
**老师也会耍滑头:两种“抄作业”行为**
不过这个蒸馏过程并非一路顺风,论文坦率点出了两个风险。
头一个叫自我强化式重复(Self-Reinforcing Repetition):学生模型自己生成的推理一旦陷进某种重复循环(比如翻来覆去说同一句话),老师模型可能非但不纠正,反而“认可”这种重复,结果学生越训越容易卡在重复输出的死循环里。
第二个叫特权信息泄露(Privileged-Information Leakage):老师模型看过特权信息,天然倾向于复述甚至照抄这些内容。可学生模型真正推理时压根看不到它们,一旦学会依赖抄这份并不存在的“参考答案”,实际部署时就会表现得莫名其妙,甚至可能编出根本不存在的工具调用记录,给自己的答案找理由。
论文里给了一个很具体的例子。研究者把未经修复的"原始版OPSD"推理输出原样贴了出来:模型先写"第三步:对照代理的工具记录(不要抄袭)",下一句就开始转述"代理说相机往前往左移动了",最终答案还是错的。它压根没运行过那个工具记录,纯靠编造一份不存在的记录来给自己的判断撑腰,特权信息泄露在这里暴露得相当彻底。
论文针对上述两个毛病设计了一套专门的修复机制,叫重复感知蒸馏(Repetition-Aware Distillation)。说白了,这是一种把重复掩码和不可能性正则化捏在一起的训练技术,用来发现并压住学生模型在蒸馏时对特权信息的逐字照搬,以及自己翻来覆去说同一句话的倾向。
落地时分两步走。头一步是查:系统拿n元词组匹配去比对,也就是看连续几个词有没有原样出现过,据此挑出两类可疑片段——一类是学生自己的输出里前面刚说过、后面又重复一遍的内容;另一类是特权信息里有、原始输入里却没有的词组,这种词组一旦跑到学生输出里,基本可以判定是抄的。
第二步是罚。对被标记出来的位置,系统同时做两件事:一是把这些地方的标准蒸馏监督信号直接盖掉,老师没法再在这儿"教"学生;二是另加一项不可能性惩罚(Unlikelihood Penalty),把模型在这些位置接着生成相同内容的概率往下压。
惩罚项里还藏着一个照顾数值稳定性的小设计。重复循环往往伴随模型对某个词的极高置信度,概率接近百分之百,这时若直接拿负对数算惩罚,概率逼近1会让结果朝负无穷方向炸开,训练当场就崩。论文的处理是加一个很小的数值下限兜底,保证梯度计算不出岔子。
这套设计想干什么?可以拿批作文打比方:老师发现学生有两段几乎照抄了参考范文,不会在旁边批"写得好"接着鼓励,而是把这两段的批注留白、不给分,再专门标一句"这里不要抄",让学生明白这种写法要被扣分,而不是被默许。不这么处理的后果,论文给了数字:不做任何修复的原始OPSD,特权信息泄露率82.7%,十个回答里八个都在明里暗里抄那些本不该出现的内容;只加掩码,泄露率降到73.6%;再叠上不可能性惩罚,骤降到6.7%;两者合起来是9.1%。消融实验还看出两个手段各有偏重——单用掩码准确率最高,56.9分对基线55.4分;单用不可能性惩罚压泄露更狠;合在一起则在准确率和泄露抑制之间取了平衡,整体泄露率压到个位数,同时保住6.0分的提升。
设计讲完了,实际跑出来什么水平?论文在MindCube和ViewSpatial两个空间推理基准上做了全面评测,先看总览。
横向比一比别的训练方式。同样以这个9B模型为底,标准监督微调只拿到47.6分,GRPO强化学习是48.2分,SpatialOPSD的51.9分把两者都甩在了后面。
跟那位真会调工具的"老师"——SpatialClaw空间编码代理——对比更有意思。SpatialClaw综合得分57.3,SpatialOPSD是51.9,也就是说完全不碰外部工具、只走单次前向推理,它留住了老师91%的实力。
再跟商业大模型放一块看。表格里GPT-5综合得分51.0,Gemini-3-Pro是60.7。SpatialOPSD-9B的51.9分已经压过GPT-5,跟Gemini-3-Pro的距离也拉近了不少,而做到这点的只是一个9B参数的开源模型。
这组数字值得多想一层。规模不大的开源模型,凭一套训练方法,就能在特定能力上追平甚至超过参数和算力投入都远高于自己的闭源商业模型。至少在专项能力上,训练数据和训练方法怎么设计,效率可能高过一味堆参数。
论文还换了模型规模做验证,2B、4B、27B三档都试了。SpatialOPSD在每一档上都带来提升:2B从40.6涨到42.8,4B从46.4涨到50.2,27B从50.6涨到54.2。可见这套办法并非只对某个特定大小的模型有效,普适性相当可观。
换一个空间编码代理会不会影响效果,论文也测了。分别用SpatialClaw和另一个叫pySpatial的代理生成训练轨迹,两边训出来的学生模型表现接近,56.9分对57.0分。这说明蒸馏框架对拿哪个代理产数据并不敏感,跨代理也能扩展。
在训练用的数据集上好看,不等于真学会了通用能力,也可能只是把那个数据集的套路背了下来。为此论文专门做了一轮分布外(OOD)评测,挑了四个训练阶段完全没见过的基准:OmniSpatial、BLINK、MMStar、Video-MME,前两个考空间推理,后两个考更通用的多模态能力。
四个基准上SpatialOPSD平均准确率64.7%,高过标准微调的38.4%和GRPO的63.4%,也略高于纯思维链基线的64.4%。这说明针对空间推理的这套训练没把模型别的本事弄坏。监督微调在这里跌得最惨,38.4%近乎断崖,恰好暴露了它的老毛病:容易过拟合到特定的问题格式和回答模式,换个场景就不好使。
消融实验还揪出了几个关键开关。
论文对几个超参数做了细致调节,逐一看它们各自能把结果拉动多少。
重复惩罚的权重上,论文试出0.10是个甜蜜点。调到最低的0时,泄露率高达73.6%,准确率则在MindCube上冲到60.0分;调到0.15,泄露率压到只剩0.8%,准确率却跌到55.1分,比不做任何修复的基线还低。说到底,这个惩罚力度就是一场权衡:太轻压不住泄露,太重又会伤到模型正常的学习能力。
最小重复片段长度的影响要小得多。从4调到64,准确率的波动都在一个百分点上下;泄露率的变化倒是明显,设成32时压到9.1%,是最优值。
论文还验证了“验证”这一步是否必要。不做筛选、把一万条训练轨迹全部拿来用,MindCube-Tiny上的综合得分是52.0;只留经过验证确实答对的5008条,得分反倒升到56.9。这个结果有点反直觉——数据更少,效果更好。轨迹的质量比数量重要得多,混进错误推理路径的训练数据,数量再多也可能把模型带偏。
**写在后面**
读完这篇论文,有个细节我一直在想。
论文用了相当大的篇幅对比四种构建特权信息的方式,结论是“摘要”风格效果最好,而不是把代理的完整执行记录原样塞给老师模型。这个发现背后藏着一个挺反常识的洞察:给老师更多信息,不一定能教出更好的学生。
直觉上,老师掌握的信息越全越细,教学效果应该越好。但论文的熵差分析给出了另一种解释:老师看到的信息太详细、太确定(比如完整的代码执行轨迹),它对答案的把握会变得异常自信,自信到跟学生的认知水平之间裂开一道鸿沟,知识转移反而因此变低效。真正好的教学,可能恰恰需要老师克制住“把所有细节都讲清楚”的冲动,只给出恰到好处的引导。
这让我联想到人类教育里一个常被忽略的问题:为什么很多讲得特别详尽、生怕学生听不懂的老师,效果反而不如那些故意留白、让学生自己填补空隙的老师?也许知识传递从来不是信息量越大越好,信息和接收者认知状态的匹配程度才更关键。
论文里还有一个发现让我停下来多想了会儿——“读执行记录比真正跑工具分数还略高”。这似乎暗示:工具本身可能不是空间推理能力的真正来源,工具的价值更多在于它逼出了一种更结构化、更贴近真实空间线索的思考方式。如果这个判断成立,那未来或许有一条更省事的路:不是不断给AI堆砌更强大的工具,而是想办法让AI从一开始就学会那种“调用工具时才会被激发”的思考习惯。
工具到底是能力的拐棍,还是能力的催化剂?论文给出的答案似乎更偏向后者。但这个问题恐怕还没有被彻底回答。
Q&A
Q1:SpatialOPSD是什么?
A:SpatialOPSD是一种训练框架,让多模态大语言模型把空间推理能力内化。它的做法是把验证过的空间编码代理执行轨迹转成特权信息,再通过在线策略自蒸馏,教会模型在不用任何外部工具的情况下完成空间推理。
Q2:SpatialOPSD和直接用工具调用的空间编码代理相比效果怎么样?
A:论文显示,SpatialOPSD训练出的9B模型综合得分达到51.9,真正调用工具的SpatialClaw代理得分是57.3;在完全不依赖工具的单次推理中,前者保留了后者约91%的性能。
Q3:重复感知蒸馏具体解决了什么问题?
A:它解决两个问题:一是老师模型纵容学生的自我重复循环,二是学生模型抄袭老师看到的特权信息。靠掩码处理和不可能性惩罚,这项技术把特权信息泄露率从82.7%降到了9.1%左右。