普林斯顿AI Lab推出SSoN空间智能测试:人类83.3%,最强VLM仅39.7%
AI 真的能理解三维世界吗?规划下一步动作、在杯子被挪走后及时调整、赶在环境变化前完成操作,动态任务不断向 AI 提出更复杂的空间要求。支撑这些行为的一块基础,是对眼前空间的可靠理解:物体在哪里,不同视角的观察能否彼此一致?普林斯顿 AI Lab 的研究者们带来了一张空间智能新考卷:Same Space or Not(
AI 到底能不能看懂三维空间?
规划下一步怎么动、杯子被挪开后马上调整、抢在环境变化前把操作做完——动态任务对 AI 的空间要求越来越高。这些行为底下压着一个基本问题:眼前的物体都在哪,换个视角看过去,前后能不能对得上?
普林斯顿 AI Lab 的研究者给出了新考题 Same Space or Not(SSoN)。他们把实时变化和动作控制都拿掉,只留四张静态室内图,让模型挑出其中不符合同一场景的那张,并说明理由。
项目主页:https://sson.aisexam.com/
论文链接:https://arxiv.org/abs/2610.23959
数据集:https://huggingface.co/datasets/HuiziCao/SSoN
代码链接:https://github.com/sson-benchmark/SSoN
微调权重:https://huggingface.co/HuiziCao/SSoN-Qwen2.5-VL-7B-LoRA
成绩出来后,差距摆得很清楚:
低于 25% 是怎么回事?那是等概率盲猜的期望值,不是能力下限。SSoN 特意造了一批“看着像变了、空间上其实没错”的强干扰视图。模型如果只看出外观不一样,却判断不了这种差异是不是视角造成的,就容易被系统性带偏,分数反而掉到盲猜以下。这说明的不是没有视觉能力,而是从识别差异到理解空间,中间还缺一截。
至于 39.7%,也只是选对了答案而已,有些回答给出的理由根本立不住。
17 个视觉编码器为什么全在随机线以下?让模型真去做三维重建,怎么还是答不对一半?这张考卷把“空间智能卡在哪”一层层剥开了。
图 1 展示了 SSoN 任务以及完整 1,000 题上的表现:人类答案的准确率为 83.3%,参测 VLM 中最高只有 39.7%。柱状图还把两类正确选择分开呈现——一类有充分证据支撑,另一类解释站不住脚。
空间智能的集体偏科:
交换和细节相对容易,旋转和移动却成了共同盲区
SSoN 的规则不复杂:四张图里,三张拍的是没动过的三维场景,一张来自编辑后的版本。没有指定的“正确参考图”,也没有提前标好的异常物体。哪些观察能互相印证、哪一张跟它们没法共存,得由模型自己判断。
图中的篮球就是个缩影。B 和 D 一起确认了它的位置;C 没拍到那个位置,还露出了别的视图没展示的物件,不过这都能用视角变化解释。A 却拍到了篮球本该在的地方,球还是没出现。要害在于空间关系能不能自洽,光凭“看起来不一样”很容易选错。
按题型拆开看,六类编辑大致分出三个难度层次,当前模型的空间能力缺口也各有不同。
交换和细节变化,是模型相对拿手的部分。两个物体互换位置,或者同一个物体的形状、颜色、纹理等外观变了,都能提供物体对应和外观差异的线索。六个受测模型在这两类上的准确率,都高于各自的整体成绩;表现最好的 Astra Pro 两类都在 80% 以上。
镜像和删除排在中间层,可对多数模型还是很难。镜像题要判断房间结构是不是真左右翻转了,得排除相机换边带来的视觉变化;删除题则要分清“物体真的没了”和“只是被挡住、移出了视野”。看不见,不代表不存在。镜像题上,除 Astra Pro 外,其余五个模型全部低于 25% 的随机基线;删除题上,这五个模型里最高的也只有 Sol Pro 的 42.57%。
移动和旋转,暴露的是更普遍的几何推理短板。六个模型在移动题上准确率最高只有 27.20%;旋转题更低,最高也才 9.54%。人类在这两类上都到了 70% 以上。后面的实验里,就算明确告诉模型六类编辑分别是什么,这两类的分数也没能有效提上来。
椅子在画面里换了位置和朝向,是椅子动了,还是相机动了?房间里要是还有几把长得一样的椅子,模型得先认准是同一个实例,再结合桌子、墙面这些参照物判断它的位置和方向。认出物体、发现外观差异之后,还有“理解三维关系”这一关要过。
SSoN 把这类考验扩展到七个室内场景来源,覆盖交换、细节变化、镜像、删除、移动和旋转六类三维编辑。1,000 道题、4,000 张图像,让总分底下的能力差异逐一显现:哪些变化模型已经比较容易捕捉,哪些空间关系仍然会让它们集体失分。
图 2|七个场景来源、六类三维编辑,以及不同图像格式和物体尺度。视角变化可以制造视觉差异,真实编辑也可能只留下局部线索。
换成 17 个视觉编码器,仍然全部低于随机线
换个思路呢?既然只有一张异常图,直接找出跟另外三张最不相似的那张,是不是就行了?
研究者拿 CLIP、ViT 和 DINOv2 系列共 17 个视觉编码器试了这个办法。按图像特征相似度挑离群视图,准确率只有 16.9% 至 21.7%,全部低于 25% 的随机基线。
这个结果把强干扰的作用具体摆了出来:正确的新视角可能改变大片可见内容,真实编辑却可能只留下局部线索。靠全局外观差异来选,没法可靠地区分这两种情况。
VLM 同样会被表面差异带偏。开发阶段的诊断实验里,合法但容易误导的视图招来了更多错误选择;把它换成清晰的正面参照后,多类题目的成绩明显改善。这一换既减少了干扰,又增加了直接证据,困难的位置也更清楚:变化摆在眼前能认出来,不代表换个视角还推得出来。
人可以先临时站到一个陌生的视角上,再去核对那些与其他画面存在关联的物体。SSoN 要检验的,就是模型能不能走完这一步,把不同视角的信息整合到一起。
选对了,解释也未必站得住——近三成答案过不了这一关。
低分固然扎眼,但更该留意的是另一件事:有些选项选对了,背后的空间判断却未必正确。
模型可能挑了 A,却说某个压根没动过的物体被挪了位置;也可能给出的是事实,却不足以排除别的视图。光看 A、B、C、D 四个字母,这些回答都会被算成答对。
所以 SSoN 把答案和证据放在一起查。True solve 的门槛是:选择正确,同时解释要符合图像事实,足以支撑跨视角的矛盾判断。
接近三成的正确选择拿不出有效支持,可见“选对了”顶不上“说清楚为什么”。这项检查盯的是模型写出来的解释,并不去推断它内部到底怎么想的。
那会不会是题目本身太绕,根本没有足够证据可用?
SSoN 在出题和阅卷两头都做了核验。构建阶段,要求异常图以及至少两张正常视图能提供可用证据,把多解题和明显的渲染捷径排除掉;阅卷阶段,所有选对的模型回答都由人工复核证据。超过 10,000 个开发候选题反复迭代,人工发现的问题不断转化为新的生成约束,最后留下这 1,000 道题。
考卷得有解,答案也得有据,模型才谈得上真正指出场景里的矛盾。
图 3|SSoN 对题目证据和唯一答案的保障分两步:先自动检查,再逐题人工核验,同时排查视觉捷径。至于解释评价,则另行覆盖全部正确选择,最终标签由人工确定。
提示、重建、相机参数,哪一样能把分数拉起来?
困难既然出在跨视角推理上,那多教模型一点解题方法,或者让它实打实重建一次三维场景,成绩会不会不一样?
研究者另外挑了 100 道题组成干预集,这组题目的原始答案准确率为 24%、True solve 为 12%。后面的比较都在这组固定题目里做。
先看提示。研究者引导模型去找环境参照、匹配物体、判断遮挡,或者先描述一遍场景布局;也直接把六种可能的编辑类型告诉它,但不透露当前题目属于哪一类。指导与编辑类别知识合在一起用时,准确率达到 48%,True solve 为 34%。提示确实帮上了忙,可模型还是没答对一半。
那让模型真的做一次三维重建,再检查相机视角呢?这套经过执行核验的完整流程拿到 47% 的准确率、34% 的 True solve。删除和细节类表现较好,移动与旋转仍然吃力。看来只把三维重建塞进解题过程,还不足以补上几何判断的短板。
改善最明显的一次,来自直接把真实相机信息交给模型。
在比较指导的基础上,加入 ground truth 相机内参、外参和图像尺寸后,准确率升到 61%,True solve 升到 48%。模型由此拿到成像几何以及相机相对位置、朝向的信息,不必完全靠图像自己去推这些关系。
移动类题目尤其明显:比较指导条件下,准确率和 True solve 都是 20%;加入相机信息后,两项都升到 70%。这提示,相机几何能帮模型分清“物体在画面里动了”和“物体在房间里动了”。
但 61% 与 48% 之间还差着一截。即便拿到真实相机参数,这 100 题里证据充分的正确回答仍不到一半。提示、工具和几何信息能缓解困难,却没让跨视角理解变得可靠。
空间智能能不能练出来?在没见过的房间里,成绩接近翻倍。
推理时给的帮助还不够,那专门训练这种能力又会怎样?
研究者对 Qwen2.5-VL-7B 做微调,并按关联房间和场景家族把 train、val 和 test 隔开。模型最终面对的是来自未见房间的 201 道测试题。
不微调时,准确率为 21.89%;只监督答案,升到 33.33%;推理依据和答案一起监督,达到 41.79%。跟原始模型相比,准确率接近翻倍。
差别在于训练时有没有告诉模型“证据为什么支持这个答案”。推理依据监督还会给出变化类型、相关物体和支持视图,让模型学着把跨视角证据和最终选择挂上钩;测试时它仍要自己看图作答。
旋转类题目的变化最明显。只用答案监督时,这一类准确率是32.84%;把推理依据一并加进去,数字抬到58.21%。四张图的选项顺序被打乱后,平均准确率和跨顺序一致答对比例同样有起色。
这条线索值得接着追:空间一致性判断能靠定向监督拉上来,还能迁移到训练时没见过的房间。不过改善并不均匀,推理依据多出来的整体增益,也要靠更多训练重复来验证。至少这张考卷已经点出,哪些能力是可以补上的。
AI 要走进物理世界,得先学会理解同一个世界。SSoN 提的要求并不复杂:相机动了,场景未必变;图像变了,空间关系照样可能对得上。
动态空间智能要把观察变成规划、决策和行动,而可靠地读懂眼前的空间,是这些行为的地基。SSoN 把动作控制和实时变化先搁到一边,让这块地基能被单独检查:模型能不能把不同视角拼起来,接受合理的视觉差异,再揪出真正的场景矛盾?
AI Vision Exam 这张考卷,用受控的室内场景把这项能力单独拎出来考。83.3% 对 39.7% 的差距,照出了当下的短板;提示、几何和训练实验则指了继续追问的路:到底需要什么样的模型和监督,才能让 AI 换个视角之后,还认得同一个三维世界?
也欢迎读者自己去试这套题,带上你的模型,来考一考空间智能。
作者信息
SSoN 由普林斯顿大学 AI Lab 团队完成。第一作者 Huizi Cao 是卡尔顿学院本科生,曾以第一作者身份在 Nature Medicine 发表论文;团队里还有来自宾夕法尼亚大学、Adobe Research 的研究者。项目由普林斯顿大学 AI Lab 的 Shilong Liu 教授、Mengdi Wang 教授和西北大学的 Manling Li 教授共同指导。