普林斯顿AI Lab推出SSoN空间智能测试:人类83.3%,最强VLM仅39.7%

资讯 腾讯网 作者:腾讯网 全文 4506 字 · 约 12 分钟读完 分类世界模型学术研究

AI 真的能理解三维世界吗?规划下一步动作、在杯子被挪走后及时调整、赶在环境变化前完成操作,动态任务不断向 AI 提出更复杂的空间要求。支撑这些行为的一块基础,是对眼前空间的可靠理解:物体在哪里,不同视角的观察能否彼此一致?普林斯顿 AI Lab 的研究者们带来了一张空间智能新考卷:Same Space or Not(

所属频道 模型发布前沿研究

AI 到底能不能看懂三维空间?

规划下一步怎么动、杯子被挪开后马上调整、抢在环境变化前把操作做完——动态任务对 AI 的空间要求越来越高。这些行为底下压着一个基本问题:眼前的物体都在哪,换个视角看过去,前后能不能对得上?

普林斯顿 AI Lab 的研究者给出了新考题 Same Space or Not(SSoN)。他们把实时变化和动作控制都拿掉,只留四张静态室内图,让模型挑出其中不符合同一场景的那张,并说明理由。

  • 项目主页:https://sson.aisexam.com/

  • 论文链接:https://arxiv.org/abs/2610.23959

  • 数据集:https://huggingface.co/datasets/HuiziCao/SSoN

  • 代码链接:https://github.com/sson-benchmark/SSoN

  • 微调权重:https://huggingface.co/HuiziCao/SSoN-Qwen2.5-VL-7B-LoRA

成绩出来后,差距摆得很清楚:

低于 25% 是怎么回事?那是等概率盲猜的期望值,不是能力下限。SSoN 特意造了一批“看着像变了、空间上其实没错”的强干扰视图。模型如果只看出外观不一样,却判断不了这种差异是不是视角造成的,就容易被系统性带偏,分数反而掉到盲猜以下。这说明的不是没有视觉能力,而是从识别差异到理解空间,中间还缺一截。

至于 39.7%,也只是选对了答案而已,有些回答给出的理由根本立不住。

17 个视觉编码器为什么全在随机线以下?让模型真去做三维重建,怎么还是答不对一半?这张考卷把“空间智能卡在哪”一层层剥开了。

图 1 展示了 SSoN 任务以及完整 1,000 题上的表现:人类答案的准确率为 83.3%,参测 VLM 中最高只有 39.7%。柱状图还把两类正确选择分开呈现——一类有充分证据支撑,另一类解释站不住脚。

空间智能的集体偏科:

交换和细节相对容易,旋转和移动却成了共同盲区

SSoN 的规则不复杂:四张图里,三张拍的是没动过的三维场景,一张来自编辑后的版本。没有指定的“正确参考图”,也没有提前标好的异常物体。哪些观察能互相印证、哪一张跟它们没法共存,得由模型自己判断。

图中的篮球就是个缩影。B 和 D 一起确认了它的位置;C 没拍到那个位置,还露出了别的视图没展示的物件,不过这都能用视角变化解释。A 却拍到了篮球本该在的地方,球还是没出现。要害在于空间关系能不能自洽,光凭“看起来不一样”很容易选错。

按题型拆开看,六类编辑大致分出三个难度层次,当前模型的空间能力缺口也各有不同。

交换和细节变化,是模型相对拿手的部分。两个物体互换位置,或者同一个物体的形状、颜色、纹理等外观变了,都能提供物体对应和外观差异的线索。六个受测模型在这两类上的准确率,都高于各自的整体成绩;表现最好的 Astra Pro 两类都在 80% 以上。

镜像和删除排在中间层,可对多数模型还是很难。镜像题要判断房间结构是不是真左右翻转了,得排除相机换边带来的视觉变化;删除题则要分清“物体真的没了”和“只是被挡住、移出了视野”。看不见,不代表不存在。镜像题上,除 Astra Pro 外,其余五个模型全部低于 25% 的随机基线;删除题上,这五个模型里最高的也只有 Sol Pro 的 42.57%。

移动和旋转,暴露的是更普遍的几何推理短板。六个模型在移动题上准确率最高只有 27.20%;旋转题更低,最高也才 9.54%。人类在这两类上都到了 70% 以上。后面的实验里,就算明确告诉模型六类编辑分别是什么,这两类的分数也没能有效提上来。

椅子在画面里换了位置和朝向,是椅子动了,还是相机动了?房间里要是还有几把长得一样的椅子,模型得先认准是同一个实例,再结合桌子、墙面这些参照物判断它的位置和方向。认出物体、发现外观差异之后,还有“理解三维关系”这一关要过。

SSoN 把这类考验扩展到七个室内场景来源,覆盖交换、细节变化、镜像、删除、移动和旋转六类三维编辑。1,000 道题、4,000 张图像,让总分底下的能力差异逐一显现:哪些变化模型已经比较容易捕捉,哪些空间关系仍然会让它们集体失分。

图 2|七个场景来源、六类三维编辑,以及不同图像格式和物体尺度。视角变化可以制造视觉差异,真实编辑也可能只留下局部线索。

换成 17 个视觉编码器,仍然全部低于随机线

换个思路呢?既然只有一张异常图,直接找出跟另外三张最不相似的那张,是不是就行了?

研究者拿 CLIP、ViT 和 DINOv2 系列共 17 个视觉编码器试了这个办法。按图像特征相似度挑离群视图,准确率只有 16.9% 至 21.7%,全部低于 25% 的随机基线。

这个结果把强干扰的作用具体摆了出来:正确的新视角可能改变大片可见内容,真实编辑却可能只留下局部线索。靠全局外观差异来选,没法可靠地区分这两种情况。

VLM 同样会被表面差异带偏。开发阶段的诊断实验里,合法但容易误导的视图招来了更多错误选择;把它换成清晰的正面参照后,多类题目的成绩明显改善。这一换既减少了干扰,又增加了直接证据,困难的位置也更清楚:变化摆在眼前能认出来,不代表换个视角还推得出来。

人可以先临时站到一个陌生的视角上,再去核对那些与其他画面存在关联的物体。SSoN 要检验的,就是模型能不能走完这一步,把不同视角的信息整合到一起。

选对了,解释也未必站得住——近三成答案过不了这一关。

低分固然扎眼,但更该留意的是另一件事:有些选项选对了,背后的空间判断却未必正确。

模型可能挑了 A,却说某个压根没动过的物体被挪了位置;也可能给出的是事实,却不足以排除别的视图。光看 A、B、C、D 四个字母,这些回答都会被算成答对。

所以 SSoN 把答案和证据放在一起查。True solve 的门槛是:选择正确,同时解释要符合图像事实,足以支撑跨视角的矛盾判断。

接近三成的正确选择拿不出有效支持,可见“选对了”顶不上“说清楚为什么”。这项检查盯的是模型写出来的解释,并不去推断它内部到底怎么想的。

那会不会是题目本身太绕,根本没有足够证据可用?

SSoN 在出题和阅卷两头都做了核验。构建阶段,要求异常图以及至少两张正常视图能提供可用证据,把多解题和明显的渲染捷径排除掉;阅卷阶段,所有选对的模型回答都由人工复核证据。超过 10,000 个开发候选题反复迭代,人工发现的问题不断转化为新的生成约束,最后留下这 1,000 道题。

考卷得有解,答案也得有据,模型才谈得上真正指出场景里的矛盾。

图 3|SSoN 对题目证据和唯一答案的保障分两步:先自动检查,再逐题人工核验,同时排查视觉捷径。至于解释评价,则另行覆盖全部正确选择,最终标签由人工确定。

提示、重建、相机参数,哪一样能把分数拉起来?

困难既然出在跨视角推理上,那多教模型一点解题方法,或者让它实打实重建一次三维场景,成绩会不会不一样?

研究者另外挑了 100 道题组成干预集,这组题目的原始答案准确率为 24%、True solve 为 12%。后面的比较都在这组固定题目里做。

先看提示。研究者引导模型去找环境参照、匹配物体、判断遮挡,或者先描述一遍场景布局;也直接把六种可能的编辑类型告诉它,但不透露当前题目属于哪一类。指导与编辑类别知识合在一起用时,准确率达到 48%,True solve 为 34%。提示确实帮上了忙,可模型还是没答对一半。

那让模型真的做一次三维重建,再检查相机视角呢?这套经过执行核验的完整流程拿到 47% 的准确率、34% 的 True solve。删除和细节类表现较好,移动与旋转仍然吃力。看来只把三维重建塞进解题过程,还不足以补上几何判断的短板。

改善最明显的一次,来自直接把真实相机信息交给模型。

在比较指导的基础上,加入 ground truth 相机内参、外参和图像尺寸后,准确率升到 61%,True solve 升到 48%。模型由此拿到成像几何以及相机相对位置、朝向的信息,不必完全靠图像自己去推这些关系。

移动类题目尤其明显:比较指导条件下,准确率和 True solve 都是 20%;加入相机信息后,两项都升到 70%。这提示,相机几何能帮模型分清“物体在画面里动了”和“物体在房间里动了”。

但 61% 与 48% 之间还差着一截。即便拿到真实相机参数,这 100 题里证据充分的正确回答仍不到一半。提示、工具和几何信息能缓解困难,却没让跨视角理解变得可靠。

空间智能能不能练出来?在没见过的房间里,成绩接近翻倍。

推理时给的帮助还不够,那专门训练这种能力又会怎样?

研究者对 Qwen2.5-VL-7B 做微调,并按关联房间和场景家族把 train、val 和 test 隔开。模型最终面对的是来自未见房间的 201 道测试题。

不微调时,准确率为 21.89%;只监督答案,升到 33.33%;推理依据和答案一起监督,达到 41.79%。跟原始模型相比,准确率接近翻倍。

差别在于训练时有没有告诉模型“证据为什么支持这个答案”。推理依据监督还会给出变化类型、相关物体和支持视图,让模型学着把跨视角证据和最终选择挂上钩;测试时它仍要自己看图作答。

旋转类题目的变化最明显。只用答案监督时,这一类准确率是32.84%;把推理依据一并加进去,数字抬到58.21%。四张图的选项顺序被打乱后,平均准确率和跨顺序一致答对比例同样有起色。

这条线索值得接着追:空间一致性判断能靠定向监督拉上来,还能迁移到训练时没见过的房间。不过改善并不均匀,推理依据多出来的整体增益,也要靠更多训练重复来验证。至少这张考卷已经点出,哪些能力是可以补上的。

AI 要走进物理世界,得先学会理解同一个世界。SSoN 提的要求并不复杂:相机动了,场景未必变;图像变了,空间关系照样可能对得上。

动态空间智能要把观察变成规划、决策和行动,而可靠地读懂眼前的空间,是这些行为的地基。SSoN 把动作控制和实时变化先搁到一边,让这块地基能被单独检查:模型能不能把不同视角拼起来,接受合理的视觉差异,再揪出真正的场景矛盾?

AI Vision Exam 这张考卷,用受控的室内场景把这项能力单独拎出来考。83.3% 对 39.7% 的差距,照出了当下的短板;提示、几何和训练实验则指了继续追问的路:到底需要什么样的模型和监督,才能让 AI 换个视角之后,还认得同一个三维世界?

也欢迎读者自己去试这套题,带上你的模型,来考一考空间智能。

作者信息

SSoN 由普林斯顿大学 AI Lab 团队完成。第一作者 Huizi Cao 是卡尔顿学院本科生,曾以第一作者身份在 Nature Medicine 发表论文;团队里还有来自宾夕法尼亚大学、Adobe Research 的研究者。项目由普林斯顿大学 AI Lab 的 Shilong Liu 教授、Mengdi Wang 教授和西北大学的 Manling Li 教授共同指导。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 快手推AI互动玩法平台Yoola:11月2日已面向部分B端创作者开放

    随着AI Coding、视频生成和世界模型等技术发展,AI正在降低互动内容的创作门槛,内容平台也开始关注由此带来的新机会。近日,在36氪(KRKR.US)《我用AI做游戏》圆桌对话中,快手磁力引擎消费技术负责人朱鞘透露,快手(01024.HK)正在推进AI互动玩法平台Yoola的上线。Yoola已于11月2日面向部分B

    来源 腾讯网
  2. Doom游戏里试AI双系统切换:慢思考不暂停,模型却爱囤货

    你有没有过这种体验:开车走熟路的时候脑子基本是空的,手脚自己就动了,可一旦前面突然堵车或者导航显示绕路,你就会突然"清醒"过来,开始认真思考该怎么办。这篇论文的作者就是从这种感觉出发的。他是个老玩家,玩《毁灭战士》(Doom)这种第一人称射击游戏的时候发现,顺的时候脑子是"关掉"的,纯粹靠反应打;但一旦卡住...

    来源 腾讯网
  3. 让AI自己检查答案靠不靠谱?这篇论文给出了几个反直觉发现

    你有没有遇到过这种情况:问AI一个问题,它答得特别自信,语气笃定,格式工整,结果你一查,答案是错的。这种"一本正经地胡说八道"几乎是所有大语言模型的通病。对于只处理文字的AI是这样,对于既要看图又要回答问题的视觉语言模型来说,问题更严重。因为它不仅要理解文字问题,还要正确解读图片里的信息,任何一个环节出错...

    来源 腾讯网
  4. ARCBench测试:AI代理压缩上下文后违规率升至37.8%

    2026年11月2日提交的arXiv论文通过ARCBench在17个英文场景测试显示,AI代理在上下文压缩后违规率从9.6%升至37.8%。规则多未被删除,代理将后续请求视为授权而忽略规则。保留规则的压缩运行违规频率是完整历史的两倍以上,对抗性攻击可使违规率翻倍。该发现挑战系统提示约束的基本假设。

    来源 AI 科技快讯
  5. 豆包进企业:AI从试点到预算科目还要过几道关?

    “对企业而言,AI已从试点项目正式升级为预算科目,只是AI要想真正进入工作流,中间还隔着千山万水。”撰文|路雨晴编辑|翟文婷大厂在AI办公完成卡位之后,战火迅速烧向企业级市场。对于办公场景而言,相比C端用户,B级市场显然更是一座待挖的富矿,只要AI能表现出降本增效的现实威力,企业就有付费意愿。事实证明也是如此。Sens

    来源 腾讯网
  6. 双十一第十八年:AI接管效率,增长为何没跟上?

    双十一走到第十八个年头,AI第一次渗透进了从逛到买的全过程,直播间里念稿的是数字人主播,接你咨询的是AI客服,商品详情页的图出自AI生图。 买卖两端,AI都在接管越来越多的环节。淘天把千问接进淘宝,京东让AI购物助手东东全面上岗,抖音电商把豆包接进商城,快手喊出“AI提效、全域协同”,各家都把AI摆上了主舞台。 但一轮

    来源 AI 行业观察
  7. 迪士尼测试AI停车机器人:外形借鉴《汽车总动员》

    IT之家 11 月 10 日消息,下一次去迪士尼乐园,停车体验可能会有所不同。华特迪士尼公司(The Walt Disney Company)近日透露,公司正在测试一批搭载人工智能技术的机器人助手,帮助游客在客流密集的度假区寻找停车位。 对于不少驾驶者来说,在迪士尼乐园找到一个方便的停车位并不是件容易事,即使再有耐心,

    来源 AI 行业观察
  8. AI Agent进入文件任务阶段:比拼重点从写代码转向可靠交付?

    AI Agent正从内容生成走向实际任务执行。处理本地文件看似是一个普通办公场景,却暴露出任务理解、代码执行、结果验证与权限管理等关键问题。Python-Use提供了一种新的执行思路,但Agent真正走向工作场景,仍需跨越可靠性与安全性的门槛。

    来源 AI 行业观察
  9. 快克智能透露“已参与苹果 AI 眼镜及新款智能耳机项目”,相应 Apple Glasses 新品有望 2027 年推出

    IT之家 11 月 10 日消息,电子组装及半导体封装供应商快克智能在 2026 年第三季度业绩说明会上透露,受益于半导体、光通信、数据中心行业需求增长,公司三季度合同负债同比、环比均实现增长,在手订单储备充足。目前,公司已参与苹果 AI 眼镜及新款智能耳机项目,有利于拉动精密焊接装联和机器视觉检测等相关业务。快克智能

    来源 腾讯网
  10. 蚂蚁灵波LingBot-Touch开源:近5000小时触觉数据,任务成功率最高90%

    蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进一步补齐精细操作所需的触觉感知。

    来源 TechWeb
  11. MIT提出UQ-DAAAM:给机器人时空记忆加不确定性评分

    作者:梅菜编辑:李宝珠转载请联系本公众号获得授权,并标明来源MIT 的研究团队将不确定性评分引入先进的空间语义记忆系统,并将其命名为 UQ-DAAAM。在固定查询预算的约束下,UQ-DAAAM 利用该评分主动优化不确定性较高的对象:通过筛选高质量视角获取新的描述,再将多视角生成的描述进行融合,形成统一的对象描述。随着机

    来源 腾讯网
  12. 三星 One UI 9.5 曝光:Bixby 升级为能代用户办事的 AI 智能体

    IT之家 11 月 9 日消息,外媒 Sammobile 今天(9 日)晚间公布了有关 One UI 9.5 的最新发现:三星准备对 Bixby 进行大幅升级,让语音助手进一步变成能够代用户办事的个人 AI 智能体。该媒体在体验尚未发布的新版 Bixby 后发现,三星语音助手可以在后台处理订酒店、预约等日常事务。例如,

    来源 腾讯网
  13. 蚂蚁灵波开源LingBot-Touch:近5000小时触觉数据预训练

    蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进一步补齐精细操作所需的触觉感知。

    来源 TechWeb
  14. 蚂蚁灵波开源LingBot-Touch:近5000小时数据补上机器人触觉

    11月10日,蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进一步补齐精细操作所需的

    来源 AI 开发者社区
  15. 词元上架电商平台:今年双11,大模型厂商开卖AI Token

    日前,在浙江省嘉兴市乌镇举行的二〇二六年世界互联网大会“互联网之光”博览会上,观众正在参观算力设备。翟伟凯摄(人民视觉)位于中国移动(宁夏中卫)数据中心的一处词元工厂算力机房。新华社记者 杨植森摄看不见、摸不着的算力服务,正变成可以下单的商品。这个“双11”,电商平台引入新的独立商品品类——AI Token(...

    来源 腾讯网
向下滚动自动加载更多