GPT-6 Astra领衔五款大模型实测:机械臂84个任务仅完成16个
2026年秋天,几个研究者坐在一起做了一件挺较真的事。他们找来五个当时最厉害的多模态大模型,GPT-6 Astra、Claude Opus 5.5、Kimi K3、DeepSeek V4.1 Flash、Gemini 3.8 Flash,让它们去控制机械臂叠积木、操纵无人机接球、开车走弯道、让四足机器人在被推倒后重新站
2026年秋天,几位研究者凑到一块,干了件挺较真的事:把当时最拿得出手的五个多模态大模型——
GPT-6 Astra、Claude Opus 5.5、Kimi K3、DeepSeek V4.1 Flash、Gemini 3.8 Flash——拉来操控机械臂,让它们叠积木、操纵无人机接球、开车走弯道,还要让四足机器人在被推倒后重新站稳。
成绩如何?最好的GPT-6 Astra在84个任务里只拿下16个,成功率19%;第二名Opus 5.5完成了13个,15.5%;Kimi K3完成2个,
DeepSeek和Gemini各完成1个。
这个数字大概会让人愣一下。写代码能过简历关、聊天能聊出哲学深度的模型,怎么轮到拧螺丝、倒水、开车这些“简单”事上就翻车了?论文正是从这儿起步,想弄明白:AI既然已经会写代码、会用工具、能看图识物,这些数字世界里练出来的本事,到底能不能搬进物理世界?
为什么这是个难题
先讲清楚一点:这些模型并不是对着机器人一脸茫然地瞎摸。摄像头传回的图像它们看得懂,机械臂的关节角度它们读得出,还能自己写代码做图像分割、算相机投影、推导控制律。论文里有个挺生动的例子:搭积木任务中,GPT-6 Astra靠连续的摄像头观察锁定蓝色积木的位置,直接抓取、举起,直到第204步才第一次引入相机投影的几何计算;Opus 5.5反着来,先写好颜色分割的代码,再采样机械臂的运动去拟合相机几何关系,然后才动手抓取。
两条路线,一条先动手再算账,一条先算清楚再动手。最后放置和缩回这个动作节点两者都完成了,物理执行步数几乎一样——一个270步,一个268步,可工具调用次数差了一倍:Astra用了23次,Opus 5.5用了46次。这说明什么?说明这些模型确实有能力把视觉观察、数学计算和实际控制拼到一起,只是拼法完全不同。
问题是,拼得出来不等于拼得稳。论文里反复出现一个说法,“执行不等于完成”,这是整篇论文最核心的发现,值得专门讲讲。
姿势到位了,东西却丢了
有个任务是让机械臂给瓶子倒水。Kimi K3在接近瓶子的过程中不小心把瓶子碰倒了,第42步瓶子就已经侧躺在桌上。它注意到了,自己在日志里写道“第一次闭合抓取没抓到,因为夹爪在倒下的瓶子上方”。随后它反复用左臂尝试抓取,都没能建立稳定的抓握,直到第240步才切换到右臂,重新定位到第272步完成。
剩下的128步预算里,它一直试图用右臂重新接近瓶子,直到第400步的时限耗尽,任务依然没有完成。这里有个很关键的细节:机械臂的每一次移动,从数据上看都是“成功执行”,没有报错,也没有被拒绝。可执行成功和任务完成是两回事。瓶子一倒,原来设想的抓取方案就全部失效了,而模型花了将近200步才真正切换策略。
这就像本来计划拎着一桶水去浇花,半路水桶被撞翻,水全洒了。这时候还按原计划走到花盆前,伸手去拎那个空桶,动作本身一点错都没有,手伸得很准,可浇花这件事根本没法完成了。真正该做的是立刻停下来,意识到状态已经变了,重新想办法——要么找个容器重新打水,要么换个思路。如果迟迟意识不到,光顾着把“伸手拎桶”这个动作做得标准,那是在正确地做一件已经没有意义的事。
机械臂每挪一步都分毫不差,可它已经不知道物体处于什么状态了。这种信息缺失,底层的运动控制系统不会报错,只有更高一层的判断才能发现。论文反复讲的就是这一点:姿态到达(pose reached)并不等于任务完成(task complete)。
完成的幻觉
比丢掉物体更不容易察觉的,是模型自认为干完了活,其实没干完。论文举了扫积木的例子:第861步,Kimi K3宣称任务完成,把空着的左臂收回原位。可一检查,积木还散在地上,任务根本没做成。
后面的事更离奇。说完“完成”,它接着的69次调用都在小幅调整那只空着的左臂的高度,又多走了139步,却一直没回头去扫积木。直到1000步的上限全部用完,任务仍是失败。这是一种很隐蔽的失败方式:模型并没有停住,它还在跟环境互动,调工具、做动作,看上去一切照常。问题在于它内部已经认定任务结束了,于是这些动作都跟真正的目标无关,只是在原地空转。
同类情形也出现在DeepSeek的一项任务里,模型要控制机器人导航到厨房灶台。它认定自己已经到位、无需再挪动,便开始发送静止指令。此后105步,速度指令全是零;可实际一查位置和朝向,任务并没有真正达标。
论文给这类现象起了个名字:completion assessment,即完成度判断。整篇论文点出的一个关键能力缺口正在这里——模型能把复杂的动作序列跑下来,但判断"我是不是真的做完了"时常出错,而且一旦判错,就不会主动回头核对。
这背后牵出一个不浅的认知问题。人做事时,"我觉得我做完了"和"这件事客观上做完了"之间通常夹着一道反复核对的环节:扫完地回头看看有没有漏扫的角落,拧完螺丝再晃一晃确认没松。这些AI模型眼下这种自我核验的机制并不牢靠,它们更愿意相信自己内部生成的"完成"判断,而不是持续拿外部反馈去验证。
恢复得了,但恢复得太晚
另有一类失败被论文归为"时间性失败":恢复本身成功了,只是来得太迟。
人形机器人打乒乓球就是一例。Astra控制的机器人在3.58秒时机身高度跌到0.50米以下,它一直在做平衡修正,却没能在规定时间内稳住。
倒立摆追踪任务更典型。该任务要求机械臂末端持续跟踪一条目标轨迹,评估从第0.5秒开始计时。Astra最终跑完了整个时间窗口,最后时刻末端误差仅2.45厘米,数据看着很漂亮。问题出在中间过程:追踪误差一度超出20厘米的容许范围,系统据此判定它违反了追踪容差。它后来确实恢复了,但稳定保持的时间只有0.565秒,而任务要求持续满1秒。
有个地方容易被忽略:只看最后一帧画面,这个任务像是圆满完成,末端稳稳停在目标附近。可评估标准看的不是终点,而是整个过程有没有持续满足条件。一个漂亮的终点画面,完全能掩盖中间那段长达十几秒的失控。
好比考试,前面十道题全错,最后一道蒙对了,你把卷子翻到最后一页给老师看,说你看我做对了。这当然不算通过考试,但评分的人若只瞄一眼最后一页,确实可能被这种"结果快照"骗过去。机器人任务的评估系统比这聪明,它会持续采样、持续检查——论文因此特别强调,payload hovering(无人机吊挂负载悬停)这类任务要求最后两秒内所有稳定性条件同时成立,中途一旦破坏连续性,此前积累的"稳定时长"直接清零重算。
反馈真正起作用的时候
当然,论文记录的并不都是失败。反馈机制真正起作用的时刻,文中也写到了。这些案例同样值得翻一翻,因为它们能让人看清“有效反馈”到底是什么样子。
关抽屉任务里,Kimi K3表现出一种渐进式的动作调整。它连续五次推门请求的步数依次是20、20、12、6、5,越来越短。这不是随手为之,而是依据末端执行器的位移反馈做的精细化调整:它发现自己越来越接近目标状态,便主动收小每次动作的幅度,免得用力过猛撞坏抽屉或者超调。最后它请求后退12步来验证关闭效果,环境只执行了其中2步就触发了任务成功判定。
Astra插充电器的任务是另一个例子。它试着把闲置手臂的腕部相机转向下方,好检查插头和插座的对齐情况,这个旋转请求在第196步被规划器拒绝,原因可能是两条手臂处于同一工作空间,该姿态会引发碰撞。Astra没有重复发送同样会被拒的指令,而是先把那只闲置手臂放低、拉近,调整整体构型,到第207步再去重试同样角度的旋转,这次在第230步成功执行。之后经过插入调整、松开、撤回等步骤,整个充电器插入任务在第323步宣告成功。
更硬核的一例是Opus 5.5控制无人机稳定一个绳索悬挂的负载。该任务要求无人机不光自己保持姿态稳定,还得压住下方吊挂物的摆动。Opus 5.5的做法是把离线计算的线性二次型调节器(LQR)与持续的状态反馈结合起来,负载的位置误差一路下降,最终在长达2.15秒的区间里,位置、速度、摆动幅度和姿态角四项条件同时满足,超过任务要求的2秒底线。
这三个例子有个共同点:真正有效的反馈循环,不是简单重复动作直到碰巧成功,而是根据每次执行后的观测结果主动改变下一步策略——缩短动作幅度,或改变发起动作的身体构型,或持续微调控制量直到状态收敛并保持住。论文也给出一个明确结论:反馈重要的前提是它真的改变了后续的执行方式,仅仅"接收到了新的观察结果"并不够。
不同模型,不同性格
论文另一个挺有意思的发现是,这五个模型并非简单的强弱排序,它们的"擅长领域"明显不同。
Astra在需要精确空间定位和受限接触的任务上表现更好,比如插入、悬挂这类要求严格几何对准的操作,它在这类任务上的成功率是13/45,Opus 5.5只有6/45。
Opus 5.5则在需要持续动态平衡和精确时机配合的任务上更强,比如四足机器人被推倒后的恢复、杯子接球、无人机悬停负载、无人机连续击球这些任务。平衡追踪类任务上,Opus 5.5是4/20,Astra只有1/20;需要精准时机配合的任务上,Opus 5.5是4/7,Astra是2/7。
论文另做了一组更细的比对:Astra 和另一个模型都跑通的 8 个共同任务中,有 7 个任务 Astra 的工具调用次数更少,物理控制步数更少的却只有 6 个。换句话说,交互成本(调了多少次工具)和物理执行成本(机器人实际走了多少步)并不是一回事,两者并不完全挂钩。
对此,一种说得通的推测是:两个模型在“视觉空间推理”与“程序化计算”的搭配上各有偏好。Astra好像更愿意把看到的画面直接变成空间判断和动作,少做专门的图像核对与代码分析;Opus 5.5则更多靠写程序把几何关系和物理规律明确摆出来,这条路子或许更适合要预判未来状态、卡准时间的动态任务。论文只把这个结论当成探索性假设,没做严格归因——两个模型的训练数据和架构细节都不透明,究竟哪种能力造成了差别,没法真正拆开来看。
投入多,未必干得好
资源消耗这块,论文也做了统计,数字挺耐人寻味。
按token算,Kimi K3烧掉20亿个,在五个模型里排第一,可它只拿下2个任务。Astra用了9.41亿个,不到Kimi的一半,却完成了16个任务。
再看预估的API调用成本,Astra大约9913美元,是Opus 5.5(2916美元)的3.4倍,偏偏它的token消耗还更低。各家定价策略、缓存计费方式不一样,拿token数或者花销直接比效率并不成立。
累计耗时方面,Astra跑完全部84个任务用了54.6小时,Opus 5.5是140.3小时,Kimi为163.8小时。完成最多的Astra,花的时间反倒比另外两个少一大截。
这组数字说的道理很朴素,却常被忽略:算力砸得多、交互拖得长、钱花得狠,都不保证任务完成率更高。起作用的,恐怕是这些计算和交互有没有用在关键处,有没有真的变成对物理状态的准确判断、对下一步该做什么的正确决策。
这事为什么值得认真看
把这篇论文放到时间线上,出现的节点有点微妙。
2026年前后,社区里已经冒出不少“大模型能不能控制机器人”的零散实验:有人让GPT-6 Astra试着抓苹果,也有人做了实时机械臂控制演示。看多了这类演示,容易生出一种印象——通用智能体离真正操控物理世界好像不远了。
论文做的,恰恰是把这股乐观拉回系统化的数据里检验。它搭了个叫RobotWorld的测试平台,把20个不同来源的仿真项目整合进来,BEHAVIOR-1K、RoboCasa、WheeledLab、OmniDrones等都在其中,覆盖机械臂操作、移动操作、腿足运动、驾驶、飞行控制五大类共84个任务,每项任务都设了明确的交互预算和可执行的成功判定标准。
最终拿出来的不是一张简单排行榜,更像一份细致的“故障诊断报告”。它显示,眼下多模态智能体在物理世界里卡住的地方,往往不是感知不够、不是写不出控制代码、也不是算不了几何关系——这些局部能力它们其实都有。真正卡住的,是怎么把局部能力持续、可靠地串成一套完整执行过程,还能应付意外。
这也接上了论文里提到的一场业内讨论。研究者Jitendra Malik曾公开质疑,光靠抓取放置这类演示,是否真能证明智能体具备灵巧操作和动力学理解;另一些研究者如Phillip Isola,则更看重智能体使用控制器和机器人工具的潜力。RobotWorld某种程度上用数据给出了一个中间立场的答案:能力的萌芽确实在,但离可靠的组合运用还差得远。
写在后面
读完论文,让我印象最深的不是19%这个成功率,而是文中反复强调的那句话:动作不等于任务进展(motion is not task progress)。
这话初看平平无奇,细想有点扎心。平时判断一个人或者一个系统“在不在干活”,我们往往看它有没有动作、有没有输出——敲键盘的声响、机械臂转动的画面,都是“看起来在做事”的信号。可论文用大量具体案例说明,这个直觉放在物理任务里会骗人。系统可以一直做着看似合理的动作,方向却完全偏离目标,自己还毫无察觉。
另一个让我反复琢磨的细节,是“扫地机器人宣布完成后继续原地抬手臂”那个例子。这种模式挺像人类工作里常见的自我欺骗:心里一旦把某件事标成“做完了”,哪怕客观上没完成,后面的行动也会不自觉地去维护这个已定的结论,而不是重新打开怀疑的开关去核验。这毛病不是AI独有,更像一种普遍的认知惯性,只不过在机器人任务这种有明确客观检验标准的场景里,被赤裸裸地暴露了出来。
论文没回答的问题是:要让“持续怀疑自己是否真的完成了”这种能力真正立起来,训练阶段得加什么信号?是更密集的失败案例、更强的因果反事实推理训练,还是要一种完全不同的、类似“内在审计员”的架构设计?论文划出了问题的边界,解法还得留给后面的工作。
Q&A
Q1:RobotWorld是什么?
A:它是一个仿真测试平台,用来评测多模态AI智能体操控机器人的能力,整合了20个来源项目共84个任务,覆盖机械臂操作、移动操作、腿足运动、驾驶、飞行控制五大类,每个任务都有明确的交互预算和可执行的成功判定标准。
Q2:GPT-6 Astra这类先进AI模型控制机器人,成功率为什么只有19%?
A:主因不在感知或计算能力不够,而在于这些能力没法可靠地组合成完整执行过程。常见问题有:动作精确却丢了物体状态、误判任务已完成于是停止纠错、恢复平衡太晚错过时间窗口等,论文管这叫“动作不等于任务进展”。
Q3:论文里不同AI模型的表现差在哪?
Astra的强项在需要精确空间定位的操作上,插入、悬挂这类任务表现更突出;Opus 5.5则擅长持续动态平衡与精准时机配合的场景,像机器人被推倒后恢复、无人机悬停接球。两者的策略组合方式差别明显。