Fable 5.2能解魔方拧瓶盖:通用大模型离真正的机器人手感还有多远
Fable 5.2吃掉机器人?「手感」这块,还得靠具身原生基模来补全
Anthropic 最新旗舰
Fable 5.2 今天正式亮相,通用大模型又一次在机器人操作上秀出了让人意外的本事。官方演示里,这台由该模型操控的机器人把解魔方、拧瓶盖、画机器人这些活儿都做了一遍。
公开的 RoboDojo 基准测试中,Fable 5.2 拿到 64.9% 的成绩。Anthropic 表示,这个分数既压过了用同一套测试框架的其他前沿模型,也高于大多数专为机器人控制打造的 AI 系统。
两个多月前是 GPT-6 Astra,如今轮到 Claude Fable 5.2,这些花式操作接连登场,让行业看到通用大模型驱动机器人的空间正在被打开。
可演示成功、仿真高分,就等于机器人真的学会了通用的物理操作吗?
机器人一「伸手」,碰上需要精细拿捏的任务,真正的考验才刚开始。
就说拧瓶盖:手指得先找准抓握点,再给出恰当的力道,还要随着瓶盖转动、指尖打滑的程度随时修正动作。几毫米的位移、一点细微的受力变化,都能左右一次操作成不成。
视觉、空间、触觉这些物理模态得一起配合,机器人才能把这类精细活儿干成。具身智能的一条关键路线,正是从机器人本体和真实物理交互入手,搭一个面向物理世界的具身原生基础模型。
蚂蚁灵波在国内就是朝这个方向做的。团队盯着机器人物理感知、理解和操作这几块需求,一点点搭具身原生模型体系。今天发布的触觉基础模型 LingBot-Touch,就是这条路线在高精度灵巧操作上的一次落地尝试。
团队在过程中收了近 5000 小时真实触觉数据,磁触觉、压阻式、视触觉三种传感技术都覆盖到了,为的是让模型学到不同传感器背后共通的接触规律。这些触觉表征还能接进不同的机器人动作模型,在多种灵巧手和真实操作任务里复用。
-
项目主页:https://technology.robbyant.com/lingbot-touch
-
技术报告:https://github.com/Robbyant/lingbot-touch/tree/main/paper
-
GitHub 地址:https://github.com/Robbyant/lingbot-touchHugging Face:https://huggingface.co/collections/robbyant/lingbot-touch
-
魔搭社区:https://www.modelscope.cn/collections/Robbyant/LingBot-Touch
所以,LingBot-Touch 把异构触觉数据预训练、统一表征学习、下游动作模型接入串了起来,形成一套完整的技术方案。具体从哪几个关键环节入手,下面展开说。
5000 小时真实数据是这套方案的基础。
目的是让不同机器人的“手感”能够共享。
触觉常被理解为对接触的感知,可真要把它做成通用基础模型,难度远超预期。机器人做不同操作时,对触觉的要求并不一样。指尖捏起一颗玻璃弹珠,得精确抓住接触的位置和力度的细微变化;手掌托住较大的物体,则要了解各个区域的受力分布。操作部位和任务一变,对传感器精度、覆盖范围、体积的要求也跟着变。
眼下触觉传感器有多条技术路线,LingBot-Touch 这次主要覆盖三类:视触觉、磁触觉和压阻式触觉。
视触觉靠内部摄像头看弹性表面的形变,能拿到接触位置和轮廓等细节;磁触觉利用软质磁性材料形变带来的磁场变化,感知接触与受力;压阻式触觉则测量材料受压后的电阻变化,得出不同位置的压力分布。
这三类传感器捕捉的都是手指与物体接触时的物理变化,但测量原理和信号表达差别很大。设备之间,感测单元的数量、空间布局、采样频率也不一致。
问题随之而来:不同传感器采到的数据,怎样才能放在一起训练?
若给每种传感器单独训练专用触觉模型,一款机器人攒下的经验就很难直接搬到另一款机器人身上。动作模型本身操作能力再强,一旦换了传感器,触觉信号的处理方式也可能要重新适配。
团队要回答的是,不同硬件、不同任务积累的触觉经验,怎么变成可复用的基础能力。
他们为此搭了一套多分支编码、共享主干的架构,并借鉴 JEPA(Joint-Embedding Predictive Architecture)的思路,为触觉信号开发了 Tactile-JEPA 训练方法。
第一步要处理的是不同传感器之间的空间对齐。
各触觉传感器的 Taxel(触觉感知单元)数量、排列方式、空间分辨率都不一样。把这些数据直接喂进同一个 Transformer,模型很难判断某个传感器上的感知单元对应手指的哪个位置。
为此,团队搭起一套标准化的指尖几何坐标系,把各类传感器的感知单元统一映射到同一套三维空间里。
有了它,每个触觉 Token 便带上五维地址:时间窗口索引 1 维、手指编号 1 维、三维空间坐标 3 维。模型拿到的信息就变了——不光是某个传感器上的第几个测点,还包括触觉响应发生在什么时间、属于哪根手指、落在哪个物理位置。
编码环节上,LingBot-Touch 并未要求三种传感器采用同一套原始信号处理方式。压阻式、磁触觉和视触觉各自配一个轻量级 Tokenizer,原始信号先经各自转换,再变成统一接口下的触觉 Token。
这些 Token 随后被送进共享的 Haptic Transformer(HaT),由同一套主干网络去学习不同传感器信号背后的接触规律。
各传感器的测量特点因此得以保留,同时又能一起参与模型训练。差异交给各自的编码分支处理,更高层的触觉特征则由共享主干来学。
数据对齐的问题解决之后,另一个问题浮上来:模型到底该怎么学触觉?
LingBot-Touch 的答案是 Tactile-JEPA,在潜在空间里做特征预测。具体做法是:先遮住一部分触觉 Token,Context Encoder 处理剩下的可见信息;Target Encoder meanwhile 处理完整触觉序列,产出目标特征;再由 Predictor 依据可见信息,预测完整序列各位置对应的潜在特征,并跟目标编码器的输出对齐。
这当中,Target Encoder 的参数不走梯度反向传播,而是靠 Context Encoder 的指数移动平均(EMA)来更新。被遮挡位置和可见位置的预测结果,模型都会加以监督。
这套设计跟触觉数据自身的特点有关。
触觉数据稀疏性很强。多数时候手指并没碰到物体,传感器记录里大量是接近零的背景信号。若直接优化原始信号重建,模型很可能把不少精力花在预测这些背景数据上。
改用潜在空间做预测,模型就不用把力气耗在还原那些没接触的背景信号上。它转而从真实交互数据里的时空关联中,去学跟接触位置、受力大小以及受力动态变化有关的特征表示。
训练这套模型用的多源触觉数据集,是团队另外搭起来的:累计采集 4,983 小时真实触觉数据,含 464,431 个交互片段、约 13.3 亿帧。数据出自压阻式、磁式和视觉触觉传感器,覆盖抓握、旋转、滑动、擦拭、装配、双手协同,也有易碎、易变形物体的操作,来源分两种。
-
大头由戴触觉手套的人类操作员贡献;其余来自遥操作机器人,采集用的是搭载 Sharpa Wave 灵巧手的双臂系统。
从量上看,触觉手套拿到的数据占三分之二,遥操作那部分占三分之一。
这里有个思路:训练触觉基础模型,未必要完全靠机器人本体去采数据。人戴上触觉手套,日常操作中就能攒下大量接触经验;再用机器人遥操作数据补上特定硬件上的真实交互信息,不同来源的数据就都有机会参与基础模型训练。触觉数据要上规模,这条路子算是新开了一条。
26 项真机任务:验证通用触觉得不能真正迁移
团队从三个层面看 LingBot-Touch 的下游能力:触觉理解、真实环境下的机器人操作、仿真环境下的机器人操作。实验用了 Sharpa Wave 和 XHand1 两款灵巧手,真机操作含 26 项任务,仿真操作含 12 项任务。
触觉这块,模型到底懂不懂?团队先看编码器本身。评估从四个维度展开:接触力大小、空间几何结构、时间动态变化,还有跨模态对应关系。LingBot-Touch 的编码器被冻结,五项任务依次跑下来。
只喂了 1000 小时预训练数据,五项任务上的表现已经不弱。指尖测力范围 30 至 50 N,模型给出的接触力预测误差控制在 2 N 以内;空间感知上,接触中心定位做到亚毫米级,接触面积估计误差不到 2%;时间维度也没掉链子,未来接触力大小的预测误差同样低于 2 N。特征表示质量如何,团队又用可视化做了一轮评估。
进入接触阶段后,不同特征点连成平滑、延展的结构,对应的是触觉信号一点点变化的过程。几根手指的触觉响应此消彼长,受力在手指之间重新分配,相应的接触阶段就沿着这些结构落在相邻区域。这说明 LingBot-Touch 分得清接触与非接触,也留住了接触过程中连续变化的信息,一次交互里触觉响应随时间怎么演化,它都捕捉得到。
触觉理解是一回事,落到真实操作又是另一回事。团队随后把 LingBot-Touch 接进真实机器人策略,看这些知识能不能变成手上的操作能力。
真机实验用了 Sharpa Wave 和 XHand1 两款灵巧手。动作模型挑了 Diffusion Policy、π0.5、LingBot-VLA 和 T-Rex 四种,LingBot-Touch 则作为额外的触觉表示模块,接进下游后训练环节。
两款灵巧手一共跑完 26 项真机操作任务,覆盖物体旋转、精细抓取、易碎和易变形物体操作,还有双臂协同这些场景。结果接入 LingBot-Touch 之后,不同动作模型的操作成功率都出现了明显改善。
Sharpa Wave 上,π0.5 的平均成功率由 47.56% 升到 68.58%,LingBot-VLA 由 45.60% 升到 72.51%,T-Rex 由 44.06% 升到 70.05%。
XHand1 上,π0.5 从 49.71% 提升至 74.17%,LingBot-VLA 从 57.21% 提升至 75.04%。
这种提升并不是某一种动作模型独有的。Diffusion Policy、π0.5、LingBot-VLA、T-Rex 架构各不相同,同一套预训练触觉表征都能接进去提供触觉感知,不用为每种动作模型单独再训一个触觉编码器。
那从真实世界搬到仿真环境,触觉表征还管用吗?
团队把测试环境进一步扩展到仿真,看预训练得到的触觉知识能不能迁移到不同的物理环境,也看它能不能真正帮强化学习策略学会精细操作。
表 2 显示,Sharpa Wave 和 XHand1 两个平台的全部 12 项任务里,LingBot-Touch 的成功率和累计回报都是最高的。按任务等权计算,其平均成功率达到 68.95%,CNN 触觉特征方案为 45.59%,不使用触觉输入的方案为 21.42%,分别高出 23.36 和 47.53 个百分点。
对于那些要依据持续变化的接触状态做协同控制的任务,LingBot-Touch 的优势更突出。Sharpa Wave 平台上,盘子旋转任务成功率达到 97.4%,笔旋转任务达到 97.1%,比对应任务中表现最好的基线方案分别高出 14.5 和 32.9 个百分点。
球体平衡这项任务,更能看出触觉表征质量的分量。LingBot-Touch 在 Sharpa Wave 上成功率为 67.7%,在 XHand1 上是 35.9%;两款平台上成绩最好的基线方案则分别是 32.4% 和 10.0%。至于只用二值接触信号、或者干脆不引入触觉输入的做法,在这两款平台上的成功率都只有 0%。
也就是说,给机器人加上触觉观测,并不等于操作效率和可靠性就会跟着上来。真正决定性能能否改善的,是触觉表征本身够不够好。
从下图给出的训练曲线还能看到,不管是 Sharpa Wave 上的笔旋转、两款灵巧手上的球体平衡,还是 XHand1 上的盲抓取,LingBot-Touch 都能让强化学习策略在训练前期拿到更高的累计回报。
这种训练走势说明,有了 LingBot-Touch 的触觉表征,策略在学习怎么用触觉信息时,优化负担更轻,训练稳定性也更容易保住。
跟现有的触觉模型比,它强在哪儿?
团队把 LingBot-Touch 和 FTP-1 拉在一起做了直接对比。
五项触觉理解任务里,LingBot-Touch 在 Sharpa Wave 和 XHand1 两个平台上都拿到了更好的成绩。
拿接触力恢复来说,Sharpa Wave 上的平均误差由 FTP-1 的 2.31 N 降到 0.81 N;XHand1 上则从 3.72 N 降到 1.32 N。
空间感知上的差距拉得更大。接触中心定位误差在Sharpa Wave上由2.19 mm掉到0.12 mm,XHand1上则从5.89 mm降到0.16 mm。
触觉到视频检索任务里,LingBot-Touch的Top-5 Recall比FTP-1分别高出56.13和41.13个百分点。
团队还把两种触觉编码器分别接进LingBot-VLA做后训练,跑了五项真实机器人操作任务。结果LingBot-Touch把平均成功率从原始策略的55.9%拉到82.2%,FTP-1这边的成绩是67.5%。
数据喂得越多,模型还能不能接着变强?
团队接着测了LingBot-Touch的Scaling能力。
实验把它的预训练数据集设成五种规模,从1000小时一路加到5000小时,各数据来源的占比全程不动。
下游触觉理解任务中,预训练数据从1000小时增至4000小时,HaT-Tiny在空间结构、时间动态、接触力大小、跨模态对应关系四方面的理解力都在往上走。
数据规模加到5000小时后,模型表现跟4000小时那档基本打平。按这个结果看,到了这一规模,限制性能继续往上走的因素可能开始变成模型容量。
团队随后把骨干网络加大,模型升级为HaT-Small。实验显示,更大的模型在各种数据规模下都有进一步提升,尤其能继续吃下多出来的预训练数据。这说明触觉基础模型的Scaling不光要堆数据,模型容量也得同步跟上。
真实机器人操作上也出现了相近的规模扩展走势。
具身原生
寻找可共享的物理规律
回到开篇拧瓶盖的动作。接触状态、受力或滑移一变,机器人就得立刻抓住这些物理信息,再判断下一步怎么动。
看着简单的操作,背后要多种能力配合。空间感知模型管物体在哪、离多远;触觉模型盯接触和受力变化;世界模型学环境随时间和动作怎么变;动作模型据此生成并调整动作。
蚂蚁灵波具身原生机器人通用大脑的整体设计思路正是如此。空间与触觉感知、世界建模、动作生成,各由对应模型提供能力,再靠模型间的融合协同,撑起从感知、预测到执行的完整链路。
这套架构也反映出蚂蚁灵波做具身原生通用具身智能的技术思路:
传感器的布局、身体结构、控制方式可能各不相同,可不同机器人面对的物理规律存在共性。基础模型要提炼出各类硬件都能用的规律,也得给具体本体留出必要的适配余地。
LingBot-VLA 已经跑通了「一脑多机」;LingBot-Touch 把这条路推到更难统一的触觉模态上。灵巧手换掉触觉传感器,感知模型未必需要从头训练;机器人换了本体,同样不必重新搭一套触觉感知能力。
当然,眼下这种能力复用还有条件。LingBot-Touch 的真机验证集中在 Sharpa Wave 和 XHand 两款灵巧手,预训练还没覆盖电容式传感器。更多机器人形态、复杂环境和长程任务,仍需更广泛的实验。
这一探索也带出具身基础模型走向通用化的两道关键考题:哪些规律能跨机器人共享,哪些能力必须结合具体本体重新学?
这两者的边界一旦厘清,机器人就有望省掉针对不同硬件重复训练基础感知模型的成本,让更多真实交互经验在不同设备间流动。