蚂蚁灵波开源LingBot-Touch:一套触觉模型打通多种灵巧手
智东西(公众号:zhidxcom)作者 | 周加琦编辑 | 漠影具身智能正在加速突破灵巧操作的能力边界,但不同灵巧手之间,仍然存在一道难以跨越的触觉数据鸿沟。如何打破不同传感器之间的数据壁垒,成为实现通用灵巧操作的重要一步。智东西11月10日报道,蚂蚁灵波正式开源面向灵巧操作的触觉预训练基础模型LingBot-Touc
智东西11月10日报道,蚂蚁灵波把面向灵巧操作的触觉预训练基础模型LingBot-Touch正式开源了。压阻式、视触觉等不同类型的传感信号,这个模型都能统一处理,再编码成统一、可复用的触觉表征,给不同灵巧手和策略模型调用。
具身智能在灵巧操作上的能力边界正被快速推开,可不同灵巧手之间,触觉数据这道鸿沟依旧很难迈过去。
想让通用灵巧操作真正落地,先得拆掉不同传感器之间的数据壁垒,这一步绕不开。
真机测试里,LingBot-Touch搭配两款不同灵巧手、四种策略模型,跑完了26项真实操作任务。结果是,四种策略模型在两款灵巧手上的平均任务成功率都往上走了。
拿Sharpa Wave灵巧手来说,LingBot-VLA的平均成功率由45.60%升到72.51%。
这次发布也让蚂蚁灵波的具身原生机器人通用大脑更完整了。空间感知、动态环境交互、灵巧操作之后,通用触觉感知这块能力补上了。
Hugging Face:https://huggingface.co/collections/robbyant/lingbot-touch
项目主页:https://technology.robbyant.com/lingbot-touch
技术报告:https://github.com/Robbyant/lingbot-touch/tree/main/paper
GitHub:https://github.com/Robbyant/lingbot-touch
一、打破触觉数据壁垒,让不同灵巧手共享“手感”
魔搭社区:https://www.modelscope.cn/collections/Robbyant/LingBot-Touch
机器人灵巧操作越做越细,对触觉感知的要求也跟着抬高。拧瓶盖、翻书、零件装配这类精细化任务,机器人不只要判断物体在哪,还得感知手指接触后的受力变化和移动情况,才能及时调整手部动作。
机器人要真正读懂这些接触信息,大量真实触觉数据的训练少不了。问题是,触觉数据采集成本高,规模也有限。
今年5月,海外具身创企Genesis AI发布机器人基础模型GENE-26.5,配套的触觉数据采集手套和灵巧手也一并推出,想借动作映射把人类操作经验直接拿去训练机器人。
7月,美国具身企业Generalist AI披露了GEN-1的跨本体研究进展,让不同末端执行器共享对接触、摩擦、受力等物理规律的理解。
这两家企业都在摸索怎样更高效地积累和利用物理交互经验。蚂蚁灵波则从触觉感知切入,盯上一个更棘手的问题:拆掉不同传感器之间的数据壁垒,让触觉数据能跨本体共享和复用。
眼下灵巧手用的主流触觉传感器有磁触觉、视触觉和压阻式等几类,感知精度、响应速度、覆盖面积和成本上各有各的长处。传感器记录接触的方式不一样,可背后的物理接触信息存在共性。
蚂蚁灵波这次推出的LingBot-Touch,正是借这个共性学习统一的触觉表征,让不同灵巧手共享对物理接触的理解。
具体做法是,LingBot-Touch先分别处理三类传感器采集的原始信号,再通过共享模型学习其中共同的接触特征,比如手指碰到了哪里、受力如何变化。这些特征最后被编码为统一的触觉Token,供不同灵巧手和策略模型使用。
这样一来,策略模型不用直接处理不同传感器复杂的原始信号,靠提取出的接触信息就能做决策。
为了让模型掌握这些共同的接触规律,蚂蚁灵波用了4983小时真实触觉数据做预训练,涵盖约46.4万段交互记录、13.3亿帧数据,抓握、旋转、装配等多种操作都在其中。
这些数据主要来自两方面:人类佩戴触觉手套采集的磁触觉数据和压阻式数据,以及通过遥操作采集的视触觉数据。
训练采用自监督学习方法,随机遮挡部分触觉信息,让模型根据其他触点的信号变化预测被遮挡区域的特征,接触位置、受力变化等信息不用逐一标注。
靠着这套模型架构和训练方法,不同硬件积累的真实触觉数据也能变成可以共同利用的训练资源。
二、26项真机任务验证,LingBot-Touch让四种模型集体涨分
模型的实际价值,终究要靠机器人的真实操作来检验。蚂蚁灵波在Sharpa Wave和XHand1两款灵巧手上开展了26项真机任务测试,翻书、拧瓶盖、拉拉链、分拣物体、双手协同等精细操作任务都包含在内。
测试结果此前已有披露:四种策略模型在两款灵巧手上的平均任务成功率均得到提升。
测试环节,蚂蚁灵波把Diffusion Policy、π0.5、LingBot-VLA和T-Rex四种模型都接了进来,用来考察LingBot-Touch在不同硬件、不同模型上的表现。
对照实验一共设了三组:一组完全不用触觉,只靠视觉等信息;一组把原始触觉数据直接喂给策略模型;还有一组接入LingBot-Touch,用的是它提前提取好的触觉特征。结果,在两款灵巧手上,接了LingBot-Touch的那一组,四种策略模型的平均任务成功率都排在三组里的最高位。
具体到Sharpa Wave的20项任务,LingBot-VLA的平均成功率从45.60%升到72.51%,涨了26.91个百分点;π0.5从47.56%升到68.58%,涨了21.02个百分点。
XHand1的6项任务里,π0.5的平均成功率由49.71%提高到74.17%,提升24.46个百分点。
落到具体操作上,LingBot-Touch带来的变化同样清楚。拧瓶盖这项任务,在Sharpa Wave灵巧手上,T-Rex不用触觉信息时成功率为56.25%;直接输入原始触觉数据是62.50%;接入LingBot-Touch后,成功率进一步升到90%。
拉拉链的结果更值得琢磨。π0.5不用触觉信息时成功率是39%;直接输入原始触觉数据,成功率反而掉到15%;换成LingBot-Touch提取的触觉特征后,成功率升到59%。
说到底,把触觉信号转成模型能有效利用的接触特征,才是操作效果改善的关键。
任务成功率之外,LingBot-Touch在新硬件上的迁移能力也是一大看点。
这次测试用的XHand1灵巧手搭载了磁触觉传感器,但该型号并未出现在LingBot-Touch的预训练数据里,触点布局等特征也和训练阶段所用设备不一样。
接入XHand1时,蚂蚁灵波没有重新训练LingBot-Touch,而是把它的模型参数固定住,只针对具体任务训练下游策略模型。最终,使用LingBot-Touch触觉特征的策略模型,平均任务成功率依然得到了提升。
放到产业层面,LingBot-Touch有望让不同灵巧手积累的触觉数据和学到的感知能力实现共享,企业在数据采集、模型训练和硬件适配上不必重复投入,研发效率可以提高,灵巧操作能力也能更快落到更多实际场景中。
三、触觉模型走向真机,速度也是硬门槛
具身智能加快走向实际应用,模型的计算开销和运行效率是影响机器人部署落地的重要因素。
一台机器人身上,视觉感知、动作决策等多个模型往往要同时跑,端侧算力有限,得在不同任务之间分着用。触觉感知尤其如此——手指和物体接触时产生的高频信号要持续处理,对模型响应速度的要求更高。
针对这一需求,蚂蚁灵波推出了LingBot-Touch Tiny和Small两个版本,在模型规模和触觉感知能力之间给出不同选择。
Tiny版本只有约532万参数,重点在于压低触觉处理的计算开销。把它接入LingBot-VLA后,整体参数量只增加约0.13%,前面提到的26项真机任务用的都是这一版本。
Small版本模型容量更大,触觉感知能力可以再往上走。结果显示,Tiny版本用约4000小时数据预训练后,部分感知性能逐渐趋于饱和;Small版本在接近5000小时的数据规模下仍能继续提升。
通用触觉能力要真正进入产品,模型性能、端侧算力和部署成本都得兼顾。LingBot-Touch用不同规模的模型设计,让企业可以按自己的硬件条件和操作需求来选触觉模型。
结语:通用大脑再升级,让物理经验成为具身智能的共同资产
此前,蚂蚁灵波已经推出LingBot-Vision、LingBot-Depth 2.0、LingBot-World 2.0、LingBot-VLA 2.0等不同类别的模型。LingBot-Touch此次加入,让其机器人通用大脑的物理感知能力更进一步。
这一布局延续了蚂蚁灵波坚持的具身原生技术路线:从机器人在真实物理世界完成任务的需求出发,把不同机器人共同需要的智能能力做成可复用的基础模型。
放到产业层面看,规模化落地绕不开的一道坎,就是不同硬件之间怎么把能力迁移的成本压下来。通用基础模型走向产业应用,价值也正在这里:真实世界里攒下的经验能够不断沉淀,硬件与任务之间少做重复开发,机器人能力往更多实际场景迁移的速度也就提上去了。