蚂蚁灵波开源LingBot-Touch:触觉预训练补上机器人操作闭环
今年 9 月,GPT-6 Astra 发布之后,具身智能圈经历了一次集体的“压力测试”。在论文《An Unexpected Robot Policy》中,研究人员将GPT-6 Astra直接作为机器人动作策略使用。在没有经过针对性任务微调的情况下,它在RoboDojo的42项仿真操作任务中,取得了22.48%的平均成功
9月
GPT-6 Astra问世后,具身智能行业集体感受了一轮压力。
论文《An Unexpected Robot Policy》里,研究者直接把GPT-6 Astra拿来当机器人动作策略用。没做任何针对性任务微调,它在RoboDojo的42项仿真操作任务中拿到22.48%的平均成功率、28.97的综合得分,名次压过榜单上全部40个公开策略模型。
大模型在数字世界里的本事——读懂任务、拆解步骤、规划路径——正往机器人身上挪。
那阵子投资人和创业者反复追问:通用大模型会不会把具身大脑吃掉?可把这批测试报告翻到末尾,数字大模型的能力边界也画得清清楚楚:手碰到物体之后。
头一道边界是时间。一项仿真行走测试里,机器人走30秒要调用模型250次,每次平均耗近40秒。仿真中能暂停等模型想完,现实里杯子开始下滑那一瞬,没有哪台机器人有40秒的思考余量。
第二道边界在接触。同一批测试显示,Astra的长处集中在泛化、记忆这类靠语义理解的任务;高精度操作类任务的成功率只有4.00%。真机正式评测还因为模型输出危险动作、弄坏设备而叫停。换句话说,视觉能解决“把手伸到正确位置”,可手指一碰物体,遮挡、打滑、形变就跟着来。
当下具身智能产业的分野正在这里:推理与规划可以站在数字巨人的肩膀上,从传感器信号到动作输出的物理闭环,却得由具身基础模型自己走完。
蚂蚁灵波CEO朱兴的判断很直接:“数字世界大语言模型的进展确实让机器人的复杂任务推理能力更强。但产业一线的实践告诉我们,要真正跑通操作闭环,物理操作泛化性这块硬骨头还是绕不开,很大程度上仍要靠具身基础模型自身的突破。”
这番话背后,是灵波自成立起就走的“具身原生”路线。前两天,蚂蚁灵波正式发布并开源了面向灵巧操作的触觉预训练基础模型LingBot-Touch,瞄准的正是GPT-6 Astra们绕不过去的硬骨头——让机器人在手碰到物体之后,真正“摸得明白”。
LingBot-Touch把多源、异构、稀疏的触觉信号统一成可复用的表征,供触觉理解、模仿学习与强化学习等下游任务使用。图源:LingBot-Touch技术报告
从空间感知到物理接触,通用大脑还缺的那块拼图
要看懂LingBot-Touch,得把它放进蚂蚁灵波的整条技术路线里。
蚂蚁灵波2024年底成立,一开始就定下不造本体、只做机器人通用大脑。
今年1月底,灵波连着几天密集开源LingBot-Depth、LingBot-VLA、LingBot-World和LingBot-VA,覆盖空间感知、动作生成、世界预测与世界动作建模。到今年7月发布大脑全栈2.0时,LingBot-VLA 2.0已适配17家机器人厂商的20余种构型。
蚂蚁灵波“大脑全栈2.0”按看得更清楚、摸得更灵敏、想得更明白、干得更利索四种能力来组织,LingBot-Touch补的正是其中精密触觉感知这一环。
灵波把这条路线叫作“具身原生”:回到第一性原理,从机器人在物理世界里感知环境、预测变化、执行任务的真实需求出发,倒推该统一什么、模型怎么设计、拿什么数据训练。这也是灵波一直以真机数据为主的原因。
拿一个最普通的任务,就能看清这套能力怎么搭起来。假设机器人要把桌上的一只玻璃杯拿起来,放到指定位置。伸手之前,它先得看得更清楚,LingBot-Vision与LingBot-Depth 2.0管的就是这一层,让机器人从“看见物体”走到“理解空间”。
手指碰到杯壁,视觉就受影响了。指腹挡住接触区域,摄像头很难判断杯子有没有握稳、指尖是不是在滑、再加力会不会把薄壁杯捏变形。这一段要机器人摸得更灵敏,正是LingBot-Touch这回补上的能力:从接触信号里读出受力状态和它的变化。
杯子拿起来时若发生倾斜,或者放置区域突然冒出障碍,机器人还得想得更明白,预判环境会怎么变,再调整下一步。世界模型LingBot-World 2.0与视频生成基础模型LingBot-Video承担的,就是对物理世界的动态建模。
所有感知和预测,最后都要落到动作上。手臂往哪移、手指收多紧,都得在执行中按反馈不断修正。LingBot-VLA 2.0负责理解指令、生成动作并跨构型迁移,LingBot-VA 2.0则把世界预测和动作生成合到一起,让机器人边推演、边行动、边调整。
搭载蚂蚁灵波通用大脑的机器人在药房场景中拣选商品。
目前LingBot-Touch已与LingBot-VLA融合,用于精细操作。朱兴对此的总结是:模态输入的质量很大程度上决定了动作输出的上限。
机器人要接的复杂任务越来越多,对物理感知的要求自然水涨船高。灵波的做法是把机器人所需的关键能力先拆开、分别研发验证,等成熟了再合龙成一个更统一的具身原生大脑,这算是对上述产业趋势的提前布局。
谁先跑通物理闭环,谁就拿到下半场的主动权。
拆解LingBot-Touch:一套模型怎么“翻译”千差万别的物理手感
给灵巧手装上触觉传感器,只是让机器人有了“感官”。想让它真具备“手感”,卡点在于整个行业至今没有一种共同语言。
眼下主流触觉传感器至少分三条路线。
视触觉靠指尖内的微型相机拍下弹性表面的形变,擅长分辨细微的接触位置和轮廓,代表产品有Sharpa Wave灵巧手;
软质磁性材料受力后磁场会发生变化,磁触觉正是靠这一点来感知多个方向的力;这种方案结构薄、响应快,星动纪元的XHand和帕西尼的PX6AX GEN3用的都是它。
压阻式则利用材料受压后的电阻变化测量压力,成本低、容易做成大面积阵列覆盖手掌,强脑科技的Revo 2触觉版是其代表。
三条路线在精度、速度、覆盖面积、成本和耐用性上各有取舍,并行发展几乎是必然。
问题是,这种多样性让模型训练很难办。同一次按压,视触觉记下来的是图像,磁触觉记的是磁场,压阻式记的是电阻,说的都是同一种物理接触,可原始数据没法直接并到一起用。结果就是行业只能一种传感器配一套模型,硬件越丰富,重复投入越大,一款手攒下的经验也很难搬到下一款手上。
灵波盯的是不同硬件背后那套共同的物理规律:手指落在哪、受了多大劲、有没有在打滑。它把“理解接触”从具体任务和具体硬件里拿出来,当成一项独立的基础能力先做预训练,再给不同的灵巧手和动作模型复用。这跟灵波做通用大脑的路子是一致的。
围绕这一判断,LingBot-Touch要回答三个问题。
第一是数据来源。接触经验不在互联网上,只能从真实交互里采。LingBot-Touch的预训练数据共4983小时,压阻式约2197小时、视触觉约1650小时、磁触觉约1136小时,合起来46.4万段交互、约13.3亿帧,抓握、旋转、滑动、擦拭、装配、双手配合,以及易碎易变形物体的操作都覆盖到了。
其中三分之二来自人戴着压阻式和磁触觉手套在日常生活里做的操作,另外三分之一来自指尖装着视触觉传感器的Sharpa Wave双臂遥操作。手套数据的价值在实验里得到了印证:预训练用到的磁触觉数据全部出自人手手套,而XHand那款磁触觉传感器的型号从没在预训练数据里出现过,参数固定的LingBot-Touch接上XHand之后,照样能帮动作模型把成功率提上去。这说明人手攒下的“手感”能帮机器人读懂自己的触觉信号,而手套采集不依赖机器人本体,给触觉数据上规模开出了一条走得通的路。
LingBot-Touch预训练数据共4983小时、46.4万段交互、13.3亿帧,其中压阻式与磁触觉数据由人佩戴触觉手套采集,视触觉数据来自灵巧手遥操作。图源:LingBot-Touch技术报告
第二是不同信号怎么进同一个模型,也就是表征。LingBot-Touch按传感原理来设编码入口,不按产品型号:磁触觉、压阻式、视触觉信号各编各的,编完进到共享的Haptic Transformer里学共同规律。所有触点都被映射到同一个标准化的三维指尖坐标系,每个触觉Token都带着时间、手指编号和空间位置;训练时还会故意改动触点密度、扰动触点位置,免得模型把某一款传感器的排布“死记”下来。这样一来,同一传感原理下的新型号拿来就能用,异构数据也不再是障碍,反倒成了养料。
对照实验里,某一类数据保持不变,再加进其他类型数据联合预训练,模型对接触位置、面积和受力变化的判断都有改善。
LingBot-Touch模型架构。三类触觉信号被映射到统一的标准化指尖空间,经分模态编码后进入共享的Haptic Transformer,在特征空间中预测被遮挡区域的接触信息。图源:LingBot-Touch技术报告
第三是怎么学到真正有用的接触规律。触觉信号非常稀疏,手指大部分时间没碰物体,读数就是零或者接近零。要是还按重建原始信号那套训练,算力会大把耗在这些“空白”上。灵波用的是基于JEPA(联合嵌入预测架构)的自监督方法:把一段记录里的部分触点遮住,让模型依据其余触点和前后时间的变化,在特征空间里推断被遮住那块区域的接触状态,而不是一项项还原原始读数。训练要的参照就来自记录本身,不用人工标注。
LingBot-Touch的对照实验显示,在同样1000小时的数据上,这种方法的接触中心定位误差为0.90毫米,而沿用信号重建思路的VAE和MAE都在3毫米以上。在Sharpa Wave上判断指尖接触中心时,LingBot-Touch的平均定位误差为0.12毫米,而使用平台专用适配器的FTP-1为2.19毫米。在预训练从未见过其传感器型号的XHand上,差距更加明显:LingBot-Touch在编码器完全冻结的情况下误差仅0.16毫米,FTP-1为5.89毫米,两者精度相差三十余倍。
LingBot-Touch与FTP-1在Sharpa Wave(上)和XHand(下)上的触觉理解能力对比,涵盖受力大小、接触中心、接触面积、未来受力预测与视触觉检索五项指标。XHand的传感器型号未出现在LingBot-Touch的预训练数据中。图源:LingBot-Touch技术报告
物理世界还有一道绕不开的限制,就是时延。杯子刚打滑,判断再准,动作送晚了也会错过调握力的窗口,而触觉处理在机器人有限算力里只占一小份。GPT-6 Astra 这类大模型难跨的“时间边界”,正卡在这里。灵波为此给出两个版本:LingBot-Touch-Tiny 参数只有约 546 万,接入 LingBot-VLA、π0.5 和 T-Rex 后,模型参数量分别只多出 0.13%、0.15% 和 0.16%,此次 26 项真机任务都由它完成。
容量更大的 Small 版则体现出更好的数据扩展性:Tiny 版在约 4000 小时数据后趋于饱和,Small 版在近 5000 小时的数据上仍在提升。前者回答的是能不能实时用起来,后者说明触觉同样有规模化收益——数据越多,模型越懂“手感”。
从数据、表征、训练到部署,LingBot-Touch 的设计都对着行业在触觉上共同卡住的环节。这也是灵波“具身原生”主张最具体的落点:先看机器人在物理世界里把活干好需要什么,再决定统一什么、怎么设计、拿什么数据训练。触觉这个最难攻的环节之一,被灵波做成了能跨硬件、跨厂商共用的底座——通用大脑的边界,又往前推了一步。
结语:具身智能下半场,比拼的是对物理世界的敬畏
GPT-6 Astra 引发的那场讨论,其实已经有答案了。
通用大模型不会把具身大脑吃掉,两者也不是二选一。数字大模型越强,机器人能接的任务就越多、越复杂。任务一复杂,就越需要拿真实物理数据训练、能实时跑的感知与执行能力。数字大模型每进一步,具身基础模型的价值都会被放大。
灵波这条路线的分量也在这里。年初集中开源空间感知、动作生成和世界预测模型,7 月发布大脑全栈 2.0,再到现在的 LingBot-Touch,路线上的连续性,比任何单次发布都更值得关注。
可以看到,具身智能正在形成类似自动驾驶、智能手机的分工:本体和零部件高度多样、快速迭代,真正有规模经济的,是能跨硬件复用的智能层。海外的 Physical Intelligence、Skild AI 估值已达到或冲击百亿美元量级,国内资本也在向大脑公司集中,两边互相印证,这一分工逻辑正被资本市场验证。
对中国产业来说,这还有一层特别的意义。中国有全球最丰富的灵巧手与传感器供应链,过去这种多样性是算法适配的负担;现在不同硬件采到的数据能一起训练,学到的能力又能回到不同机器人上,多样性就有机会从负担变成数据资产。
这条路还在往前走。灵波 CEO 朱兴说,灵波未来不会止步于视觉、深度和触觉,还会持续补充力觉、温度等更多物理感知模态,给动作模型提供更高质量的输入。具身智能的下半场,比的不是更炫酷的 Demo,而是谁对物理世界更敬畏。谁能把跨构型、跨模态的底层能力做得最扎实、最易复用,谁就有机会成为具身智能规模化时代的“水电煤”。这场竞赛里,灵波交出的是一张正在逐步补全的通用大脑地图,触觉是其中刚刚落下的一块。