机器人训练数据缺口怎么补:仿真与EGO数据上量,低质数据隐忧浮现
张衡认为,机器人训练肯定需要大规模的物理交互的可信数据,而机器人真机在现实世界里采集的数据成本过高,采集的速度也太慢了。张衡认为,现在具身智能的训练范式还在高速变化,特别是像 OpenAI的大语言模型展现出…
“物理AI要普及,真机采集数据的占比会一路往下走。”
这句话出自谋先飞Motphys创始人兼CTO张衡,他近日接受第一财经记者采访时给出了上述判断。机器人训练离不开海量数据,可真机采集成本太高、效率又低。
另一边,物理仿真引擎越做越强,虚拟世界里能无限生成带物理反馈的数据;人类戴着眼镜、触觉手套等设备采出来的Ego数据也在爆发式增长。训练数据短缺的问题因此缓解了不少,不过低质量数据泛滥的苗头也跟着冒了出来。
真机数据的缺口,靠什么来填
大语言模型的数据来源很丰富,互联网上的文本、视频都能用。海量和易得这两点,正是大模型突飞猛进的底子。
机器人要的真实数据就没这么容易了,采集难度高出好几个量级,这也成了具身智能迟迟难以突破的关键瓶颈之一。
张衡的看法是,机器人训练肯定需要大规模、可信的物理交互数据,可真机在现实世界里采数据,成本过高,速度也太慢。这种情况下,仿真数据就成了不可或缺的替代方案。
面向机器人研究的物理仿真引擎里,谷歌有MuJoCo平台,英伟达有Newton平台。谋先飞是一家国内做物理仿真引擎、具身智能训练与数据生成的企业,它的解法是:先用少量真实数据,在仿真器里做数据扩展和增广,再做强化学习训练,最后部署到真机,实现零样本迁移。
机器人仿真建立在物理规律之上,重力、摩擦、流体力学都算在内。可仿真数据搬到机器人身上,往往和现实对不上,这就是所谓的“仿真与现实(sim2real)差距”,国内国外的物理仿真引擎平台都在攻这个问题。
“随着物理仿真引擎越来越强大,可以用极低的成本,在虚拟世界里无限生成这些带触觉、带真实物理反馈的数据,也可以理解为用算力换取高质量的机器学习数据。”张衡说。真实物理世界的数据和仿真数据并不是非此即彼,关键是用更低的成本产出更高质量的数据。
真机数据短缺留下的空白,EGO数据的爆发式增长同样补上了一块。
采EGO数据时,人类操作员会戴上头戴式相机、装上触觉传感器的手套等设备,把叠衣服、烹饪这类任务中操作者的画面、手部动作和环境信息记录下来。
觅蜂科技董事长姚卯青不久前接受第一财经等媒体采访时回忆,去年下半年已有企业用上20万小时级别的UMI数据——这类数据来自手持夹爪加第一视角相机采集的人类真实操作演示;到今年,不少公司都对外宣称自家数据规模到了百万小时级别。
这类数据的增长曲线很陡。觅蜂科技做的是具身智能数据采集和供应平台,姚卯青说,公司服务的不少数据用户和模型公司都想冲到千万小时的数据规模。“可以预见未来一段时间里,对高质量、非常真实场景、丰富场景的高质量物理数据要求还是非常强劲的。”
真机数据、仿真数据、EGO数据,各有各的长处,也各有各的短板。
张衡的看法是,行业盯着数据量,可质量和多样化同样是关键。多样化做到位,规模小一些,泛化效果未必差。他判断数据行不行,就看放进“真机实验”后的成功率和效果。
张衡判断,未来的大趋势是:物理AI的普及,需要真机采集数据的占比会越来越低。
糟糕的数据是怎么来的
真机采来的数据,也未必就有效。
觅蜂科技真机操作团队近日发布论文《真实机器人数据质量背后的隐藏变量:数十万小时数据带来的经验》,基于20万小时以上真机数据、2万多个任务记录的工程积累,把影响真机数据质量的隐藏因素逐一拆开,也算部分解释了“隐形坏数据”是怎么被生产出来的。
论文里提到一次机器人拾取积木的对比试验。一种操作是,积木放在机器人初始视野之外,操作员靠自己的肉眼判断积木在哪,机器人记录到的画面里并没有操作机械臂的依据,用这类数据训练出的模型,机械臂操作准确率约50%,跟随机行为差不多;另一种操作是,操作员和机器人同视角,一起看着积木位置,确认之后再操作机械臂,用这类数据训练出的模型,手臂操作准确的概率提高到100%。
这个实验说明,一条好数据不光要记录“机器人做了什么”,还得记录“机器人为什么这样做”。后训练数据有没有效,取决于观测有没有覆盖决策依据。画面里要是没有选择动作需要的信息,后训练出来的模型学到的就不是“先观察再行动”,而是在信息不完整时随机乱选。
放到EGO数据上,最明显的问题是无效的重复数据太多。
市场上有说法称,有企业买了100万小时数据,最后能用的只有10%到20%。姚卯青表示,这是真实发生的事情。
不少数据采集商仍处在“盲采”状态:没去细究具身智能企业到底要什么,先按自己预设的场景、方式、设备和管理人员的那套办法,把数据库建起来。等真正交到用户手里用起来,数据对不上的毛病就露出来了。姚卯青说,有些数据同质化严重、附加值不高,像单目、室内场景的裸手数据,叠衣服这类尤其容易拿到,市面上已经泛滥;还有人把数据卖过一遍之后,再低价拿到市场上重复卖。
设备这块,一些采集商本身也没想清楚该怎么定义,跟风的玩家居多。姚卯青观察到,近期不少企业还在采单目、Pico 数据,可市场主流需求已经转向多目、双目、立体、触觉、全身等方向。自研设备在技术和资金上的门槛都不低。
国内仿真数据的短板同样突出。物理仿真绕不开的一个核心难题是“软体算不准”:机械臂这类刚体的仿真已经比较成熟,但流体(比如倒水)和柔性体(毛巾、衣服)的精度还差得不少。张衡说:“如何在极小的时间预算内,把复杂的物理形变算得又准又快,是行业下一阶段的技术挑战。”
机器人会在解决这些问题的过程中逐步进化。张衡认为,具身智能的训练范式眼下仍在快速变化,OpenAI 的大语言模型已经展现出高层控制能力,未来机器人从上层到底层的 AI 控制策略怎么走,还需要继续观察。