机器人换副身体就忘了暗号:墨西哥团队实验揭示沟通协议离不开老环境
有一个实验,听起来简单得像小孩玩的游戏,却藏着一个挺扎心的问题。两只机器人在一个虚拟世界里找食物。它们之间会互相发信号,这个信号不是人类设计的,是它们自己在无数次试错中"进化"出来的一套沟通方式。听起来挺神奇对不对,机器不需要人教,自己就学会了合作。可问题是,当研究者把这套学会的本领原封不动搬到一个更真...
有个实验,听着像小孩子玩的游戏,背后却压着一个挺扎心的问题。
两只机器人在虚拟世界里觅食,彼此会发信号。信号不是人设计的,是它们自己试错无数次"进化"出来的沟通套路。听着是挺神奇:没人教,机器自己就学会了配合。但研究者把这身本事原封不动搬进更真实、更复杂的三维物理世界,会怎样?
结果有点出人意料:一只还能摸索着找到食物,另一只试了三十次,一次都没成。
论文作者是墨西哥韦拉克鲁斯大学人工智能研究所的费尔南多·蒙特斯-冈萨雷斯。他做的这个实验,表面看是调技术细节,往深里说,戳的是所有搞人工智能的人都躲不开的问题:机器学会的东西,究竟是真学会了,还是刚好适应了那个特定环境?
**核心问题:进化出来的沟通协议,离得开它诞生的环境吗**
先交代一下实验背景。
机器人研究里有个分支,专门琢磨怎么让多台机器人自己进化出协作行为——规则不由人写死,让它们像生物进化那样,在一代代试错中摸出有效策略。论文里这两只机器人就是这么训练出来的,各自带着一个叫GRU的神经网络大脑。
GRU 网络:这类神经网络结构具备“记住此前发生的事”的能力,面对按时间先后排列的信息很合适,例如机器人在行进途中持续收到的传感器读数。
它们的任务不复杂:在有障碍物的平面场地里找到食物,过程中可以互发"社交信号"来协调。长时间进化训练之后,它们确实学会了配合,彼此之间形成了一套管用的"暗号"。
可这套暗号,是在二维的、物理简化的模拟环境里练出来的。好比一个人在体育馆的篮球场里练了几年脚步,突然被丢到下雨天的泥地球场,那些精准的急停变向还使得出来吗?
研究者想搞清楚的正是这件事:把这两只机器人的"大脑"原封不动搬进三维的、有摩擦力、有碰撞物理效果的更真实模拟环境(用的是PyBullet物理引擎),不重新训练任何参数,它们还能不能找到食物、还能不能听懂对方的信号?
PyBullet:这是一款开源物理仿真引擎,重力、摩擦、碰撞这些现实世界的物理规则都能模拟,机器人研究里常拿它搭接近真实的测试环境。
这个问题之所以要紧,是因为人工智能领域长期默认一个前提:算法只要学会了某种能力,这能力就该是可迁移的,换个场景顶多打个折扣。可这篇论文给出的实验数据,狠狠打了这个假设一拳。
**三处"补丁":为了让机器人在新世界里不摔跟头**
研究者没指望直接搬过去就能用,心里有数,做了三处调整。
头一处改的是转弯动作。过去那个二维世界里,机器人转弯只是原地打转,不往前走。刚换到三维环境时,转弯反倒带上了“往前冲”的惯性,机器人本想避开障碍物,却总贴着墙蹭过去,怎么都躲不掉。这有点像在干燥路面上练熟的急刹车,到了湿滑路面忽然发现车停不住、还往前打滑,躲避动作全走了样。研究者于是把转弯时残留的那股前进力道调弱,让它更接近原先“原地转”的样子。
第二处,是修正社交信号传入前方传感器时的过滤方式。这个比较技术性,简单说,信号进入机器人"感知系统"的那个接口需要重新校准。
第三处补丁最有意思,也是这篇论文真正的亮点。
**一个藏在神经网络权重里的"恐惧 vs 饥饿"失衡**
检查其中一只机器人(论文里叫Agent B)的神经网络参数时,研究者发现了一个很微妙的东西。
这只机器人的大脑里有一条叫"残差连接"的捷径,把传感器输入和最终的行动决策直接挂上了钩。
残差连接:这是神经网络中的一种设计,输入信息能绕开中间那些复杂的计算层,直接作用到最终输出上,通常用来保住原始信息,免得它在层层传递中被丢掉。
研究者还测算了这条捷径中,“靠近障碍物”这一信号(不妨理解成一种“害怕”)与“接近食物”这一信号(可以看作“饥饿”的驱动力)各自的权重占比。结果显示,Agent B 身上“害怕”的权重差不多是“饥饿”的 1.78 倍。也就是说,这只机器人天生更怕撞上东西,胆子比另一只小不少。
在原来平面简单的二维世界里,胆小问题不大,障碍物稀疏,碰撞代价也不高。可一旦搬进三维世界,摩擦力、惯性、碰撞反弹这些更复杂的物理效应叠在一起,这种"过度恐惧"的倾向就被放大了,机器人更容易卡在原地犹豫不前,找食物的效率大打折扣。
这就像一个平时开车就偏谨慎的人,在自家小区里绕两圈没什么问题。可一旦上了车流更密、路况更复杂的高速,那份“谨慎”就可能变成频繁犹豫、不敢变道,反倒更危险。性格没变,是环境的复杂度把原本不起眼的小毛病放大成了要命的短板。
针对这个现象,研究者动手调整了一处:把“饥饿感”信号的衰减速度重新校准,让它在陌生环境里的数值区间跟当初训练时对得上,想靠这个办法压住那种天生的“害怕”倾向。
**结果:修来修去,还是有一只机器人怎么都到不了终点**
三处修正做完,研究者换了三十个不同的随机初始位置反复测试这两只机器人。这些位置在术语里叫“种子”(seed),是一种用来控制随机过程初始状态的数值;相同的种子能复现出完全一样的随机结果,方便在不同实验条件之间做公平对比。
结果是这样的:Agent A在三十次测试里,有一次真正摸到了食物源。Agent B呢?三十次,一次都没到。
研究者还算了一个叫magnet_max的指标,衡量的是机器人在整段过程里离食物最近到了什么程度,数值越接近1就表示越靠近食物。Agent A的平均值是0.820,Agent B只有0.583,差了快四分之一。
更能说明问题的是另外两个指标,saw_flip_rate和saw_cycle_rate,测的是机器人有没有来回晃悠、靠近又后退、后退又靠近,像拉锯一样在原地打转。Agent A这类“犹豫不决”的频率是0.041,Agent B是0.093,高出一倍还多,而且波动特别大。
也就是说,Agent B并非完全辨不出方向,它的问题是老在靠近食物和远离食物之间反复横跳,像一个人站在十字路口来回试探,始终下不了决心往哪边走。
**追加实验:给信号加上“指南针”,够不够?**
到这一步研究者还没死心,又补做了一个实验。他们怀疑,会不会是社交信号本身带的信息量不够?原来的信号只是一个简单的“我在这里”的提示,并没有告诉对方具体方向。于是他们改了一处:当一只机器人发出社交信号、而接收方正处在“饥饿值较低”的状态时,系统会把原本代表“食物方向”的输入,换成“发信号的同伴所在方向”,等于直接往机器人手里塞了个指南针,明明白白告诉它该往哪边走。
这个改动只落在信号翻译层,机器人大脑本身的参数一点没动。
三十个测试种子跑下来,有11个的表现跟原来不一样,其中7个是实打实变好了,涨幅最低0.036,最高0.322。可就算挑出进步最大的那一个,Agent B还是没摸到食物源,三十次尝试,成功数依旧是0。
这个结果挺耐人寻味。
**它说明一件事:光把信息喂给机器人是不够的,机器人得有能力消化和运用这些信息**
研究者由此提出了一个假说,叫“隐式空间编码”假说。所谓隐式空间编码,指的是一套进化出来的沟通协议,它真正起作用的信息可能并不完全藏在信号本身里,而是和信号诞生时所处的具体物理环境紧紧绑在一起;脱离了那个环境,信号即便内容完整,接收方也未必能正确使用它。
不妨这样想:你和一位老友有一套外人听不懂的暗语。这套话说得通,不光靠词本身,还靠你们一起经历过的某个场合,是那个场合让这些词有了分量。你把这套暗语一字不改地写下来,寄给一个从没经历过那个场合的人,他就算把字面意思读明白了,也未必能像你朋友那样马上反应过来、做出对的举动。要是换个思路,直接认定“信号到了,意思也就到了”,那这个追加实验根本不会跑出这样的结果——信息明明变多了,行为却没见起色,说明毛病不出在信号身上,而在于接收的一方能不能在新环境里把信号真正用起来。
换句话说,研究者一开始的猜测得到了验证:核心问题不是信号丢了信息,而是机器人在新的物理动态下没有能力有效利用这些信息去导航。
**这件事让人想起具身认知的老话题**
论文引用了布鲁克斯和普费弗这两位研究具身机器人的学者。两人的核心主张是:智能并非脱离肉身的抽象运算,它牢牢扎在身体与环境的往来之中。具身认知讲的也是这回事——感知、决策、学习这类认知能力,不是独立于身体之外的纯计算,它们和身体的物理构造、所处的环境缠在一起,身体换了、环境换了,认知能力恐怕就不是原先那副样子了。
这篇论文的实验,恰好给上述理论添了一份相当具体的佐证。那套沟通协议并非凭空“学会”,它是在那个特定的二维身体、特定的二维物理规则里长出来的;一旦换了身体、换了物理规则,协议的“骨架”还在,“灵魂”却掉了一截。
这类隐忧并不只出现在机器人身上,不少人工智能系统同样存在。
论文还梳理了几个相近方向的研究。
Mordatch和Abbeel在2018年的工作就证明过,多个智能体能在训练环境里自行进化出一套"组合式语言",可这套语言的含义跟训练环境绑得很死。Lazaridou和Baroni在综述文章里也提到,进化出来的沟通协议普遍有这种"水土不服"的毛病,一离开训练环境就失灵。
机器人领域还有个经典难题叫"现实差距"(reality gap),跟这属于同一类问题:控制策略在模拟器里练得再好,搬到真实机器人身上往往表现大打折扣。原因在于模拟器总要做简化和近似,跟真实世界之间留着细微却致命的偏差。
这篇论文的不同之处在于,它盯的不是"模拟器到真实世界"那道经典鸿沟,而是"二维模拟器到三维模拟器"这个更窄、却同样真实存在的中间地带。此前很少有人专门研究这个地带。
往后怎么办:两条可能的路
作者给出了两个未来可能的方向。
第一个是只重新训练接收信号的那只机器人,发信号的那只保持不动,做一次局部"微进化",而不是把整套协议推倒重来。打个比方,两个人原本配合默契,其中一人换了工作环境,与其让两个人都重新磨合,不如只让适应能力较弱的那位针对新环境单独练一练,效率会高不少。
第二个方向更有想象力,叫"世界模型"。
所谓世界模型,是让智能体先在一个简化的、内部模拟出来的环境里"想象"和练习,再到真实环境里执行,目的是压低真实环境里试错的成本。
这个思路跟2018年Ha和Schmidhuber提出的"World Models"框架、2019年Hafner等人提出的"潜在想象"(Dream to Control)方法一脉相承。基本逻辑是:GRU网络在二维训练时应该已经学到了某种对环境的内部理解,那能不能把这份理解"翻译"适配到三维环境里,让机器人先在一个压缩版的虚拟环境里练协调,再去应对真实的物理引擎?这样既省算力,迁移也可能更顺畅。
这项研究自己也承认的局限
作者挺坦诚地列出了几条限制。
三十个测试种子比初步测试覆盖面更广,但还谈不上全面的统计学验证。追加实验里也没有详细记录每次社交信号究竟在什么时间点被触发,分析更多落在最终结果上。另外,这次研究没有跟原始二维环境里的表现做直接对比,因为对应的二维评估论文还在审稿中。更重要的是,这些结论只来自一对进化出来的控制器、一个特定的觅食任务,残差权重里那种"害怕大于饥饿"的失衡现象能否推广到其他机器人对子身上,目前还不清楚。
Q&A
Q1:这篇论文研究的核心问题是什么?
A:研究的是两只机器人在二维模拟环境中进化出的沟通协议,直接搬到三维物理模拟环境后还能不能正常协作找到食物。结果显示迁移既不完整也不对称,一只机器人能偶尔成功,另一只三十次测试全部失败。
Q2:为什么其中一只机器人(Agent B)在新环境里表现更差?
在Agent B的神经网络中,残差连接上有两组权重:一组对应“害怕碰撞”,另一组对应“饥饿驱动”,前者是后者的1.78倍。二维环境简单,这种失衡还不太显眼;一旦进入摩擦力与碰撞都更复杂的三维环境,问题就被放大,它于是常常迟迟不敢往前走。
Q3:给信号加上明确的方向信息后,问题解决了吗?
A:没有完全解决。研究者做了"方向修正"实验,让社交信号带上明确的方向提示,结果三十个测试中有11个出现变化,7个有提升,但Agent B依然没能成功到达食物源。这说明问题不只是信号信息量不够,更是机器人在新物理环境下的导航能力受限。