浙大联合TeleAI提出GR-BC:从多次试错中找更优示范路径
CoRL2026|浙大联合TeleAI提出GR-BC,用图搜索从机器人试错...
拿螺丝刀把螺丝拧紧,这事听上去不难。可真上手,常常得挪一点、转一点、退出来再重新对齐。换成遥操作机器人来采数据,过程更磨人。就算是熟练得像“大国工匠”的数采员,碰上精度要求极高的任务,也未必能一次交出全程都够顺的示范。一条最后成功的轨迹里,可能夹着好几回无效调整;而一条因为超时或碰撞而失败的尝试,当中反倒有几步对得很准。
问题就落到视觉语言动作模型的后训练上:数采员自己都难采出近乎完美的轨迹,机器人该学什么样的经验?
浙江大学沈春华团队与中国电信人工智能研究院(TeleAI)& 伽马智能白辰甲团队围绕这个问题,提出了 Graph-Reweighted Behavior Cloning(GR-BC)。
他们想到的是另一种可能:更好的成功路径不一定完整地存在于某一次示范里,倒可能藏在多次尝试彼此的连接关系当中。把这些经验归到同一张图上,能不能先在图的“脑海”里搜出一条更优的路,再让这张图当裁判,去指导机器人学那些值得模仿的动作?
目前这项工作已被 CORL 2026 接收,论文和代码均已公开。
-
论文标题:Graph-Reweighted Behavior Cloning with Human Interventions for Precise Robotic Manipulation
-
论文链接:https://arxiv.org/pdf/2610.20504
-
项目主页:https://gr-bc.github.io
-
代码链接:https://github.com/Gamma-Robot/GR-BC
这套方法的核心思路分两步:先在经验图里检索当前进度,再据此调整各动作的权重。
第一步是把零散的试错经验串成一张图。
判断某个动作好不好,前提是知道机器人离任务完成还差多少。团队注意到,精细操作里的进度很看重任务内部的相对关系。把同一任务的多次尝试摆到一起,借助彼此间的关联,进度的判断就有了更具体的参照。
节点由冻结的 MCR(manipulation-centric representation)视觉编码器提取三个相机视角的表征,再与夹爪状态合并编码而成。
图里的边分两类。时间边把同一条轨迹上按固定间隔采样的相邻节点连起来,其代价为跨过的帧数,所以图上的距离直接对应物理时间。
另一类是相似边,作用是把彼此独立的轨迹接上,要同时满足三个条件:各相机视角中互为 K 近邻、夹爪状态相同、按局部尺度归一化后的距离低于阈值。所谓局部尺度,取的是该节点相邻一次转移的视觉距离,这样一来,阈值在不同任务、不同视角下就有了统一的物理含义。
第二步,从成功终点往回搜。
GR-BC 的灵感来自强化学习里的 cost-to-go 与图搜索,思路是把「进度」换成另一个问题:站在当前状态,顺着已有数据撑得住的路径走,离成功还差几步?图搭好之后,算法从成功终点倒着跑一遍 Dijkstra,算出每个状态到成功的最小图路径代价,记作剩余步数。搜索只落在稀疏的节点上,再用线性插值铺到每一帧,好跟 VLA 的稠密监督对上。
图 3|螺钉拧紧与显卡插装两个任务里,动作、图检索进度和权重的对应变化。
第三步,净进展和中途回退要一起查。
剩余步数被折算成 0—1 的图检索进度(GRP)。一个动作块得同时过两道关:净进展要超过阈值,相对起点的最大回退也不能越界。过了关的拿到带上下界的正权重,没过的一律记零。
公式 1|动作块权重规则,截自论文第 6 页式(8)。
其中 Δ 是终点相对起点的净进展,d 是起点进度减去块内最低进度。权重直接乘在原来的 VLA 监督损失上,架构不用动;零权重片段不产生梯度,对应状态照样留在图里。GR-BC 想做到的是:没有外界干扰时,策略能把精细操作顺顺当当地做完;有外界干扰时,策略自己调整,把恢复能力拿出来。
每一轮跑完,系统就把新采到的成功轨迹、失败轨迹以及带介入的轨迹一并投进数据池。随后扩展图结构、重新做搜索、更新权重,再进入离线阶段训练下一轮策略。旧片段的学习价值也会被新经验重新改写,整个过程不需要额外训练奖励模型或进度预测器。
真机实验选了四类精细操作:四孔零件装配、显卡插装、双螺钉拧紧和内存条插装。DDR4 插槽的开口只有约 1 毫米,对位置和姿态对齐的要求更严。这四项任务上的平均成功率约为 91%。
主实验的骨干换成 X-VLA,各方法都从同一个行为克隆检查点起步。GR-BC 在四孔零件装配、显卡插装、双螺钉拧紧和内存条插装上最终成功率分别为 98%、93%、89% 和 83%,均值约 91%;类 DAgger 等权聚合基线只有 64%,两者相差约 27 个百分点。
显卡插装另有单独实验,覆盖了 SmolVLA 与 π₀.₅ 两种骨干,GR-BC 都跑赢各自对应的类 DAgger 基线,说明这套方法在该任务上不挑骨干。前面提到的 91% 只对应 X-VLA 的四任务结果。
评测围绕一个问题展开:成功轨迹里出现的退步,能不能被发现?表 1 列出进度评测与输入条件,其中 GRP 属于图内诊断,截自论文第 7 页。
图 8 显示,遇到局部偏离、重新定向或滑脱时,GRP 给出的进度信号会往下掉。
每项任务固定取 30 条成功轨迹、30 条失败轨迹做评测。四任务汇总下来,GRP 的成功—失败终点进度差为 0.97,局部偏离检出比例为 0.92。成败能分开,成功过程中的退步也能抓住。
总结与展望
真机数据来得并不轻松。一次插入、一轮对齐、一段人工纠正,背后都是设备在跑,也是人在花时间。要让数采员事先交出一条几乎完美的完整示范,往往得反复重试,许多局部有效的经验还可能被一起丢掉。
GR-BC 的做法是让多次不完美尝试里的有效经验都派上用场。预训练数据清洗、后训练数据质量优化、按任务进度判断数据是否达标,都能从中借力。它把分散的经验连起来,识别出有效的动作片段,数据价值的判断也从整条轨迹的成败,落到局部动作到底贡献了什么。放到工业界的毫米级插接、装配等精细操作上,这一思路也有望帮策略学习纠正偏差、从受挫中恢复,支撑更鲁棒的机器人操作。
作者团队简介
论文一作是李小满,来自浙江大学 CAD&CG 国家重点实验室,在 TeleAI(中国电信人工智能研究院)实习时参与了这项研究。该工作由浙江大学、TeleAI、伽马智能等机构一同完成。