英伟达GR00T 2开源:40万小时人类视频训练,宇树G1可直接部署
让宇树机器人学会擦地板、收拾垃圾! 作者 | 钟宸 编辑 | 漠影 机器人前瞻11月10日报道,昨日,英伟达在机器人学习领域的国际顶级会议CoRL 2026 上推出开源....
宇树机器人如今能擦地板、收拾垃圾了。
11月10日机器人前瞻消息,英伟达前一天在机器人学习领域的国际顶级会议CoRL 2026上,推出开源世界—动作模型GR00T 2系列,含GR00T 2与GR00T 2 Turbo两个版本。
两个版本分工不同。GR00T 2盯的是泛化能力与精细操作,平行夹爪、灵巧手、人形机器人都能用;GR00T 2 Turbo靠更小的参数换速度,可直接部署到宇树G1,单次推理只花124毫秒,行走、弯腰、伸手、搬运都能控。
英伟达放出的视频里,装了GR00T 2的灵巧机器人看人做了一遍化学实验就学会了操作——示范者只戴手套、头戴式相机和腕部相机。整体动作看上去比较顺。
接上推理模型(System 2)之后,GR00T 2能让YAM机械臂连着组装三种玩具,每种玩具做100次试验,最少也成功97次。
任务虽然完成了,可操作过程被剪成16倍速播放,整段视频仍超过30分钟。实际执行效率还有提升余地。
换成搭载GR00T 2 Turbo的宇树G1,它用毛巾清理地面,再把毛巾丢进洗衣篮。擦污渍时它没直接上手拿毛巾,而是用脚踩住毛巾去蹭,整个流程同样比较顺。
Jim Fan在X(原推特)上发帖称GR00T 2是杰作,还特意强调视频是真实、自主操作,没有加速(Real. Autonomous. No speed up.)。
发布成果的帖子底下,有网友说人形机器人的技术进展让人印象深刻。
也有人留言“灵巧致胜”。
有人表达了期待。
另一些人则看重开源:小机器人团队能借此省下成本。
在CoRL2026介绍这个模型时,Jim Fan用一句颇为自信的话收尾:“你们眼前的,就是希望的火焰。”他说,从现在起谁都能当机器人开发者,一切会动的东西都会拥有自主能力,“在那簇火焰里,夏天要来了”。
英伟达技术博客显示,GR00T 2有四项主要能力:跨本体迁移(X-Adaptability)、少样本适应(Fast Adaptation)、智能体控制(Agentic Control)和视觉引导(Visual Steering)。
01.
跨本体迁移有三种实现方式。
新任务靠少样本就能适应。
先看跨本体迁移能力(X-Adaptability)。机器人自己没演示过某项任务也没关系,GR00T 2能借人类视频和其他机器人的数据把它学会。
迁移方式具体分三种。
其一是“人类到机器人”。化学实验任务里,人戴着手套、头戴式相机和腕部相机做示范,灵巧手则通过跟具体任务无关的自由探索数据,认识自己身体的外观和运动方式。
全程不用遥操作示范,GR00T 2在四项任务上照样成功:滤纸放置65%,滴管放入烧杯30%,显微镜载玻片轻蘸10%,投掷传送带上的包裹50%。
其二是“手持夹爪到机械臂”。传送带分拣与投掷、玩具自卸卡车组装、NIST板拆解这三项任务,英伟达都只用手持式GEAR UMI夹爪给模型做演示。
部署在YAM机械臂上的GR00T 2手里没有这些任务的真机示范数据,最终成功率分别为86%、60%和50%。
其三是“可穿戴设备到机器人灵巧手”。GEAR DexUMI是一种与机器人手部关节对应的可穿戴外骨骼设备(Wearable Exoskeleton),能把人的手部动作直接映射到机器人身上。
只靠DexUMI示范,GR00T 2就让配了两只XHAND1灵巧手的天机机器人学会三项双手任务:制作香蕉酸奶、舀取格兰诺拉麦片,以及划火柴点燃烧瓶下方的灯,再把火柴放进水里熄灭。
技能从一个本体挪到另一个本体,这是跨本体迁移要回答的问题;少样本适应(Few-Shot Adaptation)接着往下问:模型怎样才能花较小的代价把任务成功率提上去。
研究团队挑了50项任务,目标机器人此前都没见过,只存在于其他机器人的数据或人类视频里。承担测试的是一台装了双Sharpa灵巧手的机器人。
到了零样本泛化(Zero-Shot Generalization)这一档,GR00T 2只靠任务指令,试验成功率就有40%,50项任务里有40项至少成功过一回。
英伟达分析下来,失败大多不是模型把任务理解错了。问题出在执行精度:步骤顺序对、动作也对,偏偏某一步没做到位。
补这个缺口,靠的正是少量目标机器人数据。
按英伟达披露的数据,每项任务给1个示范,平均成功率就涨到71%;给到5个示范,平均成功率进一步升到95%,50项任务中有37项每次试验都成功。
该公司还补充,每次适应只需要在单张RTX5090上跑30分钟LoRA(Low-Rank Adaptation)微调。
碰上要求更细的操作,后训练(Post-Training)也能派上用场。
英伟达介绍,只要少量遥操作数据做后训练,GR00T 2就能驱动两只22自由度的Sharpa灵巧手完成精细活,比如给包裹贴标签、更换部件、组装玩具,以及端到端跑完化学实验这类长时程任务。
具体成功率上,制作并粘贴货运标签为60%,手电筒电池更换为55%,卡车组装为65%,粗盐过滤为85%,显微镜操作为55%,GB300内存模组插入为85%。
02.
上层推理可以交给Agent来做,
视觉规划则用来判断“怎么拿”
把单项技能串成长程任务之后,任务理解规划、失败恢复这些问题就冒出来了。GR00T 2的办法是让前沿推理智能体(Reasoning Agent)和机器人模型分头干活。
分工很清楚:智能体管“做什么”,拆解任务、检查进度、编写代码;GR00T 2管“怎么做”,承担那些脚本写不出来的大量交互操作。
借世界—动作模型API,智能体能把GR00T 2当成工具调用,再配上相机图像、机器人状态和代码即策略(Code-as-Policy,CaP)技能一起用。
落到实体机器人上,大部分操作由GR00T 2完成,智能体在旁边盯着执行情况。零件掉了,或者进度卡住了,智能体就调用通过ASPIRE学到的CaP技能把场景恢复过来,然后把控制权还给GR00T 2。
每次试验开始前,所有零件都倒在桌面上,摆出来的杂乱布局在后训练数据里从没出现过。
就是在这种条件下,GR00T 2加上智能体,组装玩具飞机、玩具拖拉机和Hot Wheels玩具车,100次试验里分别成功98次、97次和97次。
不过看视频时长,GR00T 2花的时间不算少,离实际应用还有提升空间。
智能体还能把真实世界强化学习(Real-World Reinforcement Learning)练出来的技能拼成更长的任务。
比如把五根以太网线一根接一根插进网络交换机,或者把五个充电器插到指定插座上。
这当中,CaP负责定位、抓取和放置,精度要求高的插入动作交给GR00T 2,智能体则安排步骤、核对结果,需要时调用恢复技能。
机械臂能准确找到以太网线的接口并完成插入,模型还会先确认任务完成,再走下一步。
成功率方面,把监督策略换成经过强化学习训练的GR00T 2后,线缆任务的完整成功次数从20次中的12次提高到19次,充电器任务从20次中的2次提高到20次。
杂乱环境里靠语言指挥机器人,目标物体和动作本身就可能含糊不清。为此英伟达给GR00T 2加了视觉引导(Visual Steering)能力。
做法很直接:规划器在GR00T 2的相机画面里点出抓取点与释放点,不同颜色对应不同执行机械臂,接下来接近、抓取、搬运、释放由GR00T 2自己完成。
每走完一步,规划器都会重新看一眼,判断接着做、重试还是停下。这套功能不用补训练数据,标注点能从现有示范的夹爪和手部状态里提取,模型照样只靠语言指令就能跑。
遇到“移动什么、移动到哪里”这类短程指令,分步指令配上标注,YAM机械臂操作成功率从只给任务指令时的40%升到92%,灵巧手操作从30%升到70%。
长程任务上差距更明显。YAM机械臂没有标注时,规划器给出分步指令,GR00T2也完不成垃圾分类或任务板拆解;加上标注后,20次垃圾分类完整完成17次,10次电路板拆卸完整完成3次。
不过英伟达也提到,灵巧操作里标注点能帮机器人多分拣一些垃圾,但整个任务很少能做完,这是眼下的局限。
另外,标注点传不了物体最终的朝向,也说不清抓取到释放之间是什么动作关系,倒、擦这类复杂动作还得靠语言来描述。
03.
更快端侧版本也来了,
能指挥宇树G1打扫房间
面向人形机器人,英伟达另推了主打速度的GR00T 2 Turbo。
人形机器人做全身移动操作(Whole-Body Loco-Manipulation),得在全身快速运动时稳住平衡,同时把双手准确送到位。
Turbo靠小型联合视频-动作Transformer和压缩率更高的视频编码器压低建模成本,前者参数量只有20亿。
模型更小,架构仍与GR00T 2相近,但能直接在宇树G1上跑。
优化之后,Turbo让G1完成一次推理,RTX 5090上花38毫秒,机载Jetson Thor上花124毫秒。
这样一来,模型大约每秒规划一次1.6秒的全身运动token块,再由SONIC全身控制器以50Hz执行。
真机任务里,GR00T 2 Turbo控制G1舀爆米花并分装,48次全部成功;地面撒漏清理成功率46.7%,清理桌面上多种物品成功率93.3%,相比GR00T 1.7都有提升。
G1动作比较顺,停顿少,能连着执行几分钟任务,长程执行能力有所体现。
04.
训练用了超40万小时人类视频,
核心是DiT架构
训练数据分三类:402,730小时的人类工作第一视角视频、覆盖2,897项任务的10,184小时手持式UMI夹爪数据,以及23,500小时机器人遥操作数据。
遥操作数据涉及的本体有YAM和Franka的平行夹爪机械臂、Sharpa与Wuji灵巧手,还有宇树G1人形机器人。人类视频取自第一人称数据集Human-1M,该数据集含100万小时人类数据,其中10万小时已以Human-1M-100K的形式在Hugging Face开源。
人类视频规模一扩大,任务表现也跟着变。研究团队用0、1%、10%和100%的人类视频预训练模型,在72项灵巧操作任务上做了评估。
数据表明,人类视频比例往上走,视频策略的任务完成率从64%升到77%,实体机器人从50%升到70%。
而GR00T 2的核心是一个视频—动作扩散Transformer(Video-Action Diffusion Transformer)。
模型会读取近期视频、任务指令和机器人当前状态,把未来视频和一段动作块放在一起做联合去噪,随后执行这段动作,再进入下一轮预测。
说白了,它不光生成接下来可能出现的画面,也生成达成这一画面所需的机器人动作。
GR00T 2正是靠预测场景该怎么变,从人类视频里学到物理规律;等落到面向不同机器人本体的small per-robot heads时,再把规划转成对应的电机控制指令。
英伟达表示,在RoboCasa365、RoboLab、RoboDojo和MolmoSpaces这几项基准测试中,无论是VLA模型还是世界动作模型类别,GR00T 2目前都排进前三,还多次拿下排行榜第一。
合作方面,英伟达也一并做了披露。中国台湾的机器人公司Nexuni正测试把GR00T 2用于衣物处理;富士康将其用在服务器制造的工厂自动化上;西门子则在评估它在各类工业场景中的能力。
德国慕尼黑的具身初创公司MicroAGI则用经过强化学习后训练(post-trained through reinforcement learning)的GR00T 2,操控YAM机械臂更换以太网线缆。
05.
结语:英伟达,不止想做“卖铲人”
开源的不只是GR00T 2。Jim Fan 在 CoRL 2026 现场宣布,英伟达要推进机器人相关技术的全栈开源:12 月开放 GR00T 2、Turbo 的模型权重及 Cross-Adapt 方法,同时开放真实到仿真流程SimFoundry、可持续积累技能的智能体框架 ASPIRE、数据整理与标注工具Flora,以及Human-1M首批10万小时训练数据,连UMI、DexUMI等设备的完整硬件设计图纸也在其中。
换句话说,英伟达在具身领域开源的覆盖面已经超出模型,数据、仿真、智能体框架和硬件设计都被纳入。再叠加 RTX 5090、Jetson Thor 等计算平台,这家公司正把机器人研发要用的软件工具和硬件基础设施串在一起,从数据采集、模型训练一直覆盖到仿真评估和真机部署。
看得出,英伟达想卖的并不只是芯片,不只是当个“卖铲人”。它更希望借软硬件协同压低机器人开发的门槛,让机器人技术更快从实验室走进真实场景,转起产业飞轮。这样的角色,显然比“卖铲人”更容易赢得市场青睐。