苹果HALO系统登宇树G1:千问模型撑起人形机器人三层大脑
据澎湃新闻,苹果研究团队披露机器人“大脑”研究进展。当地时间11月4日,苹果研究团队在预印本平台arXiv提交论文《Perceptive Humanoid Motion from Simulation》,披露了人形机器人自主控制系统HALO。研究团队将该系统部署在宇树科技的G1人形机器人上进行验证,让机器人将在仿真环境
苹果研究团队公开了人形机器人“大脑”方向的新进展。
当地时间11月4日,该团队在预印本平台arXiv提交论文《Perceptive Humanoid Motion from Simulation》,人形机器人自主控制系统HALO随之亮相。
验证平台选的是宇树科技的G1人形机器人。机器人先在仿真环境里学会动作,再到陌生的现实房间中执行。
数据生成、模型训练和部署代码也一并开放,覆盖动作生成、动作跟踪、任务编排,以及仿真与真实机器人运行等环节。
搭载HALO系统的宇树G1在多种真实环境中演示了钻桌底、坐沙发、推箱子等任务。图片来源:HALO研究团队
项目页面上,机器人能按指令推箱子、跟人走、坐上椅子,还会侧身挤过半开的门、俯身或爬行穿过桌底。完成这些动作,前提是看懂周围环境,再依据空间条件调整身体姿态。
任务执行由三个层级协同完成。最上层是做任务编排的视觉语言模型(VLM)模块,默认用千问Qwen3.6-35B-A3B,跑在机器人搭载的Mac mini上,本地运行,与动作生成器共用模型服务引擎,不联网也能干活。系统同样支持通过API调用云端模型,换取更强的推理和规划能力。
HALO 的控制架构分三层:最上层由视觉语言模型负责任务编排,中间的动作生成模块规划全身动作,底层则是经过强化学习训练的动作跟踪器,负责关节控制。图片来源:HALO项目页面截图拼接
据团队介绍,主要训练数据由250张英伟达H100 GPU合成,耗时约48小时。动作生成器用64张B200做模仿学习训练;动作跟踪器则用4张H100,经强化学习、策略蒸馏等步骤训练。
仿真数据这块,人工并没有被完全替掉。按团队的说法,新加的物理任务还得靠人写提示词、标动作关键帧,有些动作还用上了人类视频或者动捕素材。
团队也提到,眼下机器人主要靠视觉感知,接触情况没法直接感知到。物体一旦离开相机视野,或者被挡住,接触类任务的表现就会打折扣。他们下一步想做的改进之一,就是把触觉感知加进来。