英伟达联合纽约大学提出TacitVLA:机器人动作提速3.4倍

资讯 腾讯网 作者:腾讯网 全文 2898 字 · 约 8 分钟读完 分类VLA英伟达Wang机器人自动驾驶

本文第一作者为纽约大学计算机科学博士生 Jack Lu,研究工作完成于他在英伟达实习期间。本文由英伟达资深研究科学家、Alpamayo 研究技术负责人 Yan Wang,以及英伟达自动驾驶研究负责人、斯坦福大学副教授 Marco Pavone 共同指导。如今,许多视觉 - 语言 - 动作(VLA)模型会先推理、再行动。

所属频道 算力与芯片机器人与具身智能智能汽车与出行

论文一作是纽约大学计算机科学博士生 Jack Lu,这项研究是他在英伟达实习时做的。指导者有两位:英伟达资深研究科学家、Alpamayo 研究技术负责人 Yan Wang,以及英伟达自动驾驶研究负责人、斯坦福大学副教授 Marco Pavone。


现在不少视觉 - 语言 - 动作(VLA)模型走的是先想再动的路子。动作还没出来,模型先写一小段文字——描述场景、列个计划,或者说明下一步的子任务。机器人成功率因此上去了,速度却掉了下来。原因在于推理文本得一个 token 一个 token 自回归地生成,文字不写完,动作就开不了工。论文实验里,写这段推理文本最多吃掉单次模型调用耗时的 70%。


来自


在机器人操作与自动驾驶的四个 benchmark 上,TacitVLA 的成功率和显式推理打平,延迟最多缩短 3.4 倍。速度一样的情况下,它比没加推理训练的同一模型成功率最多高出 17 个百分点。两个长程记忆 benchmark 上,TacitVLA 也刷出了已发表方法的最好成绩:RMBench 提升 21 个百分点,RoboMME 的计数任务提升 16 个百分点。


  • 论文题目为 TacitVLA: Reasoning Vision-Language-Action Models Without Reasoning Latency。

  • 论文链接:https://arxiv.org/abs/2610.17540

  • 项目主页:https://tacitvla.github.io/



推理文本能起的三类作用


推理 VLA 生成的文本,作用有三个。


训练阶段,它充当监督目标。学会写出这段文本,会塑造 action expert 所依赖的 backbone。


放到长程任务里,这段文本还能当记忆用。比如机器人得连按好几次按钮,摄像头看不出已经按过几回,可只要有一份记下已完成子任务的日志,这事就解决了。


到了部署环节,文本就变成 action expert 的输入。action expert 得先读到当前这一步写出的文本,动作因此只能等着。TacitVLA 留下了前两种作用,第三种被它砍掉了。


方法


眼下的推理 VLA 基本都走同一套结构:视觉-语言 backbone 负责写推理,基于 flow matching 的 action expert 靠注意力读取 backbone 的信息,再输出动作。团队在每个 benchmark 上都用这套结构、在同一份数据上训练了三个策略。


其中 Explicit Reasoning 让 action expert 读取自己刚写出的推理,这和 embodied chain-of-thought 的做法是一回事。TacitVLA 用的训练序列、损失函数、prompt 和优化器与它完全相同,差别只在 attention mask 里改了一处,让 action expert 看不到推理 token。No Reasoning 则是同一结构在不含推理文本的数据上训出来的模型。



这样一来,推理可能帮上忙的两条路径就被拆开了。


一条是学着写推理,这或许能训出更强的 backbone;另一条是读取推理,这或许能给 action expert 补上有用的输入。Explicit Reasoning 两条都占,No Reasoning 一条都不占,TacitVLA 只留第一条——而第一条在部署时一分钱时间都不花。


部署的时候,要是推理文本派不上用场,TacitVLA 干脆不写。碰上记忆任务,每来一个新的子任务还是得写日志,留给后面的步骤用。所以它的做法是先算出动作,再趁着机器人执行动作的工夫把日志写掉。在两个记忆 benchmark 上,每次调用中日志都在动作执行完毕前写完,延迟一点没多。


实验结果


四个 benchmark 上,TacitVLA 的成功率都跟 Explicit Reasoning 在同一水平,No Reasoning 则被甩在后面;速度方面,它守住了 No Reasoning 的档位。



记忆类任务是它拉开差距的地方。RMBench 四个任务平均下来,TacitVLA 拿到 77.5%,Explicit Reasoning 是 77.0%,此前公开发表的最好成绩为 56.5%。相较 No Reasoning 的 60.4%,涨上去的部分主要来自 Press Button——这个任务里按了几下,只记在日志里。该任务上 No Reasoning 成功率 7.7%,TacitVLA 为 74.3%。


RoboMME 上,16 个任务全部拿来训练,TacitVLA 总体成功率 48.1%,此前最好结果为 44.5%;计数任务它做到 82.7%,此前最好 66.8%。只训练计数任务时,它拿到 89.5%,比该 benchmark 给出的人类参考成绩 88.5% 还高。那个参考设定里,人只挑高层步骤,具体动作交给 oracle planner 执行,TacitVLA 的每一步动作都是自己出的。



不需要记忆的任务,推理同样能派上用场。LIBERO-Plus 用零样本方式测七类扰动,两个推理策略在这个 benchmark 上拿下了仅用 LIBERO 训练的已发表策略中的最高分:Explicit Reasoning 73.5%,TacitVLA 72.9%,No Reasoning 67.6%。


标准 LIBERO 上 TacitVLA 达到 98.6%,跟已发表的最好结果打平。公开的 AlpaSim 挑战赛场景做闭环驾驶测试,TacitVLA 场景得分 52.5%,Explicit Reasoning 52.3%,No Reasoning 46.4%;跟 Alpamayo-R1 只差 2.5 分。后者是 10B 模型、用四个摄像头,TacitVLA 参数量不到它一半,摄像头也只用了一半。



单张 H100 GPU 上,LIBERO 里输出一个动作,TacitVLA 耗时 147 ms,Explicit Reasoning 要 495 ms,前者快 3.4 倍。自动驾驶场景下两者分别是 127 ms 和 269 ms;记忆任务上 Explicit Reasoning 慢 1.4 到 1.7 倍。TacitVLA 的办法是边执行边写日志,最多占掉执行时间的 23%。



总结


这套方案在机器人操作和自动驾驶两类场景里都做过测试,既包含依赖记忆的任务,也包含不依赖记忆的任务。无论哪种设定,推理带来的好处都是靠推理文本上的训练传给动作的;碰上记忆任务,此前写下的日志还会再传递一层收益。反过来,只把当前这一步的推理读出来,策略并不会因此做得更成功,只会更慢。


落地时既不用加模型,也不用配调度器。凡是采用这种结构的推理 VLA,训练阶段只要用 attention mask 把推理 token 对 action expert 遮住,就能直接变成 TacitVLA。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 英伟达Cosmos 3开源四模型:160亿参数赋能自驾与机器人仿真

    英伟达发布了Cosmos 3系列的四个新开源权重模型,涵盖自动驾驶多传感器数据生成、实时流式仿真、模拟器渲染及双手机器人动作预测。这些160亿参数模型基于OpenMDW1.1协议,允许商业使用,旨在帮助开发者构建更真实的交互式世界模拟环境,降低自动驾驶和机器人训练的数据成本。

    来源 AI 应用前沿
  2. 京东物流狼族机器人升级:智狼提速取货,保姆狼无人分拣落地

    IT之家 11 月 6 日消息,11 月 5 日,在 2026 年 CeMAT ASIA 亚洲国际物流技术与运输系统展览会上,京东物流携全新升级的“狼族”机器人亮相,推出“智狼”“保姆狼”全新升级方案。“狼族”是京东物流自研的具身机器人军团,覆盖仓储、分拣、运输、配送全链路。其包含“智狼”“保姆狼”“异狼”“飞狼”等

    来源 腾讯网
  3. 大晓机器人双脑协同:一次滑移如何变成可复用经验

    【TechWeb】11月6日消息,一次普通的取杯任务中,机器人找到水杯、规划接近方向,却在抬起时发生滑移;它调整接触位置,重新抓取并完成任务。对使用者而言,任务已经结束;但对持续学习的具身智能系统而言,真正值得追问的是:为什么滑?这次调整在什么条件下有效?换一只杯子、一副夹爪,甚至另一台机器人,这段经验还能否...

    来源 腾讯网
  4. 布卢门撒尔盯上苹果英伟达:白宫宴会捐款与ICEBlock下架成调查焦点

    路透社昨日报道称,即将接任美国参议院常设调查小组委员会主席的民主党参议员理查德・布卢门撒尔(Richard Blumenthal),已经要求苹果、Meta、谷歌、英伟达、亚马逊和微软等参与特朗普白宫宴会捐款的科技企业主动提交相关文件。若企业拒不配合,可能在2027年1月面临传票。

    来源 TechWeb
  5. 布卢门撒尔盯上苹果等六巨头:白宫宴会捐款与ICEBlock下架成调查焦点

    【TechWeb】一场针对美国科技巨头的国会调查风暴,正在酝酿之中。 昨日有报道称,即将接任美国参议院常设调查小组委员会主席的民主党参议员理查德・布卢门撒尔(Richard Blumenthal),已经要求苹果、Meta、谷歌、英伟达、亚马逊和微软等参与特朗普白宫宴会捐款的科技企业主动提交相关文件。若企业拒不配合,可能

    来源 AI 行业观察
  6. 英伟达四处替客户找钱买芯片

    (本文作者为 偏科声,钛媒体经授权发布)文 | 偏科生,作者 | 李小年11 月 5 日,对冲基金经理乔治·诺布尔发文警告称,英伟达正在犯思科当年一模一样的错误:担保客户的租约,入股买其芯片的初创公司。他写道,英伟达现在占标普 500 的 8%,是思科 2000 年泡沫顶点时的两倍。当年,思科向买不起设备的电信初创公司

    来源 腾讯网
  7. 布卢门撒尔盯上苹果英伟达:白宫宴会捐款与App下架或引国会传票

    路透社昨日报道称,即将接任美国参议院常设调查小组委员会主席的民主党参议员理查德・布卢门撒尔(Richard Blumenthal),已经要求苹果、Meta、谷歌、英伟达、亚马逊和微软等参与特朗普白宫宴会捐款的科技企业主动提交相关文件。若企业拒不配合,可能在2027年1月面临传票。

    来源 TechWeb
  8. 宇树科技上市后市值腰斩,人形机器人租赁跌到千元级

    (本文作者为 观潮新消费,钛媒体经授权发布)文 | 观潮新消费人形机器人在春晚上惊艳的跟头,终究没能翻出商业化的五指山。2025年首次登上春晚舞台后,宇树机器人日租金曾冲破万元,甚至一度达到3万元。这一年,宇树科技纯双足人形机器人出货超5500台,位列全球第一;其人形机器人收入8.68亿元,占总营收51.78%,首次超

    来源 腾讯网
  9. 机器人租赁租金跌穿,擎天租京东为何此时入场

    (本文作者为 机器最前线,钛媒体经授权发布) 文 | 机器最前线2026年,机器人租赁赛道租金下掉的速度简直触目惊心。人形机器人日租已跌至千元档,较2025年初跌去七成以上;机器狗日租跌破500元;华强北超九成租赁档口撤场,整体租赁价从万元档一路下滑。按常理,租金跌了一年多,投资者理应犹豫观望,但事实却并非如此。今..

    来源 腾讯网
  10. 马斯克宣布Cybertruck停产:2027年让路Cybercab,年销已跌至2万辆

    【TechWeb】11月8日消息,日前,埃隆·马斯克在社交平台X上发布了一则简短声明:特斯拉将于2027年年中前后,在得克萨斯州奥斯汀超级工厂“逐步停止”Cybertruck的生产。此时距离这款棱角分明的电动皮卡开始交付,仅过去三年半。马斯克给出的理由是,需要为无人驾驶出租车Cybercab腾出产能空间。他将这款车型称

    来源 AI 行业观察
  11. 英伟达评估PTFE上NVSwitch板:Rubin Ultra材料路线生变

    AI服务器的军备竞赛,已经卷到了PCB材料上。 据报道,英伟达正在评估把PTFE(聚四氟乙烯)用到下一代AI服务器的高速PCB上,可能的落点是Rubin Ultra的NVSwitch交换板。PTFE这个名字有点陌生,换个叫法就熟了:特氟龙,不粘锅涂层用的就是它。英伟达看上的当然不是不粘,而是它传输高频高速信号时损耗低。

    来源 AI 行业观察
  12. 马斯克谈Optimus:或只租不卖,单台初期成本约3万美元

    IT之家 11 月 7 日消息,科技媒体 Not a Tesla App 昨日(11 月 6 日)发布博文,报道称当地时间周五在美国纽约市林肯中心举行的第 33 届巴伦投资大会上,全球首富埃隆 · 马斯克(Elon Musk)透露特斯拉 Optimus 机器人可能会采用“只租不售”方式。 在被问及特斯拉 Optimus

    来源 AI 行业观察
  13. 英伟达出资数十亿美元,助日月光旗下矽品扩产CoWoS

    IT之家 11 月 7 日消息,据路透社报道,一场构建 AI 基础设施的全球竞速,正推动数十亿美元巨资涌入先进封装领域。这一过去并不起眼的技术环节,如今已成为打造全球顶尖处理器的关键瓶颈。“过去,封装永远是那种你根本不必操心的事情。”英特尔前首席执行官、现任风投机构 Playground Global 合伙人帕特 ·

    来源 腾讯网
  14. 瑞银分析师:AI扩张卡在电力,2030年前需新增380GW

    过去几年,AI带给半导体产业的增长有目共睹。英伟达GPU出货量持续攀升,云计算巨头不断增加资本开支,HBM、先进封装和晶圆制造产能也成为市场追逐的焦点。 但如果把目光从芯片本身移开,会发现....

    来源 腾讯网
  15. 美情报备忘录称中国国安部招募Megaspeed高管监视黄仁勋?

    TechCrunch报道,一份今年早些时候流传的美国情报备忘录据称声称,中国国家安全部招募了一名女性科技高管,以监视英伟达CEO黄仁勋,涉事高管与Megaspeed有关。报道未公开可验证证据,相关方尚未回应。事件再次凸显AI芯片竞争下的地缘政治风险与企业高管安保难题。

    来源 AI 科技快讯
  16. 英伟达H200对华出口放开,中国为何不急着买

    路透社近日引述“知情人士”的话称,大约有60万枚英伟达H200芯片,由于未获中方批准放行,目前滞留在香港。这一消息并未得到中美官方以及英伟达的证实,却让美国一些人先坐不住了。有美国智库人士称“难以理....

    来源 腾讯网
向下滚动自动加载更多