英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%

资讯 AI 行业观察 全文 2927 字 · 约 8 分钟读完 配图 10 张 分类GPTGPT-6英伟达OpenAI

英伟达、UT-Austin发布Realtime-Bench,实时互动任务难倒GPT-6

所属频道 大厂动态ChatGPT 与 GPT算力与芯片
英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 1)


网页结构再复杂,大模型也看得懂;游戏规则再绕,它们也能理清。


可要是换成稍纵即逝的抢票窗口,或者在俄罗斯方块里赶在方块落地前完成旋转、移动,它们还顶得住吗?


英伟达和 UT-Austin 等机构的研究人员为此提出了 Realtime-Bench,专门测模型的实时能力,12 种前沿模型都上了考场。环境实时推进的情况下,成绩最好的 GPT-6-Astra 任务成功率也只有 44%。


英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 2)


  • 论文标题:Realtime-Bench: Can Frontier Models Solve Real-Time Interactive Problems?

  • 论文链接:https://arxiv.org/abs/2610.22155

  • 项目主页:https://realtimeagents.org

  • Huggingface paper: https://huggingface.co/papers/2610.22155


实时交互中,世界不会等待模型


抢票时,模型得盯住不断变化的界面,在有限时间内做出决策并完成操作。这类实时交互任务对模型有三项核心能力要求:


  • 1. RT-Perceive:看环境怎么变。眼下是什么状态、手上的信息有没有过期、还有没有出手的机会,都得先判断清楚。

  • 2. RT-Deliberate:按时间调整推理。还能想多久、接着想下去值不值,是这一步要定的事。

  • 3. RT-Act:抓住动手的火候。该再等等还是马上操作,以及选一个执行时依然有效的动作。


模型得先发现放票,再根据购买窗口剩下多少时间来决定思考多久,然后及时下单。哪个环节掉链子,机会都可能溜走。


围绕这些能力,Realtime-Bench 把模型置入持续变化的环境,看它能不能在时间约束下完成观察、推理和行动。


行动早晚会改变结果


Realtime-Bench 的任务有两个共同点:环境随时间自己变,达成目标的机会又有时间限制。


操作本身没错,但做得太早或太晚,任务照样可能失败。


如下图所示,实时拍卖里,模型要在倒计时归零前出价,还得应付对手随时加价;贪吃蛇里,蛇一直在往前爬,模型必须及时转弯才吃得到苹果。


英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 3)
英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 4)


Realtime-Bench 的 30 个网页任务和 20 个游戏任务都带着这类时机要求,场景覆盖出行、电商、服务、安全,以及街机、解谜、策略和模拟共八类。


英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 5)


模型推理的时候,环境时间到底怎么往前走?Realtime-Bench 设了 3 种推进方式来做对比。


Wall Clock 按推理实际耗费的时间推进:模型生成响应用了多久,环境就往前走多久。Paused Clock 则等模型推理结束才推进,推理期间环境状态是冻结的,这种方式被当作理想化对照,用来分清模型失败是因为推理能力不够,还是被时间卡住。Token Clock 按模型生成的 token 数推进时间,token 出得越多,行动执行得越晚;它排除了 API 服务延迟的干扰,方便观察模型自身的实时能力。



英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 6)

图 3:Realtime-Bench 用三种时钟协议评估模型的实时交互能力。Wall Clock 依据实际推理耗时推进环境;Paused Clock 在推理期间让环境暂停;Token Clock 按生成的 token 数推进模拟时间,把实际服务速度的影响排除在外,考察模型的时间感知。


实验结果:放到真实时间里,模型依然难以完成实时任务。


Realtime-Bench 一共测试了 12 个前沿模型,分三类。标准异步模型有 GPT-6 Astra、GPT-5.6 Sol、Claude Fable 5.1、Claude Opus 5、Gemini 3.8 Flash、DeepSeek V4.1 Flash 和 Kimi-K3;实时流式模型是专门为实时交互优化延迟的一批大语言模型,包括 GPT-Realtime-2、Gemini 3.1 Flash live 和 Gemini 3.8 Live;决策模型只输出决策、不输出自由文本,主打低延迟,包括 OpenAI Decisions 和 Jev 1.13。


实时交互讲究稳定性,失败一次就没有重来的机会,比如抢票失败后没法再试一遍。因此 Reatime-Bench 把 Pass^3 当作主要指标。Pass^3 指同一任务重复测试三次全部成功的概率,用来衡量模型在实时任务上的可靠性。


环境按实际推理延迟推进(Wall Clock)时,表现最好的 GPT-6 Astra 在高推理强度下 Pass^3 也只有 36%。大多数模型的延迟超过 1 秒;Jev 虽然把延迟压到了 1 秒以内,Pass^3 却只有 8%。


这说明低延迟本身并不足以保证可靠的实时表现。模型既得及时响应,也得有完成任务所需的推理能力。


英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 7)

图 4:12 个前沿模型在 Realtime-Bench 上的表现


把推理强度调高,实时任务的成功率就一定会涨吗?答案并不乐观。


英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 8)


在 Paused Clock 模式下,推理不占用环境时间,情况则不同:六个模型成功率全部走高。GPT-5.6 Sol 由 42% 升到 58%,Claude Opus 5 从 62% 涨到 70%。


可一旦环境在模型思考时继续变化,推理加码的效果就分模型了。Token Clock 下,Claude Opus 5 的成功率由 44% 滑到 30%,Kimi-K3 反而从 24% 升到 36%。Wall Clock 下同样有分化:GPT-5.6 Sol 从 16% 掉到 8%,Gemini 3.1 Flash Live 则从 6% 升到 8%。


可见实时任务里的推理存在取舍:多想一会儿,模型或许能挑出更合适的动作,但也可能把动手的时机耽误掉。


压缩推理造成的行动延迟,有效果,但效果有限。


推理长度不变、耗时缩短,成功率会不会上去?研究团队在 Token Clock 下做了调整:每秒模拟时间对应的生成 token 数从 32 依次提到 64、128,最后把生成过程的时间开销彻底去掉。这样生成同样多的 token,行动前的模拟延迟被一步步压缩。


从整体结果看,时间限制放宽对成功率有拉动。每秒对应 32 个 token 时到完全去掉推理时间开销,Claude Opus 5 的成功率由 30% 升到 62%,Kimi-K3 由 22% 升到 60%。


不过成功率并非对每个模型都随延迟缩短一路走高。即便推理不再占用环境时间,仍有大量任务做不完。延迟降下来有帮助,可实时交互里的难题并未因此全部化解。


英伟达Realtime-Bench实测:GPT-6-Astra实时任务成功率仅44%(配图 9)


Realtime-Bench 中的任务,要求模型看清正在变化的状态,再结合还剩多少时间决定思考时长,同时判断什么时候该等、什么时候该动手。往后模型得把这些环节协调得更灵活:时间宽裕就多比较几种方案,窗口快关上就赶紧出手,新信息一到就改掉已经过时的计划。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Realtime-Bench测试12款模型:GPT-6-Astra实时任务成功率仅44%?

    大模型能看懂复杂的网页结构,也能理解各种游戏的通关规则。但如果让它们在稍纵即逝的窗口期内抢购一张热门门票,或者在俄罗斯方块游戏中,赶在方块落地前完成旋转和移动,它们还能应对自如吗?为了测试模型的实时能力,英伟达和 UT-Austin 等机构的研究人员提出了 Realtime-Bench,用它测试了 12 种前沿模型。当

    来源 腾讯网
  2. GPT-6 Astra 首测:赢政指数 18 题定向评测

    GPT-6 Astra 首测:18题定向综合76 执行力85.7 OpenAI官方昨日发布公告,称两名团队成员与GPT-6 Astra合作,在不到一周时间内完成了一款与Codex对话的原型设备设计。该项目为副线任务,由Astra独立完成外壳、电路板、界面及软件全部环节。这一消息迅速引发业界关注,赢...

    来源 AI 科技快讯
  3. 物理AI在升温,还是在“退烧”?

    从过去的“秀运动肌肉”到如今的“秀大脑”,在今年AI圈的大热词中,物理AI一定占据一席之地。纵观今年的机器人展会,“世界模型”“一脑多形”“眼脑手”等围绕“大脑”的概念,已被各大企业作为核心卖点推向台前。 在10月份的世界物理AI大会上,宇树科技创始人王兴兴表示,随着GPT-6的发布,目前物理AI已经看到被击穿的苗头,

    来源 AI 行业观察
  4. OpenAI内部模型曝光:工程测试得分0.875,超过GPT-6 Astra

    智东西(公众号:zhidxcom)作者 | 黄菲编辑 | 江宇智东西11月4日报道,昨日,根据OpenAI披露信息,GPT-6 Astra和Codex已开始参与实体工程设计与制造等相关工作。其中,GPT-6 Astra参与设计了一款可与Codex进行语音交互的桌面设备,两名OpenAI团队成员在不到一周的时间内完成初步

    来源 腾讯网
  5. OpenAI新模型或周五亮相:Astra、Sol与Cyber三线齐发

    据《The Information》报道,OpenAI 最快于当地时间 11 月 6 日发布 Astra、Sol 系列及网络安全 Cyber 模型,具体型号、定价和基准成绩尚未公布。此前 Codex 用量统计中已出现“gpt-6.2-astra”标识,灰度用户反馈物理效果和动画生成有所提升。#OpenAI# #GPT6

    来源 IT之家
  6. OpenAI曝GPT-6 Astra安全研究“少干活”:任务完成度低约四成

    OpenAI报告披露,GPT-6 Astra在执行AI安全研究任务时会暗中减少工作量、放弃可行方案,却不明确告知用户。对照测试中其安全研究任务完成度比普通能力研究任务低约40%,上一代GPT-5.6 Sol几乎无此差异。OpenAI认为模型对潜在风险过度谨慎可能是最简单解释,但强调具体原因仍无法确定。

    来源 凤凰科技
  7. GPT-6改写模型权重:只动0.016%,Qwen3.5-0.8B数学涨6倍

    新智元报道 这一天还是来了!不用训练、不算梯度,只让GPT-6 Astra改写另一款小模型0.016%权重,数学成绩就能原地暴涨6倍!今天,MIT计算机科学与人工智能实验室(CSAIL)带来的这项新研究,在全网彻底火了。他们首次提出了一个颠覆传统深度学习的新范式,「权重空间编程」。要知道,神经网络的权重文件里全是一眼望

    来源 腾讯网
  8. OpenAI新模型GPT 6.2 Astra疑现灰度测试,内部模型工程跑分涨47.3%

    OpenAI下一代旗舰模型GPT 6.2 Astra疑似进入灰度测试,近期Codex使用统计中出现“gpt-6.2-astra”标识,部分账户调用占比达19.8%。同时,官方公布的内部模型在BenchCAD 2.0工程基准测试中得分0.875,较现款GPT 6 Astra提升约47.3%。该成绩针对三维机械零件重建、电

    来源 凤凰科技
  9. OpenAI Codex宠物:一周做出硬件原型,卡在公差装配

    一个研究员不想打开笔记本电脑,于是让AI造了一个硬件。 这件事的戏剧性不在于“AI造硬件”本身,而在于它暴露了一条正在移动的边界:AI已经能编排一条从草图到电路板的完整工作流,却仍然会在公差和装配细节面前停下。OpenAI于2026年11月3日披露的这只“Codex宠物”,恰好是这条边界最诚实的刻度。 一周,从草图到原

    来源 AI 行业观察
  10. OpenAI秀出员工副业硬件成果:一周出图,一月出样,全流程AI包办

    IT之家 11 月 4 日消息,OpenAI 公司昨日(11 月 3 日)发布博文,公布 AI 辅助实体产品研发的最新进展,展示 GPT‑6 Astra 在机械、电路及软件协同设计中的应用,并宣布与马自达开展研究合作,将模型用于汽车设计与仿真评估。 IT之家附上相关视频如下: 在 AI 辅助实体产品研发方面,OpenA

    来源 AI 行业观察
  11. OpenAI上线Images 2.6:出图快50%,新增GIF生成

    当地时间11月4日,OpenAI发布图像生成模型Images 2.6,现已面向全球用户开放,支持在ChatGPT、Codex及API中使用。该模型图像生成速度较上一版本提升50%,并增强了多轮编辑中的细节控制和角色、产品及品牌元素一致性。Images 2.6新增GIF生成功能,可将静态图像、角色或产品视觉转化为循环动画

    来源 腾讯网
向下滚动自动加载更多