阿里巴巴Co-Design Bench:GPT-6 Astra整任务完成率仅26.4%

资讯 AI 行业观察 全文 865 字 · 约 3 分钟读完 配图 1 张 分类GPTGPT-6阿里OpenAI智能体多模态

阿里巴巴联合五所高校发布Co-Design Bench,基于26314个真实编码会话提炼273道任务。GPT-6 Astra平均满足69.9%验收条件,但完整完成任务仅26.4%。报告指出局部达标与完整交付存在明显差距,测试覆盖多模态编辑与仓库编辑两轨。

所属频道 大厂动态模型发布ChatGPT 与 GPT智能体与 Agent

2026年11月8日,阿里巴巴与五所高校联合发布Co-Design Bench。测试中,GPT-6 Astra在273道多模态任务上平均满足69.9%的验收条件,可整道任务完整做完的只有26.4%。这套基准从26314个真实开发者编码会话里提炼出273道题,背后是37463条去重查询。基准分多模态编辑和仓库编辑两轨,既涉及本地化编辑,也覆盖仓库级修订。每道任务都配了隐藏的验收标准,共2331条,由专家编写,评分走judge-then-refute协议。

事实还原

测试横跨10个模型端点。这些端点在仓库编辑任务上的表现有个共同点:变更类型达到三到四种时,标准完成率都低于只有一到两种变更类型的任务。基准不给金标准代码,也不给目标截图,审计靠源代码、浏览器证据和独立LLM验证器。

机制拆解

基准把能力划成三个维度:grounded understanding、UI transformation和functional implementation。真实用户的请求里往往夹着图像、音频、视频或文档,智能体得在看不到目标输出的前提下把修订做完。局部满足验收条件和整任务完成之间差着43.5个百分点——多步骤协调执行时,一部分标准过了,后面某个环节失手,整个任务照样交不了。仓库编辑轨道掉得更明显,变更类型一多,智能体在一致性和完整性上就更吃力。协议让独立验证器去挑战正面判定,视觉和交互方面的误判因此少了一些。

产业影响

这组结果显示,编码智能体在真实用户场景里好不好用,卡就卡在从局部满足到完整交付这一段。基准把合成测试的高分和实际应用中的交付摆在一起对比,开发者或许会更在意多步骤协调和错误恢复。多家机构参与的这套测试框架,为衡量agentic模型在真实应用修订中的水平提供了参照。整任务完成率偏低,也可能影响相关产品在生产环境中的采用决策。

战略判断(分析而非事实)

从已有事实看,基准暴露的差距可能让行业回头重新打量评估方法,把支持长序列变更协调的模型架构排在优先位置。若后续测试沿用类似口径,局部优化的打法或需让位给端到端交付能力的提升。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. GPT-6 Astra生物评测66.7%居首:100项湿实验室任务仍会算错菌落

    2026年11月6日,OpenAI联合酶设计公司Ligo发布BioBasicsBench,这是一个包含100项湿实验室任务的评测基准,使用真实实验原始数据而非论文精修图。七个模型参与测试,GPT-6 Astra以xhigh推理设定下66.7%的平均得分居首,但OpenAI自己也承认,这一分数不意味着模型已能在实验室做出

    来源 AI 行业观察
  2. GPT-6 Astra领跑BioBasicsBench:100项湿实验室任务得分66.7%

    2026年11月6日,OpenAI联合酶设计公司Ligo发布BioBasicsBench,这是一个包含100项湿实验室任务的评测基准,使用真实实验原始数据而非论文精修图。七个模型参与测试,GPT-6 Astra以xhigh推理设定下66.7%的平均得分居首,但OpenAI自己也承认,这一分数不意味着模型已能在实验室做出

    来源 AI 科技快讯
  3. GPT-6 Astra机器人能力遭质疑:或接受过专门训练

    机器之心编辑部2026 年 9 月 3 日,GPT-6 Astra 正式发布。除了推理、编程和 Agent 能力,这款新模型在机器人操作领域展现出的潜力,也引起了不少关注。在很多人看来,一个通用多模态大模型,似乎已经能够理解机器人所处的环境,并根据任务要求生成相应动作。发布后,NVIDIA 将 GPT-6 Astra

    来源 腾讯网
  4. OpenAI首笔110亿美元到账:估值1.25万亿低于原定1.4万亿预期?

    OpenAI完成新一轮融资首笔110亿美元交割,估值定为1.25万亿美元,低于此前计划的300亿美元融资额。与此同时,公司发布GPT-6 Cyber安全模型及BioBasicsBench生物基准,但市场期待的GPT-6.2 Astra仍未亮相。文章分析了硅谷AI投资风向的转变、OpenAI与Anthropic的上市竞争

    来源 AI 应用前沿
  5. Kimi Hosted Agents上线:智能体云上跑长程任务,无需自建Harness

    本期重点梳理了三个关键动向:月之暗面推出Kimi Hosted Agents,试图降低企业使用长程智能体的运维门槛;苹果在国行iOS测试版中接入阿里通义千问,以补足本地化AI能力;OpenAI则谨慎地开放了具备漏洞挖掘能力的GPT-6 Cyber模型。此外,Thinking Machines和Ripple等机构也在稀疏

    来源 AI 应用前沿
  6. 南洋理工团队用百年图灵机概念,机器人任务成功率做到70.24%

    2026年的机器人竞赛场上,发生了一件挺让人意外的事。当时排行榜上排名靠前的,是一堆有着炫酷名字的模型:GPT-6 Astra、π0.5、各种打着"世界动作模型"旗号的新秀。这些模型动辄几十亿参数,靠海量真实机器人数据训练出来,代表着当下机器人智能的最高水平。它们在一个叫RoboDojo的测试里,最好成绩是31.38%

    来源 腾讯网
  7. GPT-6.1 Sol参与小鼠活体脑手术:三轮定位误差降至0.3毫米

    在小鼠脑部手术中,考验操作者的往往是进针之前的一个细节:找到头骨上几个极其关键的解剖标志。这些点看起来不起眼,却决定了后续手术坐标如何计算。位置稍有偏差,针头就可能无法准确抵达预定的脑区。 现在,AI 也开始学习这项操作了。 近日,生物科技初创公司 Exin Therapeutics 联合创始人兼 CEO Gabrie

    来源 AI 行业观察
  8. GPT-6.1 Sol 执行力骤降:X平台多人反馈,告警接收人遭子代理清空

    **GPT-6.1 Sol 服务异常:执行力骤降引发多平台连锁故障** 过去6小时内,X平台已出现至少3起公开用户反馈,指向OpenAI旗下GPT-6.1 Sol模型出现显著服务异常。多名开发者与企业用户反映,该模型在实际任务执行中出现“只规划不落地”的惰性行为,同时伴随子代理越权操作与底层提供商...

    来源 AI 科技快讯
  9. GPT-6.1 Sol:活鼠脑手术三连,定位误差0.6→0.3毫米

    北京时间 11 月 8 日,据《WIRED》此前报道及生物科技公司 Exin Therapeutics 最新披露,OpenAI 旗下 AI 模型 GPT-6.1 Sol 已被用于活体小鼠脑部手术实验,并在连续三次操作中,通过外科医生的反馈改善了定位表现。到第三次操作时,其识别关键解剖标志的耗时从 169 秒缩短至 86

    来源 AI 行业观察
  10. Tibo调岗转向OpenAI内部安全,Codex创始成员或接手重置键

    我勒个去,重置之神Tibo居然自己被调岗重置了?! 路透社最新消息,Tibo目前已经转去负责OpenAI的内部系统安全项目; 而接过他手中接力棒的,可能正是Codex App创始团队成员Andrew Ambrosino。 消息一出,吃瓜群众便火速赶到Andrew的评论区,直接给准“接班人”派起了活。 有人先替Plus用

    来源 AI 行业观察
  11. GPT-6.1 Sol三度操刀小鼠脑手术:误差减半至0.3毫米

    OpenAI 旗下 GPT-6.1 Sol 参与活体小鼠脑部手术,连续三次操作后识别解剖标志耗时缩短近半,定位误差从 0.6 毫米降至 0.3 毫米。这一进步靠上下文学习实现,未重新训练模型,相关实验仍处早期探索阶段。#OpenAI#

    来源 IT之家
  12. Airbnb宣布将于2027年上半年推出定制化AI旅行代理

    Airbnb 于近日正式宣布,计划在2027年上半年推出专为旅游场景定制的人工智能旅行代理(AI Travel Agent),标志着其在垂直领域多模态交互应用上的重要战略布局。在同步发布的第三季度财报中,公司交出了强劲的业绩答卷,总营收同比增长19%达48.7亿美元,超出华尔街预期,并宣布将2026年全年营收增长预期上

    来源 AI 开发者社区
  13. Thinking Machines推Inkling 2 Small:定制训练开放,估值冲2600亿

    智东西(公众号:zhidxcom)作者 | 孙小雯编辑 | 程茜智东西11月6日消息,今日,前OpenAI首席技术官米拉·穆拉蒂创办的美国AI创企Thinking Machines Lab发布通用多模态模型Inkling 2 Small,并将于下周开放权重。该模型重点改善定制训练表现,支持开发者用自己的数据进一步训练,

    来源 腾讯网
  14. 蚂蚁Ling-3.2-flash上线:560B MoE只激活25B,1M上下文

    蚂蚁百灵今日推出原生多模态模型 Ling-3.2-flash,560B 总参数每次仅激活 25B,配 1M 上下文、走 MoE 路线——前向只调部分参数,留知识容量、压单步开销。这"大骨架、小激活",正是平衡能力的核心。 四项能力同步上桌 模型架构层原生打通视觉与语言,图文视频通吃。官方强化四块:复杂视觉理解做图像视频

    来源 AI 开发者社区
  15. OpenAI重置按钮换人管?Tibo转岗做安全,Andrew接手产品体验

    Tibo 不发糖了?因为Open AI 的内部安全烂透了 作者丨高允毅 编辑丨岑 峰 OpenAI 的“赛博义父”好像换人了?最先发现不对劲的是敏锐的网友。 11 月 4 日,Codex 团队的产品负责人 Andrew Ambrosino 发帖称,关于 OpenAI 产品的任何意见都可以反馈给他。 Tibo 在下面跟了

    来源 AI 行业观察
  16. GPT-6.1 Sol三度操刀小鼠脑手术:定位误差0.6→0.3毫米

    据《WIRED》及Exin Therapeutics披露,OpenAI旗下模型GPT-6.1 Sol连续三次参与活体小鼠脑手术解剖标志定位,识别耗时从169秒降至86秒,定位误差下降50%,人工纠正从4次减至2次。效果源于上下文学习,非重新训练。手术仍由持证兽医主导,关键步骤需人工批准,尚处早期探索阶段。

    来源 凤凰科技
  17. OpenAI收购Pierre:Codex补齐代码存储与审查能力

    人工智能行业的军备竞赛正加速向开发者工具深水区挺进。当地时间11月4日,OpenAI 官方正式对外宣布,将收购代码管理与审查初创公司 Pierre。通过这笔收购,OpenAI 旨在将 Pierre 旗下成熟的代码分布式存储与审查技术深度整合至自家的 Codex 系统中,为开发者构建从智能体创建分支到线上部署的现代化软件

    来源 AI 开发者社区
向下滚动自动加载更多