Agent领导力大考!Einsia AI发布WorkflowArena,行业首个多智能体编排基准

资讯 腾讯网 作者:腾讯网 全文 4307 字 · 约 11 分钟读完 配图 1 张 分类ClaudeCodexAnthropic模型发布智能体大模型

机器之心发布智能体正从单打独斗走向多智能体协同。如今的 Claude Code、Codex 等框架,已经允许模型在运行时自己拉起子智能体,甚至直接写出调度它们的可执行工作流:任务怎么拆、每个子智能体拿到什么上下文、中间结果在哪里校验、最后如何整合。过去由工程师预先设计好的多智能体结构,正在交给模型自己临场决定。这意味着

所属频道 大厂动态模型发布智能体与 AgentClaude 与 AnthropicAI 编程与开发

机器之心发布

智能体正从单打独斗走向多智能体协同。

如今的 Claude Code、Codex 等框架,已经允许模型在运行时自己拉起子智能体,甚至直接写出调度它们的可执行工作流:任务怎么拆、每个子智能体拿到什么上下文、中间结果在哪里校验、最后如何整合。过去由工程师预先设计好的多智能体结构,正在交给模型自己临场决定。

这意味着,多智能体编排本身成了一项关键能力。同样一批智能体,组织得好可以事半功倍,组织得不好则会互相拖累。但现有评测要么只看任务最终有没有完成,要么在设计者预先规定好的协作结构里测试,始终没有回答一个问题:

「面对真实的长程任务,大模型能不能自己把多智能体系统组织好?」

为此,Einsia AI 旗下 Navers Lab 发布 WorkflowArena,专门评测大模型的多智能体编排能力。基准包含 145 项长程任务,覆盖软件工程、企业运营、科学研究、数学推导、金融、法律、内容设计与 3D 制作 8 大专业领域,对 9 个主流前沿模型的 25 种推理配置进行了全面评测。

WorkflowArena 的 145 项任务分布在 8 大领域、17 种任务形态

  • 论文题目:WorkflowArena: Benchmarking Executable Workflow Orchestration in LLM-Based Multi-Agent Systems

  • 项目主页:https://lab.einsia.ai/workflowarena

  • GitHub:https://github.com/Einsia/WorkflowArena

  • Arxiv:https://arxiv.org/pdf/2611.12856

不规定怎么分工,只看最终交付

WorkflowArena 的每道题,都是一份真实的专业交付:修改一个开源代码库、复现一项科学结果、完成一套 Lean 形式化证明、编制一份多主体合并报表、分析一起多被告案件,或在 Blender 里搭出一座完整的建筑群。

这些交付物的共同点是,各部分环环相扣:代码改动要通过原有的回归测试,财务数据要在不同主体之间对得上,法律结论要在多份文书间保持一致,3D 场景的各个部件要拼得严丝合缝。每一块单独做对还不够,整合在一起才算数。

能拆、但拆完必须对齐,正是编排能力的用武之地:比如合同组合分析,每份合同可以分头审,但合同之间的冲突必须合起来才看得出。

WorkflowArena 构建流程:真实素材 → 筛选「可拆分但相互耦合」的工作 → 只规定目标、不规定工作流 → 校验结果与整合。

评测中,模型拿到的是一个空白的「指挥台」:

  • 怎么编排,模型自己定。它可以自己动手,也可以通过 Workflow 工具同时调度多个子智能体,并随时查看、终止、修改工作流。要不要分工、怎么分工,完全由模型决定。每个子智能体该知道什么,也由它来交代。

  • 编排也要花时间。主智能体和所有子智能体共享推理预算,规划、调度、返工都算在里面。

  • 判题隐藏,过程留痕。模型看不到判题器和标准答案,评分只看交付结果,与用了多少子智能体无关;同时,每一次调度都被完整记录下来。

这样一来,WorkflowArena 不仅能看到「做得怎么样」,还能看到「是怎么组织起来做的」。

最强系统也只解决 36.95%,没有全能选手

WorkflowArena 采用严格的完全解决率:只有交付物满足全部验收标准,才算真正解决。各部分都做对、却没整合好的提交,同样判为失败。

25 种配置在 8 大领域的完全解决率(%),按总体结果排序。

榜首是 Claude Opus 5.5(max),平均完全解决率 36.95%。换句话说,即便是当前最强的系统,也有六成以上的任务没能完整交付。

领域之间的差距更加悬殊。形式化数学已接近饱和,Claude Opus 5.5 解决了 95.83%;但软件工程最高只有 29.41%,金融最高 18.75%,法律最高仅 9.09%。

而且,没有一个系统能通吃全部领域:Claude Opus 5.5 领跑软件工程、科学与数学,Claude Sonnet 5.5 拿下法律和内容设计,GPT-6 Astra 与 Doubao-Seed-Evolving 则拿下企业运营的并列第一。

Claude 与 GPT:两种截然不同的编排风格

由于每一次调度都被记录在案,WorkflowArena 把不同模型「怎么组织多智能体」摆在了同一张图上。

每道题平均调用 Workflow 的次数(左)与每个 Workflow 平均调度的子智能体数(右)。

结果显示出两种鲜明的风格:

  • Claude 系「谋定后动」:调用少,规模大。Claude Opus 5.5 和 Claude Sonnet 5.5 平均每题只调用 0.86 和 0.76 次 Workflow,但每次平均调度 5.55 和 6.14 个子智能体;9 个以上子智能体的大型编排,在 Sonnet 中占到 30%。

  • GPT 系「小步快跑」:调用勤,规模小。GPT-6 Astra 和 GPT-6.1 Sol 平均每题调用 2.09 和 1.94 次,但每次只调度 1.72 和 1.69 个子智能体,约 99% 的工作流不超过 4 个。

这种风格差异还会随任务领域变化。

9 个模型在 8 大领域的委派频率(左)与委派规模(右),圆圈越大数值越高。

法律任务中,Claude Opus 5.5 每个工作流平均调度 14.29 个子智能体,GPT-6 Astra 只有 1.73 个;数学任务中,Kimi K3.1 Pro 每题调用 9.67 次 Workflow,每次却只调度 1.74 个子智能体。调用得勤,不等于协作的规模大。

换一个编排者,弱模型也能明显变强

系统得分高低主要由两部分决定:工作流设计和模型执行能力。那么,编排本身到底值多少分?

研究团队设计了一个巧妙的实验:执行模型固定不变,只更换编写工作流的模型。Claude Opus 5.5 和 GPT-6 Astra 担任编排者,Kimi K3.1 Pro、GPT-6 Luna、DeepSeek V4.1 Flash、Doubao-Seed-Evolving 担任执行者;编排者不能亲自修改任何文件,所有实际工作都由执行模型完成。实验分两种模式:编排者写完工作流就离场(静态),或者全程在线、根据反馈不断调整(动态)。

核心子集上的工作流迁移结果。Self 为执行模型自己编排;加粗与下划线分别为每行最高与次高分。

注:这里比较的是连续得分(部分完成也计分)。子集难度明显更高,Kimi K3.1 Pro 在全部任务上平均 62.73 分,在这里只有 35.75 分。

Opus 编排的工作流,让所有执行模型都变强了。

  • Kimi K3.1 Pro 从 35.75 分提升到 46.61 分,涨了近 11 分;

  • DeepSeek V4.1 Flash 从 18.37 分提升到 25.24 分;

  • 四个执行模型平均提升 6.41 分(静态)和 6.27 分(动态)。

由于 Claude Opus 5.5 全程没有碰过任何文件,这些提升来自它设计的工作流,以及它交给每个子智能体的指令。

更有意思的是:自己会做,不代表会编排。

GPT-6 Astra 本身是一个强得多的系统:在全部 145 道题上平均得分 77.29,明显高于四个执行模型(最高为 Kimi K3.1 Pro 的 62.73)。可它编排的工作流交给别人执行,效果却差强人意:静态模式平均降低 2.53 分,动态模式平均提升只有 1.34 ,还拉低了 Kimi K3.1 Pro 和 DeepSeek V4.1 Flash 的成绩。

上述结果说明,多智能体编排能力并不是任务完成能力的副产品,而是一项需要单独衡量、也值得单独优化的能力。

算笔经济账:编排一道题要花多少钱?

把完全解决率和每道题的平均推理成本放在一起,就得到了这张性价比地图。

总体完全解决率与单题平均推理成本(对数坐标),折线为帕累托前沿。

不同系统的编排成本相差数十倍。同样是组织子智能体完成一份长程交付,最省的配置每题不到一美元,最贵的要几十美元。

但钱多不等于编排好。GPT-6 Astra 每道题的花费是 Claude Opus 5.5 的好几倍,解决率却始终没能追上 Claude Opus 5.5。同一个模型把推理强度往上调,成本大幅增加,收益却很有限。

决定上限的,是编排得好不好,而不是烧了多少 token。

同一座建筑,两种编排思路

3D 建造任务让编排的差异变得一目了然。模型需要根据施工图纸和设计变更单,在 Blender 中搭出完整的建筑场景。

宫殿、大教堂、要塞三项任务中,Claude Opus 5.5 与 GPT-6 Astra 的交付成果与工作流对比。

  • 宫殿:Claude Opus 5.5 同时派出 7 个子智能体分头建造各个殿宇,再组装、检查、多轮修复(78.86 分);GPT-6 Astra 先打好共享基础,再交给单个子智能体统一组装(73.86 分)。

  • 大教堂:Claude Opus 5.5 选择两次整体建造(77.95 分);GPT-6 Astra 则把教堂按区域分给三个子智能体,再单独整合(81.59 分)。

  • 要塞:两者都只用一个主建造者,但 Claude Opus 5.5 在动工前先派出 7 个子智能体研读图纸(64.31 分),GPT-6 Astra 则边建边审图(55.35 分)。

同样是 3D 建造,有的编排用来并行造部件,有的用来为主建造者备好图纸。没有放之四海而皆准的编排方式,好的编排取决于任务本身的结构。

从「能执行」到「组织协同」

当任务越来越长、越来越复杂,决定上限的不再只是单个模型有多强,而是整个系统如何被组织起来。

WorkflowArena 的结果说明,今天的大模型在多智能体编排上仍有很大提升空间;而一份好的工作流,本身就能让同一批模型交出明显更好的成果。

WorkflowArena 完整记录了每份交付物和产出它的工作流,也为后续研究留下了空间:让强模型负责编排、弱模型负责执行的异构多智能体系统,或许正是下一步的方向。

从「一个 Agent 完成一件事」到「一个 Agent 组织一群 Agent 完成一件事」,系统智能的竞赛,才刚刚开始。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 便宜得离谱!Meta甩出“最省钱模型”,1/3成本追平Claude Haiku 5.5

    智东西(公众号:zhidxcom)编译 | 黄菲编辑 | 江宇智东西11月10日消息,今日,Meta正式发布最新模型Muse Ember,主打复杂推理和智能体任务。Meta称,这是其迄今体量最小、效率最高的模型,能够跨应用执行工作流、连续调用工具、运行测试并修复代码。Muse Ember持100万Token上下文窗口,

    来源 腾讯网
  2. 蚂蚁灵波开源LingBot-Touch:近5000小时触觉数据训练机器人“手感”

    近期,通用大模型在任务理解、复杂推理等能力上持续突破,机器人“大脑”走哪条技术路线,再次成为具身智能行业讨论的焦点。Anthropic最新发布的Claude Fable 5.2,展示了控制机器人拧瓶盖、操作拼图等能力,也在机器人仿真评测中取得明显进展。通用模型向物理世界延伸的潜力,正在得到更多验证。这也让一个问题变得更

    来源 腾讯网
  3. AI Agent文件任务:交付可靠性成新难点

    (本文作者为 科技新星球,钛媒体经授权发布)文 | 科技新星球过去一段时间,AI产品的能力竞争主要围绕模型展开:参数规模、推理能力、上下文长度,以及生成文本和代码的质量。但当AI进入实际工作流程,评价标准正在发生变化。用户不再只问AI能不能写一段Python代码,而是会提出更具体的要求:把一个目录里的表格整理好,提..

    来源 腾讯网
  4. 蚂蚁灵波开源LingBot-Touch:触觉基础模型让机器人摸得更灵敏

    【TechWeb】11月10日消息,蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进

    来源 腾讯网
  5. AI抄袭盯上独立游戏:开发者藏demo,Claude Code也改规则

    自从有了AI之后,制作一款游戏门槛变得更低,而破解乃至抄袭一款游戏的成本也在急速下降。 于是游戏行业中逐渐出现了别样的悲观情绪。今年已经有许多独立游戏开发者选择藏起自己的游戏demo,希望以此避免被利用AI做出仿制品、甚至抢在原作之前发售。 不仅开发者们在接受并适应这样的情况,平台也在做出应对。前段时间有用户发现Cla

    来源 AI 行业观察
  6. Claude记忆机制公开:AI靠“做梦”重放经历,学会通关宝可梦?

    Claude背后的独门记忆机制彻底公开了,核心就是—— 做梦。 让模型在会话间隙利用空闲算力偷偷睡上一觉,在梦境里重新检查过去的经历、纠正错误记忆,再把零散的信息整理成能够跨会话复用的知识。 没学会做梦的旧版Claude玩个宝可梦能把自己玩到原地破防,连续三次从单向悬崖掉回老路之后,它直接在执行记录里撂挑子: 我还是停

    来源 AI 行业观察
  7. Anthropic推Fable 5.2与Mythos 5.2:30小时形式化费马大定理

    机器之心编辑部终于,在新一轮旗舰模型谁先发的竞赛中,Anthropic 率先出招了。就在今天凌晨,Anthropic 一口气发布两款顶级模型,Fable 5.2、Mythos 5.2 登场。官方宣称,「两款模型瞄准高难度技术挑战,能够参与多个领域的大型复杂项目,并在编程、推理和视觉等方面实现进一步提升。」另外,Anth

    来源 腾讯网
  8. 会做梦的AI,记性反而更好?Anthropic新实验:写了413份笔记的,输给只写9份的

    机器之心编辑部有位哲学家说,人这一辈子,很多事只有回头看才看得明白,可日子只能往前过。这句话放在人身上是感慨,放在 AI 身上,却是个实打实的工程难题。Anthropic 最近发了一篇文章,讲了他们给 Claude 设计记忆系统时踩过的坑和想明白的事。核心结论有点反直觉:想让 AI 记性好,光让它「记笔记」不够,还得让

    来源 腾讯网
  9. 百度走出哪些创业者:从快手滴滴到地平线小马智行

    地平线、小马智行、文远知行的创始团队,拥有一个共同的履历交集:百度。 这个名字,同样出现在快手、有赞、滴滴、作业帮的发展历史里。 再往新一轮创业看,Claude背后的Anthropic、智能体公司Genspark,以及星尘、它石、维他、章鱼等机器人公司,也与百度的研究和业务团队存在人物联系。 从短视频、出行、商家服务,

    来源 AI 行业观察
  10. 蚂蚁灵波开源LingBot-Touch:近5000小时触觉数据补上机器人感知一环

    【TechWeb】11月10日消息,蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进

    来源 AI 行业观察
  11. 蚂蚁灵波LingBot-Touch开源:近5000小时触觉数据,任务成功率最高90%

    蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进一步补齐精细操作所需的触觉感知。

    来源 TechWeb
  12. Claude Fable 5.2与Mythos 5.2同源:智能不再是难题后拼什么?

    Anthropic在11月9日推出Claude Fable 5.2,共用底层模型的Claude Mythos 5.2仅限验证机构使用。Fable 5.2展现出多Agent协作潜力:1000个子智能体用不到30小时完成费马大定理形式化验证,比9月的11天大幅缩短;还能独立开发操作系统、设计硬件。不过其定价为每百万Toke

    来源 凤凰科技
  13. AI Agent进入文件任务阶段:比拼重点从写代码转向可靠交付?

    AI Agent正从内容生成走向实际任务执行。处理本地文件看似是一个普通办公场景,却暴露出任务理解、代码执行、结果验证与权限管理等关键问题。Python-Use提供了一种新的执行思路,但Agent真正走向工作场景,仍需跨越可靠性与安全性的门槛。

    来源 AI 行业观察
  14. Claude Fable 5.2登顶Code Arena,苹果AMP1让通用模型操控机械臂

    Anthropic发布Claude Fable 5.2与Mythos 5.2,新模型在WebDev和智力指数榜单表现亮眼,并展示了从提示词直接生成可制造硬件的能力。与此同时,AI推理服务商Fireworks遭遇入侵,客户数据及模型权重可能泄露,再次暴露云服务供应链的安全短板。此外,苹果提出无需示教的机械臂操控框架AMP

    来源 AI 应用前沿
向下滚动自动加载更多