Anthropic推MAMUBench:多AI助手组队协作为何总掉链子?

资讯 AI 产业速递 全文 1355 字 · 约 4 分钟读完 配图 2 张 分类Anthropic智能体

Anthropic 发布 MAMUBench:多智能体团队协作为何常常“一盘散沙”?

所属频道 大厂动态智能体与 Agent

当多个用户各自派出自己的AI助手去合力完成一件事,这样的场景已经越来越普遍:共享API算力预算、协同安排诊所日历、凑单点外卖,或者在共享代码库里提交合并请求。可这些各管一摊的AI碰到一起,协作起来到底行不行?

image.png

Anthropic Fellows Program团队围绕这个问题搭了四个多用户多智能体模拟环境,并把其中三个正式公开,作为新基准MAMUBench。测试中,研究人员拿Anthropic、OpenAI和阿里巴巴的前沿大模型做了对比,多用户、多智能体系统在协作上的深层隐患随之暴露出来。

核心实验发现:单兵作战的团队协作表现,为何全面输给单一协调者?

评测覆盖了多种组织形式:一种是单个智能体服务多人的“协调者”模式,另一种是每个用户各配一个智能体、彼此点对点沟通的团队模式。

四个模拟环境里,由单个智能体全局统筹的成绩都压过点对点团队。以Claude模型为例,所有场景取平均后,协调者模式整体比点对点团队高出10到45个百分点。

进一步剖析后,研究团队归纳出多用户多智能体团队运行中的几类典型问题。

行动迟缓与规模失灵:在共享API密钥这类动态环境中,团队规模从4个智能体扩大到16个后,选择真正采取行动的智能体比例大幅下滑。不少智能体行动太少、太晚,一些低价值任务白白耗掉剩余时间,整体任务的完成也被拖累。

越权干涉与信息捏造:GPT和Qwen系列等部分厂商的模型会在未经其他用户同意的情况下,擅自取消或中止对方的任务。个人助理等协同场景中,信息被分割在各个智能体的私有笔记里,智能体为了填补空白,常会捏造出完全不符合事实的断言,把一个用户的意愿强加给其他人。

竞态条件与请求覆盖:团队订餐或预订时,94%到99%的情况下用户的特殊诉求都传到了最终负责结账的智能体那里。问题是智能体急于下单,往往没看完所有消息就完成结算,甚至在共享购物车里频繁覆盖队友的请求。

寻找解法与未来启示:如何修复多智能体团队的协作失灵?

围绕这些痛点,研究团队又测试了多种针对性缓解措施,结果显示有效的修复方案因环境而异。

明确责任人与优先级:在API密钥共享场景中,指定一名团队负责人,并明确指示其按价值给任务排序、充分利用预算,对等团队与全局协调者之间的差距就能有效弥合。

设立平台级防护机制:个人助理等涉及结账和订单的场景里,只靠提示词效果有限。一种行之有效的办法是引入平台级防护——在智能体读完所有待处理消息之前,强制阻止其结账操作,这一简单机制成功挽回了绝大多数因急躁而失败的团体订单。

研究指出,多用户、多智能体系统带来的风险不只是群体表现变差,替不同用户行事的智能体还可能产生冲突,进而伤害系统中的其他人。这意味着未来的技术评估既要看最终的群体结果,也要细致审查智能体的具体行为。从平台层的防踩踏机制,到训练智能体更好地沟通与达成一致,建立更安全、高效的多智能体协作生态,将是整个行业接下来要共同攻克的重要课题。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 纽约推出 AI 监管新规,OpenAI、Anthropic 需 72 小时内上报安全事故

    IT之家 11 月 11 日消息,纽约州正准备实施美国最重要的人工智能安全法规之一。该州周二正式开放了一个监管登记平台,Anthropic、OpenAI 等大型前沿 AI 开发商必须在 2027 年 1 月 1 日前完成注册。这项名为《负责任人工智能安全与教育法案》(RAISE Act)的法规,是纽约州推出的一项 AI

    来源 腾讯网
  2. 台积电拟投Anthropic与OpenAI至多10亿美元,双重布局AI

    财联社11月11日讯(编辑 马兰)芯片代工巨头台积电计划向人工智能开发商Anthropic和OpenAI投资总计最高10亿美元,台积电董事会周二已批准了这一投资计划。台积电计划将其中最高5亿美元用于按IPO价格认购Anthropic的股份,另外最高5亿美元则用于收购OpenAI的优先股。Anthropic周二公布了其I

    来源 腾讯网
  3. Anthropic下周IPO成AI风向标:估值缩水,创投圈转保守

    两大巨头估值缩水已引发连锁反应——投资者开始对AI初创企业采用更保守的收入乘数,直接叫停零营收公司的高估值融资。多家风投机构已建议被投企业降低估值预期、尽快储备现金。市场人士警告,Anthropic上市结果将成行业风向标:成则延续繁荣,败则部分公司面临出局。

    来源 华尔街见闻
  4. Anthropic推办公套件:AI进会议表格,硬撼微软谷歌

    据彭博社报道,Anthropic将发布一套办公工具,把AI能力融入日常办公,包括视频会议助手、数据仪表盘和名为Claude Sheets的电子表格服务。此举将使Anthropic与投资方微软、谷歌展开更激烈竞争。

    来源 凤凰科技
  5. Anthropic,推出AI办公套件

    当地时间周二,美国科技巨头微软的投资者,又一次面对“AI开发商抢饭碗”的波动。 具体来说,正在冲击美股IPO的Anthropic宣布扩展Claude的办公功能,推出电子表格Claude Sheets、数字白板Claude Whiteboards,并升级数据分析工具Claude Data及交互式连接器。加上此前已有的文档

    来源 AI 行业观察
  6. Anthropic推Claude办公三件套:正面挑战Microsoft 365

    【TechWeb】11 月 11 日消息,Anthropic宣布推出Claude Sheets(表格)、Claude Whiteboards(白板)和Claude Data(数据分析)三款办公协作工具,将其AI助手从“聊天问答”推向团队协作的核心工作流。消息公布后,微软股价盘中一度直线跳水超过3%,市场将此举解读为对M

    来源 腾讯网
  7. OpenAI、Anthropic齐呼“放缓”训练:AI安全双重困局何解

    ◎记者 罗茂林 柴刘斌 在GPT-3.5令全球AI狂飙近四年后,AI前沿传出“减速”“暂停”等呼声,OpenAI及Anthropic等巨头罕见联手呼吁“放缓”最新训练。 与此同时,全球资本市场在经历一年多的“AI牛市”后分歧日显。一边是Anthropic估值持续缩水却仍然强撑上市;另一边,全球科技风向标美股纳斯达克指数

    来源 腾讯网
  8. 便宜得离谱!Meta甩出“最省钱模型”,1/3成本追平Claude Haiku 5.5

    单项任务成本约为Claude Haiku 5.5的三分之一。 编译 | 黄菲 编辑 | 江宇 智东西11月10日消息,今日,Meta正式发布最新模型Muse Ember,主打复杂推理和智能体任务。Meta称,这是其迄今体量最小、效率最高的模型,能够跨应用执行工作流、连续调用工具、运行测试并修复代码。Muse Ember

    来源 AI 开发者社区
  9. Anthropic推办公AI工具:视频通话助手与Claude Sheets对标微软谷歌

    【Anthropic进军人工智能办公软件 IPO前与微软谷歌竞争升温】财联社11月11日电,Anthropic推出一系列工具,进一步将人工智能(AI)融入日常办公,与微软和谷歌展开更直接的竞争。这些功能将于周二Anthropic的一场活动上发布,包括视频通话助手、数据仪表板工具,以及名为Claude Sheets的电子

    来源 腾讯网
  10. 字节AI Agent对标Meta Muse:豆包跳出聊天框,能订票订酒店

    就在刚刚,据彭博社报道,字节正在筹备一款类似 Meta Muse 的个人 AI Agent(智能体),希望在新一轮 AI 竞争中追赶对手。这款产品的目标,是让豆包进一步走出聊天框,成为能够记住用户需求、主动规划并执行任务的个人助理。图|彭博社回顾过去的 9 月底,豆包的首页多了一个叫「出行用豆包」的入口。用户只需要告诉

    来源 腾讯网
  11. Altman向三星高管承认AI需求有水分:短期泡沫与联合造终端

    Sam Altman在与三星高管的闭门会上,罕见警告AI算力存“重复计算”的短期泡沫风险,并强调"真正能带动大规模需求增长的只有OpenAI和Anthropic两家。面对盈利质疑,Altman明确 OpenAI 的策略是:通过垂直整合降低成本,以“低利润率、大规模销售 Token”来以量取胜。

    来源 华尔街见闻
  12. Anthropic 推 Claude 白板表格数据三件套,承包团队协作全流程

    IT之家 11 月 11 日消息,Anthropic 今日开始推出 Claude Whiteboards(白板)、Claude Sheets(表格)和 Claude Data(原 Claude Dashboards),把 AI 助手从“聊天问答”进一步推向团队协作工作台,用户可以在白板上梳理计划、在表格中搭建追踪器,并

    来源 AI 行业观察
向下滚动自动加载更多