多智能体AI组队方案怎么选:稀疏奖励下如何学会挑团队

资讯 腾讯网 作者:科技行者 全文 3466 字 · 约 9 分钟读完 分类智能体学术研究

你有没有遇到过这种情况:团队接了个项目,可以让三个程序员一起干,也可以让一个程序员加两个审核员,还可以让一个数学高手单干。这几种搭配最后都能把活儿干完,但效率和准确度天差地别。现在把"团队"换成AI智能体,把"项目"换成一道数学题,这就是这篇论文要解决的问题。多智能体系统*:让多个AI模型像一个团队一样协作...

所属频道 智能体与 Agent前沿研究

团队接下一个项目,可以派三个程序员一起上,也可以安排一个程序员加两个审核员,甚至让一个数学高手独自完成。几种搭配都能把活干完,效率和准确度却差得很远。把"团队"换成AI智能体、把"项目"换成一道数学题,正是这篇论文要处理的问题。

所谓多智能体系统,就是让多个AI模型像一支团队那样分工协作,每个AI承担不同角色、彼此传递信息,最终汇总出答案。

这几年业界的共同观察是,一群AI智能体组队干活,往往比单个模型表现更好。可组队本身大有讲究:找几个人、分什么角色、谁该听谁的,这套"组队方案"在论文里有一个专门叫法。

它被称为

麻烦恰恰出在"教"的环节。

同一道题有好几种正确答案,AI却分不清哪个更优

有个容易被忽略的事实:验证库里同一道题常被好几种团队配置解出来,但库里根本不记录哪一种配置更优。它只是一份"能用的名单",算不上"排行榜"。

这就像翻一本菜谱合集,书里收了一百种能把某道菜做熟的做法,却从不说明哪种更好吃、更省时间。照着学的时候,人自然会挑出现次数最多的那一种,而不是真正适合手头食材的那一种。

论文作者发现,拿这个库去做继续的

监督微调

背后还有第二重麻烦。AI生成一张图是一步步推进的,每一步都要参考前面已经画好的部分。训练阶段,AI看到的"前面部分"永远是验证库里记录的那种已验证成功的片段;部署上线后,AI自己画出的图未必与库里一致,它看到的"前面部分"就变成自己画出来、库里从未出现过的新组合。此时AI等于在一个从未被教过的情境里做判断,没有任何参照。这就像在驾校练车,教练始终坐在旁边,每个路口都告诉你该怎么转,你练得滚瓜烂熟。可一旦独自上路,走到教练没带你去过的路口,你会突然发现不知道该往哪儿打方向盘——你学的始终是"教练安排好的那条路",而不是"遇到任何路口该怎么判断"。这个问题不解决,AI每次偏离训练时见过的路径,都等于驶入一片没有路标的荒野。

PRISM

论文给出的方案叫

特权信息

PRISM

这个额外接口在技术上依赖一种叫

第二阶段才是重头戏,也是破解"教练不在场"难题的关键。这一回不再让AI死记验证库里的标准答案,而是先让当前的学生模型自行生成一批团队配置方案(这叫"

这个设计的巧妙之处在于,纠正发生在学生真正会走到的那些路口上,而不是教练预先设定好的路口上。仍以开车作比:这次教练不坐在副驾驶念固定脚本,而是让你自己开,开到哪个路口就在哪个路口给反馈,哪怕这个路口在之前的练习手册里从未写过。少了这一步,学生模型学到的永远只是"标准路径"上的判断,一旦偏离便无人过问。

老师打分与学生判断之间的差距,用的是一种叫

KL散度

反向KL为何更合适?一道题往往有好几种解法都算对,若采用那种"照顾所有可能性"的散度算法,学生模型的判断会被拉得很分散,等于又退回了"实验结果显示,反向KL在数学类任务上全面领先,在GSM8K和SVAMP两个数学数据集上,反向KL的优势分别比另一种对比方法高出1.89和2.10个百分点。

除此之外,

六个任务逐一测试,结果说明了什么

论文在六个不同类型的基准测试上做了验证,覆盖数学推理(GSM8K、MultiArith、SVAMP、AQuA)、通用推理(MMLU)和代码生成(HumanEval),全部实验统一跑在Qwen2.5-7B-Instruct这个大语言模型上。

核心结果见下表,PRISM在六个任务上全部拿到最高分:

| 方法 | GSM8K | MultiArith | SVAMP | AQuA | HumanEval | MMLU |

|---|---|---|---|---|---|---|

| 单智能体 | 70.28 | 88.33 | 82.40 | 61.81 | 69.51 | 62.70 |

|

| 继续

| **PRISM** | **88.02** | **99.17** | **93.30** | **76.38** | **82.32** | **73.94** |

最扎眼的还是AQuA这一列:继续做监督微调,分数只做到62.60,比

这些提升几乎不带来额外开销。部署时PRISM每题平均调用3.04个智能体,ARG-DESIGNER是3.00个,基本持平;调用次数从每题4.00次升到4.04次,涨幅不到1%,换回的却是平均两三个百分点的准确率提升。那个“开天眼”的老师模型训练完就被彻底丢弃,正式上线跑的学生模型架构与原版ARG-DESIGNER完全一致,推理成本没有多出一分。

几组验证实验挺有意思

论文还做了几组相当扎实的

第一个质疑:PRISM涨分,会不会只是因为训练时参数更多、算力更大,随便加点什么都能涨?研究者搭了个“打乱对照组”,给老师模型接上同样的

打个比方,你想弄清一个家教是真在因材施教,还是随便讲讲都管用。于是另找一位家教,让他给学生讲一套毫不相干的练习题,结果效果确实比没人讲要好一些,可远不如讲对口题目来得明显。可见讲“对的内容”比单纯“有人讲”更要紧。

第二个质疑:这种“学生自己生成、老师再打分”的训练方式,本身是不是就强过传统监督微调,跟兄弟配置究竟有没有信息无关?研究者又设了一个“恒定输入对照组”,老师的

第三组验证更有看头。研究者把不同方法生成的“团队配置”单独拎出来执行,通信方式、轮数、决策方法等其他变量全部固定,只看配置本身的差异。在AQuA数据集上,那些监督微调模型常给出错误配置的题目,直接执行监督微调给出的默认配置准确率只有61.54%;换成PRISM生成的配置,同样题目准确率跳到77.66%。这一差距在统计上显著,说明问题确实出在“选错团队搭配”上,而非别的偶然因素。

还有个发现:角色的排列顺序同样会影响结果。同样三个“数学解题专家”的组合,按监督微调模型原本给出的顺序排,得分61.54%;换成另一种“标准排序”,得分反而掉到53.85%。也就是说,“找谁来”固然重要,“谁先谁后”这个顺序安排本身也在起作用,比想象中复杂一些。

写在后面

读这篇论文,最让我反复琢磨的是它戳破了一个容易被忽略的训练数据陷阱:数据集“记录了成功案例”和数据集“知道哪个成功案例更好”,压根是两回事。人很容易默认,只要数据经过验证、确实有效,拿去训练就不会出问题。PRISM却用一个具体数字打了这个假设一巴掌——12.60个百分点的倒退,就发生在一个看上去“正确”的训练流程里。

另一个我觉得挺妙的设计,是“特权信息训练后即焚”。不少AI训练方法总想着给模型加更多输入、更多参数,部署时也一并变复杂。PRISM反着来:训练时故意给老师开小灶,让它比学生多看一些,学生自己从头到尾没多看过什么,上线时模型架构和原来一模一样。这种“训练不对等、部署对等”的路子,在教育领域也有类似影子——老师批改作文时参考了范文,学生考试时并不知道范文长什么样,他只是被这个过程潜移默化地训练得更会写了。

论文也坦白承认了局限:他们没完全搞清楚,这个方法到底是真学会了“给每道题排出最优团队配置的优先级”,还是只是碰巧让输出更多样化了。这个问题留给了后续研究者。一个AI系统若能自己判断何时该找谁组队、何时该让谁先发言,这件事的边界在哪里,或许才是真正值得继续追问的方向。

Q&A

Q1:PRISM是什么?

A:PRISM是一种针对多智能体系统

Q2:为什么继续用监督微调训练拓扑生成器会导致准确率下降?

问题在于,验证库里只记了各个团队有没有把题做对,并不区分配置的好坏。照着它继续微调,模型会越来越倾向于输出出现次数最多的那套配置,针对每道题挑出最合适配置的能力反而丢了,这种

Q3:PRISM相比原来的方法增加了多少计算成本?

涨幅不到1%:PRISM 平均每题调用 3.04 个智能体,原方法是 3.00 个;调用次数则由每题 4.00 次升到 4.04 次。部署时用的模型架构和原方法一模一样,原因在于训练时用的老师模型在训练结束后就被丢掉了。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌AI智能体改一处代码成功率翻8倍:Harness自我优化研究

    IT之家 11 月 20 日消息,谷歌研究人员当地时间 11 月 17 日最新发表的研究论文《Harnesses That Improve Themselves》(《能够自我改进的 Harness》)显示,通过让 AI 智能体逐步修改自身运行框架,并对每次修改进行验证,可以显著提高软件工程任务的完成率。在一项 SWE-

    来源 腾讯网
  2. AI智能体评测新框架RES:任务不变,环境逐轮加码

    你有没有想过,为什么现在很多AI模型跑分越来越高,但真正用起来的时候,还是会在一些意想不到的地方翻车?这背后藏着一个很尴尬的事实。我们评测AI智能体(能自主执行任务的AI系统,比如帮你订机票、整理财务报表、修复代码bug的那种)的方式,其实一直在偷懒。研究者想让测试变难,通常的做法就是多造几个任务,多编几条轨...

    来源 腾讯网
  3. alphaXiv上线AI Agent专属预印本服务器:936个Agent自组学术圈

    有点不可思议,AI Agent 已经开始组团搞科研了。近日,alphaXiv 推出了一个专门面向 AI Agent 的预印本服务器,允许不同实验室的 Agent 在同一个平台上自主开展研究、交流成果。这些 Agent 会提出假设、设计实验、运行代码、分析数据,还会把研究成果写成论文,提交给其他 Agent 审查。更有意

    来源 腾讯网
  4. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  5. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  6. 苹果自研AI智能体:招募团队负责人,macOS已给对手设槛

    《科创板日报》11月20日讯(编辑 宋子乔) 当地时间11月20日,科技记者古尔曼报道,苹果正自研AI智能体。古尔曼报道当地时间11月18日,苹果在官网发布的招聘信息披露了相关计划,其中一则招聘启事显示,苹果正在招募AI智能体团队的领头人——一名高级工程经理(Senior Engineering Manager)作为团

    来源 腾讯网
  7. 苹果研发自主AI智能体,招聘高级工程经理

    1.苹果正在招聘AI智能体工程负责人 11月19日,据彭博社报道,苹果正在研发一款自主AI智能体,能够代表用户完成多步骤任务,包括浏览网页、操作应用、编写和调试代码,以及控制苹果设备。苹果....

    来源 腾讯网
  8. 苹果AI新布局:自研智能体操控Mac,对标四款竞品

    TechCrunch报道称,苹果似乎正在开发可在Mac上自主执行任务的AI智能体,直接对标Meta Muse、Instinct、Claude与OpenAI Dots等产品。这标志着苹果的AI战略正从Siri式的语音助手,转向能够理解目标、拆解步骤并操作用户界面的“行动型AI”。凭借软硬件一体化与端侧算力优势,

    来源 AI 科技快讯
  9. 德国将网络威胁评估上调为“严峻至危急”:AI 智能体降低攻击门槛

    IT之家 11 月 19 日消息,据路透社今天(19 日)下午报道,德国联邦信息安全局(BSI)将信息技术系统面临的威胁上调至“严峻至危急”。该局指出,智能体 AI 系统让攻击者有了更多可乘之机。 当地时间 19 日,该局发布的报告称,许多企业和消费者以为自身很安全,低估了实际面临的风险。这项评估每年发布一次,去年该局

    来源 AI 行业观察
  10. AI做PPT、搭网页居然都免费?用完豆包工作我算了下账

    就拿小雷自己来说,自从把整理资料、分析财报、制作PPT等工作交给Agent软件(WorkBuddy、豆包工作等)后,也发现随着使用次数和任务复杂度的增加,AI消耗的积分也确实不少,很多时候赠送积分已经完全不够用,需要额外开会员和充值才行。

    来源 凤凰科技
  11. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  12. 三星 One UI 9.5 代码现 Gauss 4,自研 AI 模型再进一步

    IT之家 11 月 20 日消息,科技媒体 SammyGuru 昨日(11 月 19 日)报道,称三星正在积极推进自研 Gauss 系列 AI 模型,在 One UI 9.5 首个 Beta 测试版中,发现了 Gauss 4 E2B 模型踪迹。 相关名称出现在支撑 AI 智能体功能的 Personal Agent Co

    来源 AI 行业观察
  13. 李开复:企业AI转型只看“智能体数量”是荒谬笑话

    IT之家 11 月 19 日消息,据《中国企业家》杂志消息,零一万物 CEO、创新工场董事长李开复直言,企业 AI 转型如果只看“智能体数量”是个“荒谬的笑话”。他认为,最危险的 AI 转型往往拥有一张漂亮的成绩单 —— 报告变厚了,智能体上线了,但 AI 到底为企业增加了多少收入、降低了多少成本,往往说不清楚。同时,

    来源 腾讯网
  14. 纳德拉:AI代购兴起,恐改写互联网平台盈利模式?

    科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面临重新洗牌。

    来源 IT之家
  15. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  16. 纳德拉:AI代劳网购或洗牌互联网,拒绝接入平台恐失机会?

    IT之家 11 月 19 日消息,科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面

    来源 AI 行业观察
  17. 谷歌AI智能体:模块化改代码,成功率从5.0%升至40.0%

    谷歌研究提出一种可自我改进的Harness框架,让优化模型通过修改代码而非仅调整提示词来提升智能体执行效率。实验中模块化修改并通过验证筛选的方案把任务成功率从5.0%提高到40.0%,每项任务约消耗4.67万Token;不受限整体重写虽达42.5%,但Token消耗约45.16万,接近前者的10倍。

    来源 凤凰科技
  18. TheSigil ID上线:AI智能体可自主申领数字身份证

    当 AI Agent 开始自主执行任务,它们是否也应该拥有一张属于自己的身份证? 近日,面向全球 AI Agent 的数字身份登记平台 TheSigil ID开放免费创世登记。与传统由开发者填写信息的注册方式不同,TheSigil ID 尝试让 AI 智能体自行阅读协议、选择名称、撰写身份声明,并通过开放接口完成登记,

    来源 AI 行业观察
  19. 谷歌让AI自改运行框架:成功率由5%升至40%

    谷歌11月17日论文发现:只优化提示词,AI智能体成功率反从5%降至2.5%;而让优化模型直接改写其运行框架Harness,成功率升至40%,提升8倍。团队将仅142行的初始编程智能体拆成四块逐一改造,Harness负责上下文与记忆管理、多轮任务调度、工具调用及结果验证。结论是改框架比磨提示词更有效。

    来源 AI 产业速递
向下滚动自动加载更多