AI团队协作训练新法CoSIR:让智能体主动分享、主动提问

资讯 腾讯网 作者:科技行者 全文 4333 字 · 约 11 分钟读完 分类合作

你有没有玩过那种需要团队合作才能通关的密室逃脱?每个人手里只有一部分线索,必须互相说出来才能拼出完整答案。可现实中总有那么一两个人,拿着关键线索却闷头不说,或者别人说了他也压根没往心里去,自己闷头瞎猜。结果整个团队卡在原地,眼睁睁看着时间耗尽。这事放在人类团队里尴尬,放在AI团队里更麻烦。现在越来越多...

所属频道 合作与生态

那种非得几个人配合才能通关的密室逃脱,你玩过吗?

每个人手上只攥着一部分线索,得互相说出来,才能拼出完整答案。可现实里总有一两个人,拿着关键线索闷不吭声,或者别人说了他也完全没听进去,自己一个人瞎猜。结果整队人卡在原地,看着时间一点点耗光。

这种事搁在人类团队里已经够尴尬,放到AI团队身上更麻烦。眼下越来越多的任务,开始交给多个AI一起完成。

**一个团队里,每个AI都掌握了答题所需的全部信息,可team的整体表现,可能还不如把这些信息全塞给单独一个AI。**

这个现象就写在一篇论文里,作者来自亚利桑那州立大学、休斯顿大学、俄亥俄州立大学等机构组成的联合研究团队。研究者还记录下更具体的失败情形:AI队友藏着掖着,不肯分享有用的发现;问题还没搞清楚就急着动手;队友发来的信息,它视而不见。更离谱的是,有的AI起初明明答对了,一看到其他队友意见不统一,反倒丢掉正确答案跟着站队,活脱脱一副“猪队友”的样子。

毛病出在哪儿?不是AI不够聪明,是没人教过它们该怎么当一个合格的团队成员。

**这篇论文要啃的核心问题就是:如何训练AI主动分享有价值的信息、主动问出缺失的关键问题,并且真的把队友给的信息用起来?**

话是这么说,做起来却极难。

训练上的难点:怎么给“说得好不好”打分

你大概会想,这有什么难?让AI团队去完成任务,做对了给奖励,做错了罚一下,用强化学习不就完了。

这个思路有个名字,叫强化学习。

可致命的问题在这儿:最终任务做对了,不等于每句话都说得好;最终任务做错了,也不等于每句话都说得差。

举个例子。假设团队五个人里只有一个说了句废话,另外四个都表现得很好,任务最后成功了,那句废话也跟着“蹭”到了正面反馈,AI学到的就是这句废话也不错。反过来,团队里有人分享了一条极其关键的信息,可队友没理解到位,任务最终失败,那条宝贵的信息分享反倒被贴上了负面标签。

这就像公司年终考核只盯业绩数字,不管过程中谁真出了力、谁在摸鱼。认真干活的人可能因为团队整体业绩不好被连坐扣分,划水的人倒搭上顺风车拿了好评。不把“每个人具体做了什么”从“团队最终结果”里剥出来单独评价,激励机制就会彻底跑偏,越训练越学不会真正有用的协作行为。

研究者们卡住的正是这一点:怎样设计一套奖励机制,能精确评估“这句话到底有没有帮上忙”,而不是笼统地按最终结果打分。

CoSIR登场:用“惊讶程度”衡量信息价值

研究团队拿出的方案叫CoSIR,全称是基于惊讶度的信息奖励协作训练法。

**信息论里有个概念叫“惊讶度”。**

CoSIR的核心思路是:要评估一条信息有没有价值,就看它能不能降低团队对正确答案的“惊讶程度”。信息越有用,团队拿到它之后对正确答案越不意外,惊讶度降得越多,这条信息拿到的奖励分就越高。

听着有点抽象,换个场景说。

想象你在玩一个“谁是卧底”式的猜谜游戏,四个人各拿一张提示卡,要合力猜出谜底是四个选项里的哪一个。刚开局大家手里的信息零零散散,每个人对正确答案的把握大概只有25%,跟瞎蒙差不多。这时要是有人说出一条关键线索,让大伙对正确答案的信心从25%一下蹦到50%,这条线索的价值就很清楚了——它实打实降低了大家的不确定性。

**要是没有这套量化机制,会怎样?**

AI可能学会说一堆正确却毫无用处的废话,比如重复大家都已经知道的信息,或者讲一些听着相关、实际不改变任何判断的内容。缺少精细的度量,训练系统根本分不清哪句话真正推动了团队认知,哪句话只是在凑字数。

为了让这套评估机制真正跑起来,研究团队搭了一个简化、但保留了核心协作难题的训练场景:一张打分表格任务。

拿采购决策来说,四个候选产品A、B、C、D,每个产品在价格、质量、速度、保修、服务五个维度上各有评分,团队要挑出总分最高的那一个。关键在于,整张表格没有哪个AI能看全,每人只分到一部分格子:一部分格子是大家共享的信息,另一部分则只有某一个人掌握。

信息被刻意打散分配,正是这套设计的用意。AI想选对答案,就得主动亮出自己手里的碎片,同时主动向队友讨要自己缺的那部分。研究者对每个格子里写了什么、谁掌握哪块、谁说了什么、谁问了什么,全都一清二楚,信息流动的全程可追踪,精确打分因此有了基础。

研究团队把这种做法称为CoSIR。

一条分享出来的信息,只要能让团队整体的惊讶度降下来,就说明它有价值,分享者能拿到正向奖励;反过来,如果这条信息大家早就知道,说了也白说,自然没有额外奖励。

论文里配了一张具体示例图,三个AI的分工与对话在其中一一呈现。

除了“说”,CoSIR还单独给“问”设了奖励。提问本身不会马上带来新信息,但一个好问题能引导队友说出关键内容。系统会先假定被问的人如实回答,再计算这个假想回答能带来多少惊讶度下降,以此衡量提问的价值。

设计还堵了一个很现实的作弊漏洞:AI完全可能瞎编一个凑巧能降低惊讶度的假数据。研究者要求,每条分享的信息必须能对应到说话者自己原始掌握的信息,或者是从队友那里真实收到的报告;编造的内容不但拿不到奖励,还要被额外扣分。

这就像公司绩效考核,不能光看你汇报了多少“成果”,还得核实这些成果是不是真做出来的。杜撰业绩必须受罚,否则整个激励系统就会被钻空子。

光会分享信息还不够,CoSIR还会单独评估AI有没有真正“用上”收到的信息。

它检查两件事:一是最终选的答案对不对,用的是团队整体准确率;二是决策过程有没有参考队友的输入。

这补上了一个很关键的协作漏洞:有些AI成员看着很配合,队友说什么它都“嗯嗯好的”,可听完就忘,自己做决策时该怎么算还是怎么算,队友的输入完全没进脑子。这种“假装倾听”如果不单独惩罚,只看最终结果根本发现不了。

从训练场到真实世界:七个陌生考场的检验

训练归训练,真正的考验是迁移能力。打分表格任务毕竟是高度简化的人工环境,真实世界里的团队协作五花八门,自然语言、复杂推理、多步骤任务,什么都有。

一个模型如果只在特定“套路题”上练得滚瓜烂熟,换个场景就露馅,这种情况在机器学习里很常见,专业说法叫过拟合。

为验证自己的方法不是花架子,CoSIR团队特意挑了七个训练阶段完全没出现过的陌生任务来测试,覆盖分布式信息决策、复杂数学推理、面对同伴压力时能否坚持己见等多个维度。测试场景还刻意设计得比训练场景复杂得多:有的要求自由作答而非选择题,有的掺入了误导性的同伴意见作干扰。

研究团队选用了三个不同的基础模型做实验。

结果显示,经CoSIR训练的模型在全部七项陌生任务上,相比训练前的起点版本全线提升,没有一项退步。

这个结果有意思的地方在于,论文还对比了另一种训练方式,叫结果奖励。

这组对比直接印证了前面的核心判断:精细化的过程奖励确实比笼统的结果奖励更有效。就像教练盯着运动员每个动作细节纠正,总比比赛结束后只说一句“你输了”管用得多。

论文里还专门构建了一个叫“同伴压力”的测试场景。

结果显示,三个模型在该场景下的表现均有所变化。

行为变了没有:从“闷葫芦”到“爱交流”

光看分数还不够直观,研究者还深入观察了训练前后AI队友的具体行为变化,这部分读起来格外有画面感。

在一个仓库选址的决策任务里,团队要从四个候选仓库中选出最适合灾后物资周转的一个。表面共享的信息让“中央仓库”看起来很有吸引力,因为它靠近高速公路、装卸设施也新。但每个AI手里还各自攥着一条关键的私有信息:有人知道另一个仓库屋顶塌了一半,有人知道中央仓库地基因洪水存在风险,还有人知道中央仓库的备用发电机已经彻底损坏,另有人知道某个仓库是唯一配备满员工作人员的地方。正确答案其实是看起来并不起眼的“山顶仓库”。

在训练之前的那一轮测试里,负责发言的AI一直力推“中央仓库”,另外两个AI队友明明握着关键负面信息,却从头到尾一声不吭,坏消息没被说出来,团队最后选错了答案,跑去了另一个有屋顶问题的仓库。

训练之后,同样的场景重演,两个原本沉默的AI在第一轮发言中就主动把各自掌握的关键信息爆了出来,负责决策的AI在第二轮里把这些信息吸收进去,到第五轮时推荐已经改成了正确答案“山顶仓库”,全队最终达成一致,选对了。

这种转变并非偶然,论文用更系统的方式把变化量化了出来。拿

这个提前量很关键。

**团队协作中信息说得早不早,直接决定了后面的人有没有时间消化利用。**

打个比方,开会时要是把关键的反对意见憋到快散会才说,哪怕再在理,方案也来不及改了,这条意见能起的作用就小得多。CoSIR 训练出的模型不光是更肯开口,还学会了把话早点说出来,团队协作效率的提升是看得见的。

研究团队还专门用了一套叫

结果显示,团队协调类的失败率从67.8%降到了62.0%,核实与收尾环节的失败率从58.8%降到了53.5%。具体拆开来看,“忽视队友输入”这一项从26.3%降到22.8%,“没问清楚就贸然推进”从36.4%降到32.0%,“验证不充分”从51.3%降到45.9%。

不过论文里有个地方说得很诚实:并非所有失败类型都改善了。比如“重复无意义的步骤”这一项几乎没动,还从85.1%微涨到了85.6%,“信息被藏着掖着不说”这一项也基本原地踏步,从18.5%到18.7%。

也就是说,CoSIR 这套训练能管到哪儿、管不到哪儿,界线挺清楚:AI 使用和处理信息的能力它确实提上去了,但协作里的所有麻烦它并没有一并解决,练出来的是有针对性的本事,并非包治百病。

研究团队还留了个心眼:练这种协作能力,会不会把模型本身的通用本事给拖累,比如数学、常识、指令遵循这些基本功?他们为此专门在

这个结果的分量不轻。不少针对单项能力的强化训练,容易落下“学了新本事、忘了老本行”的毛病;CoSIR 能一边不牺牲基础能力、一边把协作表现单独提上去,看得出训练设计收着劲、瞄得准,没有用力过猛,把模型原有的能力结构弄坏。

Q&A

Q1:CoSIR是什么?

A:CoSIR是一种训练

Q2:CoSIR和传统基于结果的

A:老办法是看团队最后任务做对还是做错,拿这个给整段对话打分;CoSIR 不一样,它能把每句话、每次提问、每回用上信息各自值多少拆清楚,奖励信号更细,训练效果也跟着更好。

Q3:CoSIR训练出来的AI团队协作能力能不能用在训练之外的新任务上?

A:行。研究者挑了七个此前完全没接触过的任务来测,三个不同的基础模型经 CoSIR 训练后,在这七个任务上全都比训练前表现更好,可见学到手的协作行为有一定泛化能力,不是只认得训练时见过的那些题。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 军事任务分析AI实测:62分都够不到,25.9%概率踩雷

    你有没有想过,一个军官要花一周时间才能写完一份作战分析报告?这不是夸张。真实的军事行动分析,需要一个参谋团队把成堆的情报文件、作战命令、地图资料嚼碎了消化,然后吐出一份结构化的判断:敌人想干什么,我们能干什么,哪些是事实哪些是猜测,还缺什么信息才能做决定。这个过程在美军联合作战计划流程里有个专门的名...

    来源 腾讯网
  2. 苹果联合OpenEvidence启动健康AI研究:招募20万人评估

    IT之家 11 月 16 日消息,当地时间 11 月 15 日,苹果宣布启动 Apple Health AI Usage Study,与临床 AI 平台 OpenEvidence 合作,在美国招募最多 20 万名 21 岁及以上用户,评估人们如何与对话式健康 AI 工具互动。此次研究将通过一款专用 iOS 应用进行,参

    来源 腾讯网
  3. 中国东盟:2027年定为AI合作年,自贸区3.0版2026年12月生效

    IT之家 11 月 16 日消息,据央视新闻今日报道,中国与东盟宣布将 2027 年定为人工智能合作年。 此外,中国-东盟自贸区 3.0 版升级议定书将于 2026 年 12 月 1 日生效。 IT之家注:东南亚国家联盟(ASEAN,简称东盟)是一个由东南亚国家组成的政治经济联盟,1967 年 8 月 8 日在泰国曼谷

    来源 AI 行业观察
  4. OpenAI推ChatGPT钱包:联手三大支付网络,AI代理可代付

    财联社11月14日讯(编辑 史正丞)随着越来越多的AI代理能够进行商品比价、旅行规划,科技巨头正试图打通这套流程中的下一个环节:让AI能够以尽可能安全的方式完成付款。北京时间周五晚间,OpenAI宣布推出ChatGPT钱包。该产品的主要卖点是AI巨头与美国运通、万事达和Visa三大支付网络合作,通过替代支付凭证,让AI

    来源 腾讯网
  5. 燃气轮机订单排到2031年,AI公司开始拆航发供电

    (本文作者为 硅碳变量,钛媒体经授权发布)文|硅碳变量,作者|沈浪据英国《金融时报》11月8日报道,Anthropic在9月下旬与位于德克萨斯州圣安东尼奥的设备供应商OnePWR Solutions完成一笔交易,以34亿美元(约合人民币227亿元)锁定1.7吉瓦重型发电机供货,用于数据中心的电力供给。更早之前,AI基础

    来源 腾讯网
  6. AI最近有点忙:陪大爷下棋,还得哄奶奶开心

    乌镇的书场散场,说书先生一句“且听下回分解”,下了台。下一段要等半小时,在北京工作的小何难得和陪爸爸旅游,俩人意犹未尽,桌案上摆着一副象棋,老何拿起棋子,小何不懂棋,但她有豆包。视频通话一开,镜头对准棋盘,豆包开始指挥:“车六平四”“马二进三”。小何听不懂,豆包换了个说法:“你左手边那个炮,过河,放...

    来源 腾讯网
  7. 亚马逊40颗卫星随“火神”升空失利,ULA成立以来首次全损

    ULA发射负责人根据飞行数据确认,火箭在升空约10分钟后出现异常,未能将卫星送入低地轨道,目前尚无具体数据判断事故原因。亚马逊已从ULA购买了38次“火神”发射服务,当天的任务是这一合同中的首次执行。随着首飞失利,亚马逊借助“火神”大规模部署低轨卫星的节奏将不可避免地受到影响。ULA表示,将与亚马逊及其他相关机构密切合

    来源 TechWeb
  8. 美国ULA“火神”火箭复飞失利,亚马逊40颗宽带卫星全损

    ULA发射负责人根据飞行数据确认,火箭在升空约10分钟后出现异常,未能将卫星送入低地轨道,目前尚无具体数据判断事故原因。亚马逊已从ULA购买了38次“火神”发射服务,当天的任务是这一合同中的首次执行。随着首飞失利,亚马逊借助“火神”大规模部署低轨卫星的节奏将不可避免地受到影响。ULA表示,将与亚马逊及其他相关机构密切合

    来源 TechWeb
  9. VLM记忆机制综述出炉:八机构联合提出4D分类框架

    来自 Duke、Google、USC、UPenn、UNC 等八家机构的研究者联合发布最新视觉语言模型(VLM)记忆机制的系统性综述。基于全新的 4D 分类框架,系统梳理了 300 余篇相关工作和近 70 个评测基准,覆盖长视频理解与生成、多模态 RAG、具身导航与行动、个性化助手等八个热点应用场景。论文:Memory

    来源 腾讯网
  10. 微软致歉全球服务中断:网络容量升级所致,恢复时间未定

    【TechWeb】11月14日消息,当地时间11月13日,微软公司就一起导致数百万用户受影响的全球性服务中断事件公开致歉。微软表示,此次故障“与网络攻击或人工智能/智能体(AI agents)无关”,而是由早先一次“网络容量升级”引发。目前,公司尚无法预计服务何时能够完全恢复。 据央视新闻报道,微软在声明中对此次事件给

    来源 AI 行业观察
  11. 海睿数科双授权:6人团队、8张腾讯云认证,服务500余家企业

    一、一张证书与一层身份:双授权到底意味着什么 企业服务市场里,"战略合作""生态伙伴""授权服务商"这类称谓长期缺乏统一标准。海睿数科的做法是把凭证摆出来,让客户自己核对。 腾讯云原厂出具的授权文件载明三项信息:授权对象为苏州海睿数字科技有限公司,授权范围为"腾讯 WorkBuddy/CodeBuddy 官方授权合作伙

    来源 AI 行业观察
  12. 腾讯总办号召AI时代再创业:不拥抱就是被颠覆

    今日,“腾讯文化”公众号发文《总办号召 AI 时代再创业,“心态归零”》,再度谈及28岁生日这天,腾讯总办对AI时代的机会、挑战与选择的看法。文章指出,面对技术变革的巨浪,没有人是旁观者。所有人都要做出选择。如果不想被颠覆,真正重要的事只有一件:一起动起来。“现在进行的智能革命如果不投入拥抱,就是被颠覆。这是一个生死存

    来源 TechWeb
  13. 腾讯总办喊话AI再创业:不投入拥抱就是被颠覆

    今日,“腾讯文化”公众号发文《总办号召 AI 时代再创业,“心态归零”》,再度谈及28岁生日这天,腾讯总办对AI时代的机会、挑战与选择的看法。文章指出,面对技术变革的巨浪,没有人是旁观者。所有人都要做出选择。如果不想被颠覆,真正重要的事只有一件:一起动起来。“现在进行的智能革命如果不投入拥抱,就是被颠覆。这是一个生死存

    来源 TechWeb
  14. CataX AI完成4000万元种子轮融资,启明创投孵化并独家投资

    【TechWeb】11月16日消息,近日,上海凯思达生物医药科技有限公司(下称CataX AI)宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。 CataX AI创立于上海,是一家智能体(Agent)原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-

    来源 AI 行业观察
  15. CataX AI种轮融资4000万:Agent原生推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  16. CataX AI获4000万种子轮融资,用Agent推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  17. 鄢挺:半导体设备商如何应对产业变局?创新、韧性与合作成关键

    11月12日,由中国电子信息产业发展研究院、中国半导体行业协会共同主办的第二十三届中国国际半导体博览会(IC China 2026)在北京国家会议中心开幕,同期举办第八届IC企业家大会(以下简称“企业家大会”)。亚舍立中国区总经理鄢挺在企业家大会发表主旨演讲时表示,人工智能与电气化的双重浪潮,正推动半导体设备产业走向.

    来源 腾讯网
  18. 机器人产业升温:南方电网联手宇树,京东工业上线零部件采购平台

    * 行业动态 机器人行业日报(11.14) : 机器人产业升温 机器人产业升温,多企业与机构合作布局,市场规模预计2025年达9150亿元。南方电网与宇树科技签署战略合作,特斯拉人形机器人预计2027年底交付。全球具身智能企业超400家,中国占比半数。京东工业发布机器人零部件采购平台,沈阳市举办融资需求对接会。2026

    来源 腾讯网
  19. Apple Pay韩国接入KakaoBank,第二家合作机构落地

    11月16日,财闻海外资讯援引韩联社报道,苹果(AAPL.US)旗下移动支付服务Apple Pay在韩国市场打破现代卡(Hyundai Card)独家合作格局,互联网银行Kakao Bank(323410)正式加入,引发市场对其扩张前景的关注。Apple Pay于2023年3月由现代卡率先引入韩国,历经约3年8个月方迎

    来源 腾讯网
  20. AI 版拓麻歌子来了:日常物品秒变需要被照顾的虚拟宠物

    OATs 通过电子墨水屏与传感器,让植物、滑板、哑铃等物品拥有虚拟宠物形象,以情绪变化反馈使用状态。该技术由卡内基梅隆大学博士生金大华开发,硬件成本约 20 美元,目前续航仅 3 至 4 天。#AI智能体# #卡内基梅隆大学#

    来源 IT之家
  21. Anthropic花34亿美元买发电机:AI算力争夺战打到电力端

    据英国《金融时报》11月8日报道,Anthropic在9月下旬与位于德克萨斯州圣安东尼奥的设备供应商OnePWR Solutions完成一笔交易,以34亿美元(约合人民币227亿元)锁定1.7吉瓦重型发电机供货,用于数据中心的电力供给。 更早之前,AI基础设施公司Crusoe于4月向密苏里州ProEnergy订购13台

    来源 AI 行业观察
  22. Deedy Das 榜单:30家百亿美元AI独角兽,中国公司进前十

    11月15日,硅谷老牌风投机构Menlo Ventures合伙人Deedy Das(@deedydas)在社交平台晒出一张全球AI公司估值与营收排行榜。 Menlo Ventures成立于1976年,是硅谷历史最悠久的风险投资机构之一,曾投资Uber、Chime等知名科技公司。近年来,这家机构将AI作为重点投资方向,投

    来源 AI 行业观察
  23. 苹果HomeView首批评测:Siri AI短板与隐私担忧待解?

    IT之家 11 月 15 日消息,苹果首款智能家庭中枢 HomeView 已经于 11 月 13 日在海外上市,配备 7 英寸 Liquid Retina 显示屏、A18 芯片、人脸识别功能,但外界期待已久的 Siri AI 仍处于测试阶段,如今出炉的首批媒体评测、用户体验说明,苹果还有大量工作没有完成。 NBC 首席

    来源 AI 行业观察
  24. 黄仁勋去职风波:马斯克等联名请愿,超11.5万签名要求复职

    11月14日报道,马斯克等科技高管联名签署请愿书,呼吁英伟达董事会恢复黄仁勋CEO职务。截至周六下午,已有超11.5万人签名,包括5965名现任员工、1108名前员工和63063名股东。支持者还有Replit、Epic Games、Y Combinator的CEO等。请愿书提及黄仁勋在缺乏正当程序情况下的问题。

    来源 AI 产业速递
向下滚动自动加载更多