AI智能体为何总在同一处栽跟头:BELIEFWEAVER用信念更新改写失败恢复

资讯 腾讯网 作者:科技行者 全文 4359 字 · 约 11 分钟读完 分类智能体

你有没有遇到过这种情况:修一个电脑故障,试了方案A没用,换成方案B还是没用,结果绕了一圈才发现,真正的问题出在最开始装系统的时候选错了一个设置。前面所有的修复尝试都是白费功夫,因为你一直在表面上打补丁,根源从来没被碰到。现在让AI智能体去做一个长链条任务,比如写代码、配置服务器、规划一条货运航线,它面对的...

所属频道 智能体与 Agent

修电脑时你可能碰上过这种事:先试方案A,不灵;再换方案B,还是不灵。折腾一大圈才反应过来,毛病出在最初装系统时选错的一个设置上。前面的修复全白费,因为一直在表面打补丁,根源压根没被碰过。

把类似的任务交给AI智能体,情况也差不多。

**

等它终于意识到“哎,这里好像不对”,当初怎么走到这一步的,往往已经记不清了。剩下的动作只有回退一步、换个方向再试,或者索性推倒重来。论文《Failure Recovery via Belief Updates and World Modeling for Long-Horizon Agents》要解决的正是这个问题。

### AI只会“回退重试”,会漏掉什么

眼下的主流思路,是把智能体的探索过程画成一棵树。哪条路失败,就退回上一个节点,换条分支接着走。听着挺合理,人调试代码时也常这么干。

可树状结构藏着一个假设:各条分支彼此不相干。

现实很少这么干净。比如你在修一段货运航线规划代码,一共27项检查,眼下过了19项。你怀疑问题出在“油耗检查缺失”,一查发现这项检查早就有,真正出岔子的是另一个环节——油量在多段航程之间累加传递时算错了。这时如果智能体只会“此路不通就换下一条”,它就永远学不到:刚才那次失败的探索其实已经透露,另一个候选方案(“油耗被高估”)的可信度也该跟着下调,因为两者可能共享同一个底层机制。

树状结构记得住“发生了什么”,却不会拿这个信息去动其他候选方案的优先级。好比十个侦探分头查同一个案子,各报各的线索,没人把线索摆到一块儿比谁更可信。

论文团队给这套系统取名BELIEFWEAVER。

信念编织者*:这是论文给出的核心框架名。它维护一张长期存在的关系图,把探索过的方向、做过的尝试、观察到的结果以及检查点都记在其中;新证据进来后,能反过来改动其他相关假设的优先级,而不只作用于眼下这一次尝试。

### 探索的基本单位:不是“动作”,是“修复假设”

BELIEFWEAVER不一步步盯着具体操作,它把整个探索过程组织成一组可检验的假设,论文里管这叫“

前沿

每个前沿都随身带着一个“

设想你面前摆着一块案件调查板,每个嫌疑人贴一张卡片,卡片上写着“当前可信度”。新线索来了,你不用把整块板子掀翻重来,只走到对应卡片前,把分数往上或往下拨一拨。不这么干会怎样?每有一点新发现就得把所有嫌疑人重新过一遍,效率低得离谱,而且很容易忘掉上周已经排除过的那个人,回头又把他翻出来查一遍。

这块“案件调查板”,论文里叫

持久关系图

“持久”两个字是关键。不少系统回退到上一个检查点时,会把中途产生的探索记录统统清空,等于“从头来”。BELIEFWEAVER不认同这种做法,它让图结构本身跨过回退操作继续留着。这样即便智能体退回到几步之前的状态,它照样记得刚才那次尝试教会了它什么。

### 一个假设该不该信,怎么判断

光有图还不够。图上的信念值究竟怎么算?

论文设计了一套“

反复失败的

关联降权

历史目标反馈

探针反驳

这四类证据并非简单相加,而是以独立的“单元因子”形式乘进赔率公式。每个前沿的信念值单独计算,不涉及前沿之间的联合概率建模。这个取舍本身也值得细想:为什么不建更复杂的联合模型,让所有前沿互相影响?多半是因为联合建模的计算成本和设计复杂度会迅速失控,而眼下这种“关系决定谁受谁的证据影响、计算各自独立”的折中,在工程上更可控,调试和解释也更容易。

### AI需要一个“内心的推演者”:

只记住过去发生的事还不够。智能体还得清楚,下一步往哪个方向探索。

这就是论文里的另一个核心组件:

论文里管它叫隐式世界模型,简称IWM。它的任务是对每一个候选修复假设做三方面评估:有没有证据撑得住、往下推大概能走多远、跟别的假设之间是什么关系。叫"隐式",是因为它并不去学环境本身精确的运行规律,而是直接拿当前已有的探索上下文来做推理判断。

落到操作上,这个模型干四件事。头一件是生成候选假设:把任务要求、带行号的源代码、当前的诊断信息、历史尝试记录一起交给大模型,让它提出一个具体的修复假设,讲清哪里的实现和规格对不上、可能的机制是什么、该收集哪些证据、用哪个检查项去验证。

第二件是诊断探测和证据判断。针对每个候选假设生成一条诊断命令,在临时的环境副本里跑一遍,再让一个独立的"

第三件是前瞻性评估:由两个专家角色来估计推进某个假设大概能带来多大进展。一个叫

第四件是推断假设之间的关系,看哪些假设其实是在细化同一个方向,哪些又共享着同一个底层故障机制。

这四个角色凑一块儿,等于给智能体配了个"内部参谋团"。参谋团不动手修,只管分析每个方向值不值得试、试了大概能有多少收获。

打个比方,外科医生每次动手术前都得先做CT、问病史、查血常规,这套流程确实慢,可省掉它直接开刀呢?可能切错地方,也可能白切一刀什么问题都没解决。IWM干的就是术前检查的活儿,让智能体在真正执行修复动作之前,先用低成本的办法确认这条路值不值得走。

### 两套闸门:排名和准入资格是两件事

论文里有处设计挺巧妙,把"这个方向排第几"和"这个方向能不能现在就上手"拆成了两套独立的判断逻辑。排名看的是信念值减掉一个失败惩罚项,信念值越高、近期又没有失败记录的候选项,排得越靠前。可光排名靠前还上不了场,得再过一道准入门槛:必须拿到"证据一致"的诊断判定,并且目标检查项还没通过。两个条件同时满足,才会真正交到执行器手里去修。要是没有任何候选项同时满足,智能体就老老实实继续普通执行,不带着某个具体假设去冒险。

这么拆,避开了一个很常见的坑:一个"看着很有希望、其实证据还不够扎实"的假设被草率地付诸行动。就像招聘,简历分数高(排名)和背景调查通过(准入资格)得同时满足,你才会发offer;简历再亮眼,背调发现造假,照样不能录用。

### 实验结果:省时间,还提分

论文在三个终端类基准测试上做了实验,分别是

拿

论文还做了拆解实验,一步步加组件看效果:只加"结构化续写"(支持检查点、候选执行、回退),就能带来2.9分的提升;单独加"世界模型打底"(诊断探针和执行反馈),整体分数反而掉了1.7分;但把持久关系信念和证据门控执行机制加在打底之上,分数又能拉高3.9分。这个结果挺有意思,说明光有诊断信息本身不够,甚至可能帮倒忙,真正起作用的是让这些诊断信息被合理组织和利用起来的那套信念更新机制。

资源消耗方面,跟原生基线比,完整系统反而少了13.2%的执行步数和17.8%的执行时间,代价是控制器调用次数从每任务不到9次涨到了33.4次。这里头的权衡很直白:多花点"思考成本",也就是调用IWM去评估候选方案,省下了"动手成本",也就是真正去执行无效操作的时间。

### 把聪明劲儿塞进小模型里

33次控制器调用听着不多,可每次调用都要跑一遍昂贵的大模型推理,成本很快就堆起来了。论文接下来做的事,是把IWM里反复出现的四个角色(探针生成、证据判断、关系推断、条款评估)

蒸馏

训练分两步走。第一步是

第一步训练出的模型为何不能直接拿来用?SFT 阶段学生接触的场景,全都来自教师主导探索的过程,而学生自己独立做决策时遇到的局面,跟这些场景未必对得上。就像学车,教练始终把手放在方向盘上带你走,你记住的其实是教练的开车习惯;等真正独自上路才明白,路况跟教练领你跑的那条线完全两码事。OPD 干的事,是把方向盘交到学生手里,让它在真实路况中自己攒经验,教练只在一旁打分、纠偏,手不再碰方向盘。

这样一来,这个 9B 学生模型的整体得分最终落在58.4%,比原生基线高9.8个百分点,也比它跟着学的教师模型(53.7%)高出4.7个百分点。蒸馏里常见的是学生追近老师、却总差一口气,这次不是那个剧本——学生按自己实际碰到的场景做了适配,反过来超过了老师。

再往前一步,论文还让学生自己去生成修复假设,不再依赖教师来生成。这个版本把教师API的请求数减少了74.5%,单任务预估成本从0.550美元降到0.100美元,降幅81.9%,任务得分还比对照的教师模型高3.8个百分点。

### 这套系统也有没解决的地方

论文也如实列出了几处短板。IWM 的预测本身就可能出错,一旦判断偏了,排序就会乱掉,探索的精力也就白费了。另外,眼下建模的假设之间的关系种类还偏少,现实里一个故障往往同时牵扯好几个互相纠缠的原因,现有框架未必扛得住这种复杂度。最后,实验都是在有验证器反馈、能可靠回退检查点的终端任务环境里做的,换成反馈稀疏、或者回退机制不靠谱的场景,这套方法还站不站得住,现在还没有答案。

论文记录了一个失败案例,颇能说明问题。任务是配置Nginx服务器,智能体起初判断“服务没启动”,本地验证时也确实看到了服务器启动成功的提示。可到了下一轮,控制器探针又连不上了。七轮下来,得分一直停在37.5%。单次本地执行成功,和检查点真正被持久保留的状态,中间可能隔着一段距离。系统有时会被局部、瞬时的成功信号带偏,以为问题已经解决,实际那个成功状态未必被固化下来。

Q&A

Q1:BELIEFWEAVER是什么?它是一个框架,用来帮AI智能体从长链条任务的失败中恢复过来。做法是用一张持久的关系图,把探索过的修复假设、尝试、观察和检查点都记下来。新证据进来后,能反过来调整其他相关假设的优先级,而不是只对最近一次尝试生效。此外,它还配了一个隐式世界模型,用来评估候选修复方向的价值。

Q2:相比传统的树状回退探索方法,BELIEFWEAVER优势在哪?传统树状结构里,各分支彼此独立,一次失败只影响当前这条分支。BELIEFWEAVER不同,一次失败的证据可以反过来调整其他相关候选方案的优先级,比如那些共享同一故障机制的假设。实验显示,整体最终得分提升了5.1个百分点,执行步数和时间也都减少了。

Q3:把BELIEFWEAVER蒸馏进9B小模型,效果如何?蒸馏后的9B学生模型比原生基线提升了9.8个百分点,甚至比教师模型本身还高出4.7分。再让学生自己生成修复假设,教师API成本能降低81.9%,从每任务0.55美元降到0.1美元,任务得分依然保持领先。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌AI智能体改一处代码成功率翻8倍:Harness自我优化研究

    IT之家 11 月 20 日消息,谷歌研究人员当地时间 11 月 17 日最新发表的研究论文《Harnesses That Improve Themselves》(《能够自我改进的 Harness》)显示,通过让 AI 智能体逐步修改自身运行框架,并对每次修改进行验证,可以显著提高软件工程任务的完成率。在一项 SWE-

    来源 腾讯网
  2. 智能体AI架构:挑战与机遇并存,工程师如何应对

    大多数软件工程师和架构师对微服务和云原生架构早已耳熟能详,多年来也一直参与构建基于这些架构的系统。基于微服务的系统通常由数十、数百甚至数千个服务组成,负责不同类型的数据处理任务——API 端点、数据管道、后台工作流,以及各类中间场景——但它们都有一个共同点:按照代码确定的逻辑或基于从数据存储中检索到的数据来处理数据。这

    来源 AI 行业观察
  3. 智能体AI架构落地:挑战在哪,机会又在哪

    智能体 AI 架构在微服务与云原生架构的基础上进行了扩展,引入具备上下文感知、记忆能力,并遵循 MCP、A2A 等协议的 AI 智能体。本文探讨受限上下文集成、依赖任务的协同策略、新型安全风险以及可观测性需求。

    来源 InfoQ
  4. AI做PPT、搭网页居然都免费?用完豆包工作我算了下账

    就拿小雷自己来说,自从把整理资料、分析财报、制作PPT等工作交给Agent软件(WorkBuddy、豆包工作等)后,也发现随着使用次数和任务复杂度的增加,AI消耗的积分也确实不少,很多时候赠送积分已经完全不够用,需要额外开会员和充值才行。

    来源 凤凰科技
  5. 34家领航工厂名单公布:AI进车间,质检排产维护各省哪笔钱

    一条产线换产品时少停一会儿,一批零件早点发现缺陷,一台设备在故障前安排检修——AI进车间的价值,最终要落到这些生产记录上。11月18日,工信部等六部门发布2026年度领航级智能工厂培育名单;19日,新一批34家企业在南京世界智能制造大会集体亮相。正式通知提出,支持企业建设高质量数据集、开发工业智能体、探索先进制造模式和

    来源 腾讯网
  6. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  7. 苹果AI新布局:自研智能体操控Mac,对标四款竞品

    TechCrunch报道称,苹果似乎正在开发可在Mac上自主执行任务的AI智能体,直接对标Meta Muse、Instinct、Claude与OpenAI Dots等产品。这标志着苹果的AI战略正从Siri式的语音助手,转向能够理解目标、拆解步骤并操作用户界面的“行动型AI”。凭借软硬件一体化与端侧算力优势,

    来源 AI 科技快讯
  8. 苹果自研AI智能体曝光:招聘信息透露产品方向,对手已抢先落地

    苹果公司正开发自家AI智能体,以期与OpenAI、Anthropic竞争。11月19日,据彭博报道,苹果公司正在开发一款能够代替用户完成任务的自主人工智能智能体,正式进军由OpenAI、Anthropic、Meta等公司激烈角逐的赛道。此前11月18日苹果官网新增一条招聘信息,透露公司正在寻找一名高级工程经理,负责一款

    来源 腾讯网
  9. 三星 One UI 9.5 代码现 Gauss 4,自研 AI 模型再进一步

    IT之家 11 月 20 日消息,科技媒体 SammyGuru 昨日(11 月 19 日)报道,称三星正在积极推进自研 Gauss 系列 AI 模型,在 One UI 9.5 首个 Beta 测试版中,发现了 Gauss 4 E2B 模型踪迹。 相关名称出现在支撑 AI 智能体功能的 Personal Agent Co

    来源 AI 行业观察
  10. 苹果招聘曝光AI Agent计划:Siri要从动嘴变动手?

    苹果招聘信息透露,公司正开发可跨应用操作、独立规划并执行多步骤任务的 AI Agent,并强调隐私与权限管理。据彭博社报道,项目仍处早期阶段。面对已积累用户与收入的竞争对手,苹果正争夺下一代计算入口。

    来源 爱范儿
  11. 苹果自研AI智能体曝光:让它替你操作Mac

    TechCrunch报道称,苹果似乎正在开发可在Mac上自主执行任务的AI智能体,直接对标Meta Muse、Instinct、Claude与OpenAI Dots等产品。这标志着苹果的AI战略正从Siri式的语音助手,转向能够理解目标、拆解步骤并操作用户界面的“行动型AI”。凭借软硬件一体化与端侧算力优势,苹果有机会

    来源 AI 行业观察
  12. 谷歌Gemini登陆Mac:AI代理代操作电脑,桌面入口争夺战开跑?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险,也成为用

    来源 AI 行业观察
  13. Uber建MCP Gateway:800个服务器、5000个工具如何统一调度

    作者 | Leela Kumili译者 | 田橙随着 AI 智能体在公司内部得到广泛采用,Uber 构建了一套 MCP Gateway,用于规范智能体发现和调用内部服务的方式,以解决集成碎片化、基础设施重复建设和安全实践不一致等问题。该平台支持 800 多个 MCP 服务器和 5000 多个工具,为服务发现、协议转换、

    来源 腾讯网
  14. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  15. 936个AI智能体12周发936篇论文,还自建期刊搞同行评议

    一个完全由AI组成的科学家社会,是什么样? 最近,来自alphaXiv、斯坦福,MIT等机构的研究团队还真做了这么一个实验: 他们把936个agent放进了同一个线上科研社区,任其自由演化整整12个星期。 规则很简单:研究团队搭建好共享预印本服务器和聊天室,35家人类实验室只负责提供算力、API预算和宽泛的研究方向。

    来源 AI 行业观察
  16. Meta Muse Charm定价300美元:可直连AI,赠12个月5G流量

    据The Information报道,Meta计划将新款AI设备Muse Charm定价为300美元,该设备配备屏幕和指纹传感器,用户触碰即可直接与Muse AI智能体语音对话,无需解锁手机。设备还可能附赠Verizon提供的12个月免费5G数据套餐,Meta未直接确认定价。

    来源 凤凰科技
  17. 深夜,美股AI血崩,英伟达市值已跌去2.7万亿美元

    智东西(公众号:zhidxcom)编译 | ZeR0编辑 | 漠影智东西11月21日消息,一夜之间,美股惨遭“黑色星期五”,对AI泡沫加剧的担忧引发华尔街抛售潮,恐慌情绪集中爆发,美国科技股一片哀嚎,英伟达股价暴跌14%,戴尔暴跌11%,Anthropic暴跌9%,甲骨文、SpaceX、特斯拉暴跌8%,Meta暴跌6%

    来源 腾讯网
  18. 张博开源Linger:零token费本地跑125B模型,12GB显卡够用

    11月19日,前DeepSeek-VL项目负责人张博在X宣布开源个人Agent Linger,开发主体是张博创办的SIMPLEX AI TECHNOLOGIES PTE. LTD.(以下简称“Simplex AI”),代码已上传GitHub。按项目文档,Linger读取本地邮件、日历和文件,操作用户已登录的浏览器;连接

    来源 腾讯网
  19. 持续学习这道AGI前的大坎,AI也已经踏过了

    从 2025 年年中开始,持续学习就被视为通向通用人工智能(AGI)之路上最难越过的一座山。 强化学习之父 Richard Sutton 在 2025 年 9 月的对谈中就提出过,真实世界太过庞大且时刻都在变化,智能体必须在与环境的直接交互中边走边学。而单靠静态预训练的方法走不出真正的通用智能,最终只会陷入模仿人类既有

    来源 AI 行业观察
  20. OpenAI开放GPT-Live-1.1 API:语音智能体可边聊边干活

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音

    来源 AI 行业观察
  21. 谷歌字节快手集体降价,AI视频进入分秒计价时代?

    (本文作者为 AIX财经,钛媒体经授权发布)文 | AIX财经,作者 | 王璐,编辑 | 魏佳AI视频行业正在靠近一个类似DeepSeek的时刻,模型能力差距收窄,价格被打到分/秒,创作者开始批量调用。11月初,谷歌把视频模型Gemini Omni 1.2 Flash转为正式版,不仅支持15秒视频生成和多轮对话式编辑等

    来源 腾讯网
向下滚动自动加载更多