AI编程助手改坏代码库不自知,ANTE框架让模型先预判再动手

资讯 腾讯网 作者:科技行者 全文 5271 字 · 约 14 分钟读完 分类AI 编程智能体

你有没有遇到过这种情况:改了一行代码,眼前的 bug 确实修好了,可过两天发现别的地方悄悄坏了,而你完全不知道是什么时候、哪一次改动埋下的雷。现在把这个场景搬到 AI 编程助手身上,问题会更严重。因为这些 AI 智能体干活的方式是这样的:读一段代码,想一想,调一个工具,看看结果,再想一想,再调一个工具,一直循环...

所属频道 智能体与 AgentAI 编程与开发

改一行代码,眼前的bug是修好了,过两天却冒出别处的毛病,什么时候、哪次改动埋下的雷,你根本说不清。

换成AI编程助手,这个麻烦只会更大。这类智能体干活是循环式的:读一段代码,想一想,调一个工具,看结果,再想,再调,直到自认为任务完成就提交。整个过程中,它能收到的“你做得对不对”的信号,只有最后那一次测试的通过与否。

局面因此很棘手。一个修复流程走了40步,最后测试失败,系统只能告诉模型“这次不行”,却说不清雷是第3步埋的还是第37步搞砸的。反过来,测试通过也不代表万事大吉——AI为了让眼前这个测试变绿,完全可能顺手弄坏项目里其他本来正常的功能,而这种破坏要等到更全面的检查才会露出来。

AWS AI Lab 和马里兰大学的研究者盯上的正是这个问题,他们做出了一个叫 ANTE(Anticipate, Then Execute,先预判再行动)的框架。思路说起来不复杂:每次动手之前,让AI先写下自己认为会发生什么,然后真的去执行,再用执行的真实结果去对账,对上了给奖励,对错了给惩罚。这个“先立字据再动手”的机制是怎么设计出来的,又解决了什么真正棘手的问题,下面展开看。

没有预判的AI,就像蒙眼开车

先把论文要解决的具体问题说清楚。

**代码智能体**:指的是能自主阅读代码仓库、调用命令行工具、编辑文件、运行测试,并依据结果决定下一步动作的AI系统。它做的不是简单问答,而是在真实容器环境里连续操作几十步,直到任务完成或放弃。

眼下训练这类智能体主要靠两条路:一是

论文里有个很具体的例子。某个代码仓库共有242个测试,其中一个是日期解析相关的测试,失败了。一个"

这两种智能体的毛病其实是一回事:不管只会反应,还是会记日志,它们动手之前都没问过自己一句“这么改,会不会把别的地方搞坏”。

这好比你是个水管工,接到报修说厨房水龙头漏水。你可以直接拧开水龙头就修(

让AI先“立字据”:

ANTE 的核心机制叫**

这个信念状态具体由三部分组成:先说当前掌握的情况——已经确认了什么、哪部分仍有问题;再给出一个预判——本轮检查会通过、失败,还是压根没有明确的检查项,命令本身又能否顺利执行而不崩溃;最后是“信任还是

**

这套机制跟公司里的决策汇报其实很像。靠谱的项目经理做重大决定前,会先说清楚“我判断这次上线大概率会出问题,建议先不推”,而不是闷头做完再说“结果确实出了问题”。前者是提前预判并承担责任,后者只是事后复盘。缺了这个“先说判断、再承担后果”的机制,团队就没法从错误决策里学到东西,因为没人知道决策那一刻到底是基于什么判断做出来的。

这个信念状态怎么被检验?论文设计了一个确定性的**

训练分两步走:先学会说人话,再学会说实话

ANTE 的训练分成两个阶段,这个顺序安排得挺讲究。

第一阶段叫 **

这一步的作用,说白了是先让模型学会“怎么说”。论文里有个理论分析挺有意思,证明了该阶段能把训练出的模型与原始演示数据之间的成功率差距控制在一个可计算的范围内;但它也坦诚承认一个局限:训练语料里的预测标签是事后从真实结果反推回去的(所谓“事后诸葛亮”式标注),模型在这一步学到的更多是“格式对不对”,而不是“在真实未知情况下判断准不准”。这个差距,论文用一个专门的符号 Λ 来表示,要靠第二阶段来弥补。

这就像教小孩写周记。第一步先让他照着范文抄格式,学会“今天做了什么、遇到了什么困难、打算怎么办”这个结构。这时候他写得通顺,但未必真的会提前规划,因为范文本来就是写完以后整理出来的,格式学得再像,也不等于真具备了“先想后做”的能力。真正的预判能力,得靠他自己真刀真枪去经历“预测错了、吃了亏”才能练出来。

第二阶段叫 **

BAPO

这里要讲 ANTE 最核心的技术贡献,叫 **BAPO**(Belief-Anchored Policy Optimization,信念锚定的策略优化):这是一种新的强化学习记账方式,不再只看一整条轨迹最后成不成功,而是把轨迹中所有“做出了相同预测”的步骤拎出来放在一起比较,按谁的真实结果更好来分配奖励。

要理解 BAPO 为什么重要,得先搞清楚传统强化学习的记账方式问题出在哪。常规做法是:一条轨迹(也就是一整次任务的完整操作过程)跑完得到一个最终奖励(成功记1,失败记0),再把这个奖励“摊”给轨迹里的每一步,不管这一步是关键决策还是无关紧要的查看操作,分到的学分都一样。这好比一个项目组十个人干了一个月,项目最后成了,于是不管谁出了力、谁在摸鱼,年终奖一律平分,这显然没法让团队学到“谁的决策真正值钱”。

BAPO 换了个分组依据:不按步骤在轨迹里出现的先后排,而是看预测内容——凡预测"这一步检查会过"的归一堆,预测"会挂"的归另一堆,不管它们分散在哪条轨迹的第几步。这套安排搭起了同行对比的路子。比方说三条各自独立的尝试轨迹里,各有一处预测"这个检查会失败":两处后来被证实没错,而且是在老老实实承认"不太确定"的前提下猜对的;另一处则拍胸脯断定"肯定失败",结果错了。这三步分处三条完全不同的轨迹、位置也对不上,BAPO 却把它们摆到一起衡量——诚实且准的拿正分,自信却看走眼的吃负分。

**

**

再细一层,BAPO 还分出了……这套机制像体育赛事里的同组别排名:业余五段不会去跟职业九段比输赢,那种比较没意义,跟同为业余五段的对手过招,胜负才说明水平。要是省掉分组、把所有棋手的战绩搅在一起算平均,业余和职业之间的落差会把有用的信号全盖住。BAPO 干的就是这件事——把"预测相同"的步骤拉到同一个擂台上较量,谁判断得更靠得住才看得出来。

论文里另有个细节:BAPO 最后落到每一步上的学分,是"信念组"和"……"两部分合出来的。推理阶段也没停下:

训练好的模型并非只在训练时用这套预判,真到干活(推理阶段),这个本事还能接着使。这就是 **……巧妙在哪?像"多生成几条再挑最好的"(best-of-n)这类常见的测试时扩展做法,一般得把每个候选都实跑一遍,拿结果来比,代价不小。ANTE-TTO 用的是模型训练出来的"预判":既然信念状态里已经写下了对每个候选的预测,那就照这些预测排序,挑分数最高的去执行,剩下的方案只停留在纸面,压根不用真跑。

论文的数据很能说明问题:7B 规模的模型上,ANTE-TTO 只比单次直接尝试多花约 31% 的推理 token,任务成功率就上去了;传统"跑 4 次选最好"(TTS-4)则要多花 4.42 倍的调用成本。折算下来,ANTE-TTO 平均只用了 TTS-4 约十分之一的开销,收益却接近。

这就像老司机在堵车路段挑路线:不必把三条备选路线全开一遍再比哪条快,扫一眼路况就能判断"这条大概率堵,那条应该顺",然后直接走那条。非要每条都实地跑完才敢定,等三条开完,目的地也不用去了——传统最佳选择方法的代价正在这里。

这套方法到底管不管用:从 7B 到 32B 全面验证。设计思路说了这么多,下面看效果。

论文测了两个不同的任务环境:一个是基于真实 GitHub 代码仓库问题的修复任务(用的是……

代码仓库修复任务上,ANTE 在 7B、14B、32B 三档规模全部压过两个对照组——一个是"只思考不记录"的反应式智能体,一个是"思考加记日志"的回顾式智能体。数字是:7B 规模下 ANTE 领先反应式 2.8 个百分点、领先回顾式 2.0 个百分点;14B 规模下分别领先 4.4 和 2.8 个百分点;到 32B 规模,差距拉到 6.2 和 4.8 个百分点,ANTE-32B 最终拿到 **57.2%** 的通过率。

有个趋势值得琢磨:模型越大,ANTE 的优势越明显。这说明预判能力或许跟模型自身的推理能力互相成全——模型越聪明,"预判"做得越细越准,这份能力也越能转成实际的任务成功率。

终端任务上情况类似。9B 规模的 ANTE 在三个终端基准测试上都领先两个对照组,幅度在 6.7 到 10 个百分点之间,Terminal-Bench 2.0 上拿到 24.7% 的解决率。

论文还做了个剥离实验:把 BAPO 这套记账机制拿掉,只留"写信念状态"的格式,看单靠"让模型说出预测"能带来多少提升。结果显示,即便没有 BAPO 的精细记账,光让模型养成"动手前先预测"的习惯,就有 1 到 5.5 个百分点的提升——"预判"这个动作本身有价值,BAPO 则在此基础上又挖出大约一半甚至更多的额外收益。

论文里还有张图,追踪强化学习训练中模型预测准确率怎么一步步往上走:32B 模型的预测命中率从训练初期的 44% 爬到 69%,同时"信任"自己预测的比例翻了一倍,这份"信任"的准确率也跟着涨——模型不是在瞎自信,而是真学会了"什么时候该信自己、什么时候该留一手"。

跨领域泛化:这套预判能力不只在写代码时管用。一个方法若只在训练过的场景好使、换个场景就失灵,价值要打折扣。论文专门测了 ANTE 在训练场景之外的表现,覆盖代码执行预测、逻辑状态追踪、数学推理、科学推理等十一个完全不同的评测集。

结果:没有针对这些任务专门训练,ANTE-32B 平均仍比对照组(反应式强化学习版本)高出 6.2 个百分点,在……

这个跨领域迁移的结果挺有意思,它暗示:"先预测、再验证、拿真实结果来对账"这个思维习惯,可能不是专为代码调试场景设计的技巧,更像一种通用的、更谨慎的推理方式——好比一个人养成了"做决定前先想清楚后果"的习惯,这习惯不会只在本职工作里管用,换个场景照样有用。

写在后面

读这篇论文时,有一处细节让我停下来想了很久:论文特意强调,一个"自信地预测失败,并且确实失败了"的判断,该拿正向奖励,而不是因为"结果是负面的"就挨罚。

乍看之下,这有点反直觉。平时我们总觉得,预测错了是坏事,预测对了才是好事,而“预测失败”这个结果本身听着就带着负面色彩。可仔细一想,问题就出来了:要是系统对所有“预测失败”的判断都罚,哪怕这判断是准的,模型就会学出一套讨好式的乐观——它倾向于永远预测“会成功”,因为这么猜即使错了,至少姿态上显得积极。这种虚假的乐观恰恰最危险,它会让系统彻底丧失识别真实风险的能力。

这也让我想到一些团队文化里常见的问题。一个团队里,要是说“这个方案有风险、大概率会失败”的人总被当成“唱反调”“不够积极”,时间一长,就再没人愿意讲真话了,大家异口同声说“没问题,能成”,直到真正的失败发生才追悔莫及。ANTE 这套奖励机制等于明确告诉模型:“说真话、哪怕说的是坏消息,也比说假话、哪怕说的是好消息,更值得被奖励。”这个设计选择背后,其实藏着一种对“诚实”的工程化落地,它把“诚实比讨好更有价值”这句听着像人生道理的话,变成了一个能用数学公式计算、能用真实代码执行结果来验证的奖励信号。

这大概是这篇论文最耐人寻味的地方。表面上它解决的是一个很工程化的问题:怎么让 AI 编程助手少捅娄子。但背后触碰到的,其实是个更普遍的问题——一个系统要怎么设计,才能让“说真话”本身变成一件划算的事。

Q&A

Q1:ANTE是什么?

这套强化学习框架叫 ANTE,出自 AWS AI Lab 和马里兰大学。它让 AI 编程智能体先对操作结果写下一份预测,再拿真实执行的结果去核对,学习信号就按核对情况来分配。

Q2:ANTE和普通的AI编程助手训练方法有什么区别?

A:普通方法只看最终任务成没成功来打分,中间每一步判断准不准,它不管。ANTE 不一样:模型在每步操作前先预测结果,并表态是否信任这个预测,再用真实执行结果对账。这样每一步都能单独拿到准确的学分,而不是整条轨迹共享一个笼统的最终奖励。

Q3:ANTE的效果具体怎么样?

A:在代码仓库修复任务

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 梁文锋的“大肥鱼”,围剿大厂 Agent 地盘?

    点击 Tech星球 > 点击右上角“···” > 设为星标 Tech星球(微信ID:tech618)文 | 华卫封面来源 | 豆包AI龙虾(OpenClaw)成为过去时,现在AI社区里流行起了“养鱼”。近日,一群有独特个性的AI小鱼活跃在互联网各个角落。除了在办公、编程中干活,还做了不少意想不到的事儿,有的在社交平台到

    来源 腾讯网
  2. 2026软件行业K型分化:谁在涨,谁在消失

    2026 年初,全球软件行业出现了一个很容易被误读的现象。 一边是“软件要被 AI 吃掉了”的恐慌:企业可以用 AI 编程,自己搭建内部系统;AI Agent 正在替代传统 SaaS 的菜单、表单和席位;软件公司的估值大幅下跌。 另一边却是,部分软件公司正在创下新的增长记录。 10 月,路透社报道,美国软件与服务指数创

    来源 AI 行业观察
  3. 谷歌Gemini 4 Neon发布:100万token上下文,速度达Carbon三倍

    谷歌11月18日发布新AI模型Gemini4Neon,聚焦复杂推理与多步骤任务自动化,重点覆盖复杂编程、科学研究和企业工作流,力求平衡推理能力、响应速度与运行成本。该模型已向开发者、企业及部分付费订阅用户开放,核心亮点是支持100万token超长上下文,并具备多智能体协同能力。

    来源 AI 产业速递
  4. 杨元庆:AI需求正处转折点,私域AI释放将带动基础设施需求

    每经AI快讯,11月19日,联想集团披露了截至2026年9月30日的2026/27财年第二季度业绩。当日下午,联想集团董事长兼CEO杨元庆在媒体沟通会上表示,AI需求正在经历转折点,比如编程、聊天、短剧创作,词元的消耗量每个月都在高速增长,驱动了AI基础设施的发展,他更看好公域AI到私域AI的需求迁移,私域AI需求的释

    来源 腾讯网
  5. Lovable换赛道:从生成应用到经营AI生意

    瑞典AI初创公司Lovable曾凭“氛围编程”掀起应用开发热潮,用户只需用自然语言描述想法,就能生成可运行的网页应用。推出两年后,这家欧洲增长最快的创业公司之一正悄然转向:从帮人做出产品,转向帮人经营生意。本文解析Lovable的战略转型,以及氛围编程从“玩具”走向“生产工具”背后的机遇与隐忧。

    来源 AI 科技快讯
  6. Pedestal AI获470万美元融资:用AI代理改造供应链

    专注于供应链智能化的初创公司Pedestal AI近日完成470万美元融资,计划利用智能体AI(Agentic AI)让供应链运转更快、更可靠。不同于传统可视化软件,其AI代理能够自主监测异常、规划任务并执行决策。随着企业对供应链韧性的需求持续升温,能够自主协同的AI代理正成为物流科技赛道的新焦点。

    来源 AI 科技快讯
  7. 纳德拉:AI代购兴起,恐改写互联网平台盈利模式?

    科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面临重新洗牌。

    来源 IT之家
  8. Office 主客易位:微软把 Word、Excel 塞进 Copilot,AI 当门面

    昨日的 Ignite 2026 大会上,微软官宣 Office 翻开“新篇章”:办公软件不再只是文档、表格与演示工具,而将转型成 AI 智能体协同干活的“智能办公系统”。此前 Copilot 是被塞进各应用当助手,如今整个颠倒:以新款 Copilot 应用为核心,集成完整的 Word、Excel 和

    来源 AI 开发者社区
  9. 网易智企发布双向AI安全架构,Agent越权风险怎么治?

    “当AI从“回答问题”走向“执行任务”,安全治理的边界也必须同步延伸。“数据安全”、“内容审核”曾是企业讨论AI风险时最常见的关键词。但当AI开始读取内部资料、调用外部工具、连接业务系统,甚至按目标完成一连串任务,问题已不只是模型会不会说错话,而是它会不会做错事。11月3日,在2026年世界互联网大会“互联网之光”博览

    来源 腾讯网
  10. MiniMax Code团队揭秘:95%代码由AI写,审阅成本反而更高

    在 MiniMax Code 研发负责人 Ronny 的团队里,95% 以上的代码,甚至文档,都可能由 AI 完成初稿。写完之后,还会有多个 Agent 参与 review。但 AI 写得越快,并不意味着人就能越轻松。比如你的 Personal Agent,它的上下文需要有人长期维护:功能需求需要你管理,开发任务需要你

    来源 腾讯网
  11. 纳德拉:AI代劳网购或洗牌互联网,拒绝接入平台恐失机会?

    IT之家 11 月 19 日消息,科技媒体 TechCrunch 昨日(11 月 18 日)发布博文,报道称在《纽约时报》DealBook 峰会上,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)表示,能够替用户浏览商品、完成购买的 AI 智能体,可能重塑互联网的商业格局,让依赖用户访问和广告收入的平台面

    来源 AI 行业观察
  12. 爱尔兰叫停X用AI抓数据训练Grok,马斯克旗下平台已确认暂停

    人工智能大模型在数据采集与合规层面的监管压力正在持续加码。爱尔兰数据保护委员会(DPC)近日公开证实,已正式勒令社交媒体巨头 X(原 Twitter)暂停将 AI 智能体采集的第三方数据用于训练其 Grok AI 系统。 监管出手:从自主抓取到紧急叫停的前后脉络 据了解,这场监管风波的核心源于 X

    来源 AI 开发者社区
  13. 一年卖了5000万,第一批明星AI产品还是下线了

    11月9日,腾讯元器停服。对一个做公众号的运营者来说,最直接的变化是,自己搭的自动回复机器人不回消息了。元器是腾讯2024年5月推出的零代码智能体平台,用户不用写代码,就能把公众号、知识库和插件拼成一个机器人。 更早之前的10月底,字节扣子发布《扣子企业版下线公告》:11月30日起,企业标准版、企业旗舰版暂停接受新客户

    来源 AI 行业观察
  14. ElevenLabs收购Kotoba:语音AI巨头进军日本,交易2026年四季度完成

    全球语音人工智能领域迎来了一起备受瞩目的行业整合。知名语音 AI 企业 ElevenLabs 于近日正式宣布,已成功收购日本领先的语音 AI 实验室 Kotoba。通过此次强强联手,双方将共同加速 AI 智能体与语音交互界面在全球第四大经济体的深度落地与普及。 突破语言文化壁垒:打造适应本土化深层语

    来源 AI 开发者社区
  15. ElevenLabs收购日本Kotoba:语音AI智能体加速落地日本

    全球语音AI领域现重要整合:ElevenLabs宣布收购日本领先语音AI实验室Kotoba。双方将强强联手,加速AI智能体与语音交互界面在全球第四大经济体日本的落地普及。此次合作意在突破语言文化壁垒,打造适应本土化深层语境的语音AI,应对地域色彩、复杂方言等交流差异,推动语音技术更自然融入当地市场。

    来源 AI 产业速递
  16. 纳德拉预言:AI智能体将重塑互联网经济格局

    微软CEO萨提亚·纳德拉在最新访谈中提出,AI智能体将不再是简单的聊天工具,而是能替用户完成搜索、比价、下单的“数字代理人”。这一转变可能从根本上动摇以广告和流量为核心的互联网商业模式,迫使亚马逊、谷歌等巨头重新思考获客与竞争的方式,内容创作者与广告主的利益分配也将随之重写。

    来源 AI 科技快讯
  17. 华为发布AgenticCore方案:瞄准未来5至10年AI核心网机遇

    IT之家 11 月 19 日消息,今日,由 Informa Tech 主办的第十一届全球核心网峰会上,华为云核心网产品线总裁高治国发表主题演讲。同时,华为发布《下一代核心网演进白皮书》,提出下一代核心网目标架构与演进路径。 ▲ 华为云核心网产品线总裁高治国发表主题演讲 高治国指出,未来 5 至 10 年,Agentic

    来源 AI 行业观察
  18. OpenAI首款AI硬件年底出货:立讯精密独家代工,“甜甜圈”真机渐近

    【TechWeb】OpenAI的首款AI硬件产品有了明确的时间表。11月19日,每日经济新闻援引供应链消息称,这款产品计划于2026年底启动出货,多家中国厂商深度参与其中——立讯精密不仅独家承担整机制造,还同时供应核心零部件。不过,关于这款硬件的具体形态,OpenAI官方至今仍未正式公布,“甜甜圈”“冰球”式的无屏设备

    来源 腾讯网
  19. 剑桥词典2026年度词汇出炉:Human当选,回应AI身份焦虑

    随着 AI 模糊人与机器的界限,剑桥词典把“Human”选为年度词汇。编纂者麦金托什称,当人们把思考外包给 AI 时,更需反思会失去什么。比尔 · 盖茨也表示,衡量 AI 成功应看它多大程度改善人类生活。候选词还有 Agent、Analog。#剑桥词典年度词汇#

    来源 IT之家
  20. OpenCode配Ollama与Qwen3-Coder:本地跑AI编程助手实战

    不想把代码传给云端?这篇教程教你用 OpenCode、Ollama 和阿里通义千问代码模型,在本地电脑搭建零成本的 AI 编程助手。从环境安装到配置调优,全程不依赖外部 API,适合注重隐私或内网开发的场景。哪怕内存只有 8GB,也有对应的轻量级方案可选。

    来源 AI 应用前沿
向下滚动自动加载更多