谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验
南开毕业生领衔。
智东西11月19日消息,谷歌云AI、谷歌
DeepMind与宾夕法尼亚州立大学的研究人员近日联合发表论文《自改进记忆,实现持续递归式自改进》(Self-Improvement Memory Enables Continual Recursive Self-Improvement),提出一种叫自我改进记忆(Self-Improvement Memory,SIM)的新方法。

▲《自我改进记忆实现持续递归自我改进》
过去,AI能自主调整大模型外部的运行框架(Harness),可一旦换了模型或任务,往往就得从头再优化一遍。SIM的做法是把代码修改的原因、预期效果和实际结果整理成一份能持续更新的记忆,让AI继承并调整以往的改进经验,从而跨模型、跨任务实现持续递归式自我改进(CRSI)。
研究团队随后在编程、文本分类、办公任务和工程设计四个领域做了测试。10组独立编程对照实验中,引入SIM的方案有9组胜出,平均领先2.36分。另一项跨模型办公任务测试里,引入SIM的方案拿到84.75分,未引入的只有73.42分,相差11.33分。
论文第一作者Xin Yu于2023年从南开大学统计学专业毕业,眼下在美国宾夕法尼亚州立大学读统计学博士。这项工作是他谷歌实习期间完成的。

▲Xin Yu
Xin Yu曾在微软亚洲研究院、字节跳动Seed、TikTok和Meta实习,2023年获得微软亚洲研究院“明日之星”奖。他参与的多篇论文发表在ICML、ICLR、NeurIPS等国际顶级人工智能学术会议上。
论文另一位作者Adams Wei Yu是谷歌DeepMind研究员,参与过Gemini、Bard以及AI视频生成模型Veo等项目。

▲Adams Wei Yu
论文发布后,Xin Yu在X上谈了这项工作的出发点。他说,以往的递归自我改进研究大多针对固定的大模型和测试任务,可现实中的Agent得不断适应新任务、新数据集和新模型。团队因此希望AI的优化经验能随环境变化不断积累。

▲Xin Yu发文
Xin Yu写道:“What carries forward should include the experience behind the code—not just the code itself.(应该传承下去的不只是代码本身,还有代码背后的改进经验。)”
论文地址:https://arxiv.org/abs/2611.18856
01.
AI能自己修改代码
还能记住每次改进的成败
递归自我改进(Recursive Self-Improvement,RSI)指的是让AI参与改进AI系统,靠反复迭代提升表现。这项研究里,AI改进的对象并非大模型本身,而是围绕大模型运行的一套外部程序——Harness。
Harness管着提示词、上下文、工具调用和任务执行流程等环节。比如让AI做一项编程任务,何时调用终端、怎样检查代码运行结果、满足什么条件才算任务完成,都由Harness决定。
借助RSI,AI能自主修改Harness代码,反复测试改动效果,留下表现更好的版本,这样不用更新大模型权重,也能提高Agent的任务完成率。
不过这类优化通常只针对固定的模型和任务。一套为Claude调好的Harness,换到Gemini上未必还管用;早先为编程任务设计的规则,放到新任务上也未必适用。
更麻烦的是,改完的Harness虽然留下了代码,却不一定留下每次修改的原因和测试经验。模型或任务一变,负责优化的AI可能把以前的尝试重做一遍,甚至删掉原本有效的功能。
为此,团队提出持续递归自我改进(Continual Recursive Self-Improvement,CRSI),想让Harness的自动优化跨模型、跨任务延续下去,并用SIM保存以往的改进经验。SIM好比一本“实验记录本”,记下每次被采纳的修改方案、修改原因、预期结果、实际效果,以及对应的模型和测试环境。
新任务或新模型出现时,负责优化Harness的AI可以翻看这些记录,判断哪些规则该留、该改、该删,不用重新摸索。

▲SIM工作流程
具体来看,系统里负责提方案的AI会读取当前代码、执行反馈和SIM记录,生成新的修改方案;负责筛选的AI则检查候选方案,结合测试结果决定采不采用。
之后,系统把被采用的修改及其实际效果写进SIM。就算修改没达到预期,失败结果也会留下来,供后续优化参考。
在一次Git服务器配置任务上,AI做完本地测试就宣称活儿干完了,偏偏漏掉创建指定用户账号这一步,外部验证因此没过。研究人员随后用自动优化给运行框架补了一项任务完成检查,免得AI手里没有执行证据就提前收工。
换到光波导布线任务,新麻烦又冒出来:AI给出的布线路径符合约束条件,可这不等于布线成本已经压得够低。后续优化于是保留了先前那套检查,同时加上对方案质量的提醒,不让AI光靠通过基础约束就交差。
SIM想达到的正是这个效果:过去管用的改进办法AI能接着用,新任务提出新要求时它也能继续调。
02.
10组编程实验9组获益
跨模型最高多拿11.33分
为检验SIM的效果,团队做了两类主要实验:一类底层模型不动、换任务数据;另一类测试任务不动、换底层模型。
第一类实验里,底层模型选的是Gemini 3.8 Flash,研究人员把已经优化过的运行框架搬到新任务上。
在编程、文本分类、办公任务和工程设计共6组测试中,带上完整SIM的方案最终得分都是最高的,比只沿用原有运行框架的方案高出2.43至4.35分。
第二类实验考的是模型之间的迁移。研究人员先为Claude Opus 5.5优化出一套Harness,再交给Gemini 3.8 Flash使用,并接着做自动优化。
结果,把Claude适用的Harness直接搬到Gemini上,4个测试领域的初始表现全都比不上Gemini用原始Harness时的表现。
引入SIM之后情况变了:负责优化的AI能参考此前的修改经验,把不适合Gemini的部分调过来。最终SIM方案在全部4个领域都拿到最高分,比没有SIM的方案高出3.60至11.33分。
差距最明显的是办公任务测试。两种方案起点都是68.41分,引入SIM的方案最后拿到84.75分,没有SIM的方案是73.42分。

▲跨模型测试结果
为进一步确认效果,研究人员另外做了10组独立的编程对照实验。
初始代码、底层模型、任务和优化预算都相同,加入SIM的方案有9组得分更高,平均最终得分21.70分,没有SIM的方案平均19.33分。两者平均差2.36分,统计检验结果p=0.003。

▲10组编程对照实验结果
研究团队还让这套运行框架及其记忆依次去适应Gemini 2.5 Flash、Gemini 3.5 Flash、Gemini 3.8 Flash和Gemini 4 Argon。
跟每一代模型从零开始优化相比,继承历史经验的方案在Gemini 3.5 Flash和Gemini 3.8 Flash上分别领先3.5分、1.6分。不过到了Gemini 4 Argon上,继承经验的方案最终得分反倒落后0.8分。
可见历史经验能帮AI跨模型继续优化,但每一次迁移都不保证结果更好。
03.
AI能持续自我进化吗?
模型权重仍未改变
这项研究在X上也引起了讨论。科技博主Superman认为,以前AI尝试自我改进时,容易忘掉此前成功的经验、重复犯同样的错,或者陷进无效修改的循环里。

SIM出现后,AI可以回看过去的修改记录,弄清楚哪些方案管用、哪些方案失败,然后在此前成果的基础上接着优化。
在Superman看来,这让AI有机会靠不断积累经验,实现持续的递归自我改进。
论文想回答的问题,和Superman上面那种理解有相通的地方。不过论文里有些实验也表明,说AI能一路把自己的智能水平往上推,这话得放到实验做过的范围里看。
开发者Brian Skellenger也提到,研究中的AI确实能自己改代码、靠测试反馈一轮轮优化,可它动的是大模型外头的运行框架,模型本身的架构和参数没碰。论文里写得很清楚:实验中大模型的权重从头到尾没变。

说到底,这项研究的推进之处是让AI能把先前优化过的经验攒下来、再拿出来用。系统不光存下改完的代码,还会把每次改动的原因、想达到什么效果、最后实际怎样都记下来,这样换了任务或换了模型,这些经验还能接着用。
论文第一作者Xin Yu的说法是,AI系统要积累的不光是优化结果,还有拿到这些结果的过程。
04.
结语:AI递归自我改进
迈向持续进化
以往,递归自我改进(RSI)的做法是让AI反复改代码、测效果,以此优化自身的Harness,可过去那些优化成果往往没法跨模型、跨任务留下来。SIM改了这一局面:AI不但能继承改好的代码,还能把以前成功和失败的经验用上,让RSI接着在新模型、新任务上跑,给持续递归自我改进(CRSI)添了一条新路子。
但实验里的持续优化仍然限定在预设的测试范围和轮次内,跨模型迁移也不见得每次都能拿到更好的成绩。AI要想真的长期、稳定地自我进化,还得解决怎么自己判断、挑选和更新历史经验这件事。