谷歌DeepMind发布SIM记忆法:让AI跨模型持续自我改进
智东西11月19日报道,近日,谷歌云AI、谷歌DeepMind与美国宾夕法尼亚州立大学的研究团队联合发布论文《自改进记忆,实现持续递归式自改进》(Self-Improvement Memory Enables Continual Recursive Self-Improvement),提出了一种名为自我改进记忆(Sel
智东西11月19日消息,谷歌云AI、谷歌
DeepMind与宾夕法尼亚州立大学的研究人员合作发表论文《自改进记忆,实现持续递归式自改进》(Self-Improvement Memory Enables Continual Recursive Self-Improvement),提出一种叫自我改进记忆(Self-Improvement Memory,SIM)的新方法。

▲《自我改进记忆实现持续递归自我改进》
过去,AI可以自己动手优化大模型外部的运行框架(Harness),可一旦换了模型或任务,之前的优化往往得从头再来。SIM的不同之处在于,它把代码修改背后的原因、预期效果和实际结果整理成一份能持续更新的记忆,AI借此继承并调整以往的改进经验,做到跨模型、跨任务的持续递归自我改进(CRSI)。
研究团队随后在编程、文本分类、办公任务和工程设计四个领域做了测试。10组独立编程对照实验中,带SIM的方案有9组胜出,平均高出2.36分。另一项跨模型办公任务测试里,带SIM的方案拿到84.75分,不带SIM的只有73.42分,两者差了11.33分。
论文第一作者Xin Yu2023年从南开大学统计学专业毕业,现在在美国宾夕法尼亚州立大学读统计学博士。这项研究是他在谷歌实习期间完成的。

▲Xin Yu
Xin Yu先后在微软亚洲研究院、字节跳动Seed、TikTok和Meta实习,还拿过微软亚洲研究院2023年“明日之星”奖。他参与的多篇论文发表在ICML、ICLR、NeurIPS等国际顶级人工智能学术会议上。
论文另一位作者Adams Wei Yu是谷歌DeepMind研究员,参与过Gemini、Bard以及AI视频生成模型Veo等项目。

▲Adams Wei Yu
论文发布后,Xin Yu在X上谈了这项工作的出发点。他说,以往的递归自我改进研究大多针对固定的大模型和测试任务,可现实中的Agent得不断适应新任务、新数据集和新模型。团队因此希望AI的优化经验能跟着环境变化持续积累。

▲Xin Yu发文
Xin Yu写道:“What carries forward should include the experience behind the code—not just the code itself.(应该传承下去的不只是代码本身,还有代码背后的改进经验。)”
论文地址:https://arxiv.org/abs/2611.18856
01.
AI能自己修改代码
还能记住每次改进的成败
递归自我改进(Recursive Self-Improvement,RSI)指的是让AI参与改进AI系统,通过反复迭代提升表现。在这项研究里,AI改进的对象并非大模型本身,而是围绕大模型运行的一套外部程序——Harness。
提示词、上下文、工具调用和任务执行流程等,都由Harness管理。比如让AI做一项编程任务,何时调用终端、怎样检查代码运行结果、满足什么条件才算任务完成,这些都由Harness决定。
借助RSI,AI能自主修改Harness代码,反复测试改动效果,留下表现更好的版本。大模型权重不用更新,Agent的任务完成率就能提高。
不过这类优化通常只对固定的模型和任务有效。一套针对Claude调好的Harness,换到Gemini上未必还管用;以前为编程任务设计的规则,放到新任务上也可能不适用。
更关键的是,改完的Harness留下了代码,却未必留下每次修改的原因和测试经验。模型或任务一变,负责优化的AI可能把之前的尝试再走一遍,甚至把原本有效的功能删掉。
为此,团队提出持续递归自我改进(Continual Recursive Self-Improvement,CRSI),想让Harness的自动优化跨模型、跨任务延续下去,并用SIM保存此前的改进经验。SIM好比一本“实验记录本”,每次被采纳的修改方案、修改原因、预期结果、实际效果,以及对应的模型和测试环境,都记在里面。
新任务或新模型出现时,负责优化Harness的AI可以翻看这些记录,判断哪些规则该留、该改、该删,不用从头摸索。

▲SIM工作流程
具体来看,系统中负责提方案的AI会读取当前代码、执行反馈和SIM记录,据此生成新的修改方案;负责筛选的AI则检查候选方案,再结合测试结果决定用不用。
之后,系统把被采纳的修改及其实际效果写进SIM。修改没达到预期也没关系,失败结果同样会保留下来,供后续优化参考。
在一项Git服务器配置任务里,AI只凭本地测试通过就提前收工,漏掉了创建指定用户账号这个关键环节,外部验证因此没通过。研究人员随后用自动优化,给运行框架补上任务完成检查机制,让AI拿不出执行证据时不能提前结束任务。
换成光波导布线任务,新麻烦又冒出来:AI给出的布线路径符合约束条件,可约束达标不等于布线成本够低。后续优化留住了前面的检查机制,又补上对方案质量的检查提醒,防止AI只凭基础约束通过就交差。
SIM想达到的正是这个效果——过去有效的改进方法能接着用,新任务提出新要求时也能继续调整。
02.
10组编程实验9组获益
跨模型最高多拿11.33分
为验证SIM的效果,团队设计了两类主要实验。一类换任务数据、底层模型不动;另一类反过来,测试任务不变,只换底层模型。
第一类实验里,底层模型用的是Gemini 3.8 Flash,研究人员把已经优化过的运行框架搬到新任务上。
编程、文本分类、办公任务和工程设计共6组测试中,带完整SIM的方案最终得分全部最高,比只沿用原有运行框架的方案高出2.43至4.35分。
第二类实验考察模型之间的迁移。研究人员先针对Claude Opus 5.5把一套Harness优化好,再交给Gemini 3.8 Flash使用,并继续做自动优化。
结果显示,把Claude适用的Harness直接搬到Gemini上,4个测试领域的初始表现都赶不上Gemini用原始Harness的时候。
引入SIM之后,负责优化的AI能翻看此前的修改经验,把不适合Gemini的部分调过来。最终SIM方案在全部4个领域都拿到最高分,比没有SIM的方案高出3.60至11.33分。
差距最大的是办公任务测试。两种方案都从68.41分起步,带SIM的方案最后拿到84.75分,没有SIM的方案停在73.42分。

▲跨模型测试结果
研究人员还另外做了10组独立的编程对照实验,用来进一步验证效果。
初始代码、底层模型、任务和优化预算都相同,加入SIM的方案有9组得分更高。带SIM的平均最终得分21.70分,不带SIM的平均19.33分,两者平均相差2.36分,统计检验结果p=0.003。

▲10组编程对照实验结果
团队还让这套运行框架连同它的记忆,依次去适应Gemini 2.5 Flash、Gemini 3.5 Flash、Gemini 3.8 Flash和Gemini 4 Argon。
跟每一代模型从零开始优化相比,继承历史经验的方案在Gemini 3.5 Flash和Gemini 3.8 Flash上分别领先3.5分、1.6分。到了Gemini 4 Argon上,继承经验的方案最终得分反倒落后0.8分。
也就是说,历史经验能帮AI跨模型继续优化,但每一次迁移都拿到更好结果,并没有保证。
03.
AI能持续自我进化吗?
模型权重仍未改变
这项研究在X上也引起了讨论。科技博主Superman提到,过去AI尝试自我改进时,容易忘掉先前成功的经验、重复犯错,或者卡在无效修改的循环里出不来。

SIM出现后,AI可以回看过去的修改记录,弄清楚哪些方案管用、哪些方案失败,再在此前成果的基础上接着优化。
在Superman看来,AI由此有机会靠不断积累经验,实现持续的递归自我改进。
论文想解决的问题,和这种理解有相通的地方。不过,论文里有一部分实验说明,AI 能持续提升自身智能水平的说法,得放回实验范围里看。
开发者 Brian Skellenger 也提出提醒:研究中的 AI 确实能自主改代码,并根据测试反馈不断优化,但它动的是大模型外部的运行框架,模型自身的架构或参数并未被触及。论文同样写明,实验中大模型的权重一直没变。

说到底,这项研究的进展是让 AI 能把此前的优化经验攒下来、再用出去。除了保存改过的代码,系统还会记下每次修改的原因、预期效果和实际结果,换任务或换模型之后,这些经验仍可继续使用。论文第一作者 Xin Yu 的说法是,AI 系统要积累的不只是优化结果,还有得到这些结果的过程。
04.
结语:AI递归自我改进
迈向持续进化
递归自我改进(RSI)过去靠的是反复改代码、测效果来优化自身 Harness,但优化成果往往难以跨模型、跨任务延续。SIM 则让 AI 不光能继承修改后的代码,还能用上过去的成功和失败经验,把 RSI 延伸到新的模型和任务上,为持续递归自我改进(CRSI)提供了新方法。
不过,实验中的持续优化仍受预设测试范围和轮次限制,跨模型迁移也并非总能拿到更好的成绩。AI 要想真正实现长期、稳定的自我进化,还得解决如何自主判断、筛选和更新历史经验的问题。