谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验

资讯 36氪 全文 3881 字 · 约 10 分钟读完 配图 10 张 分类RSIGoogle学术研究

南开毕业生领衔。

所属频道 大厂动态前沿研究

智东西11月19日消息,谷歌云AI、谷歌DeepMind与宾夕法尼亚州立大学的研究人员近日联合发表论文《自改进记忆,实现持续递归式自改进》(Self-Improvement Memory Enables Continual Recursive Self-Improvement),提出一种叫自我改进记忆(Self-Improvement Memory,SIM)的新方法。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 1)

▲《自我改进记忆实现持续递归自我改进》

过去,AI能自主调整大模型外部的运行框架(Harness),可一旦换了模型或任务,往往就得从头再优化一遍。SIM的做法是把代码修改的原因、预期效果和实际结果整理成一份能持续更新的记忆,让AI继承并调整以往的改进经验,从而跨模型、跨任务实现持续递归式自我改进(CRSI)。

研究团队随后在编程、文本分类、办公任务和工程设计四个领域做了测试。10组独立编程对照实验中,引入SIM的方案有9组胜出,平均领先2.36分。另一项跨模型办公任务测试里,引入SIM的方案拿到84.75分,未引入的只有73.42分,相差11.33分。

论文第一作者Xin Yu于2023年从南开大学统计学专业毕业,眼下在美国宾夕法尼亚州立大学读统计学博士。这项工作是他谷歌实习期间完成的。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 2)

▲Xin Yu

Xin Yu曾在微软亚洲研究院、字节跳动Seed、TikTok和Meta实习,2023年获得微软亚洲研究院“明日之星”奖。他参与的多篇论文发表在ICML、ICLR、NeurIPS等国际顶级人工智能学术会议上。

论文另一位作者Adams Wei Yu是谷歌DeepMind研究员,参与过Gemini、Bard以及AI视频生成模型Veo等项目。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 3)

▲Adams Wei Yu

论文发布后,Xin Yu在X上谈了这项工作的出发点。他说,以往的递归自我改进研究大多针对固定的大模型和测试任务,可现实中的Agent得不断适应新任务、新数据集和新模型。团队因此希望AI的优化经验能随环境变化不断积累。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 4)

▲Xin Yu发文

Xin Yu写道:“What carries forward should include the experience behind the code—not just the code itself.(应该传承下去的不只是代码本身,还有代码背后的改进经验。)”

论文地址:https://arxiv.org/abs/2611.18856

01.

AI能自己修改代码

还能记住每次改进的成败

递归自我改进(Recursive Self-Improvement,RSI)指的是让AI参与改进AI系统,靠反复迭代提升表现。这项研究里,AI改进的对象并非大模型本身,而是围绕大模型运行的一套外部程序——Harness。

Harness管着提示词、上下文、工具调用和任务执行流程等环节。比如让AI做一项编程任务,何时调用终端、怎样检查代码运行结果、满足什么条件才算任务完成,都由Harness决定。

借助RSI,AI能自主修改Harness代码,反复测试改动效果,留下表现更好的版本,这样不用更新大模型权重,也能提高Agent的任务完成率。

不过这类优化通常只针对固定的模型和任务。一套为Claude调好的Harness,换到Gemini上未必还管用;早先为编程任务设计的规则,放到新任务上也未必适用。

更麻烦的是,改完的Harness虽然留下了代码,却不一定留下每次修改的原因和测试经验。模型或任务一变,负责优化的AI可能把以前的尝试重做一遍,甚至删掉原本有效的功能。

为此,团队提出持续递归自我改进(Continual Recursive Self-Improvement,CRSI),想让Harness的自动优化跨模型、跨任务延续下去,并用SIM保存以往的改进经验。SIM好比一本“实验记录本”,记下每次被采纳的修改方案、修改原因、预期结果、实际效果,以及对应的模型和测试环境。

新任务或新模型出现时,负责优化Harness的AI可以翻看这些记录,判断哪些规则该留、该改、该删,不用重新摸索。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 5)

▲SIM工作流程

具体来看,系统里负责提方案的AI会读取当前代码、执行反馈和SIM记录,生成新的修改方案;负责筛选的AI则检查候选方案,结合测试结果决定采不采用。

之后,系统把被采用的修改及其实际效果写进SIM。就算修改没达到预期,失败结果也会留下来,供后续优化参考。

在一次Git服务器配置任务上,AI做完本地测试就宣称活儿干完了,偏偏漏掉创建指定用户账号这一步,外部验证因此没过。研究人员随后用自动优化给运行框架补了一项任务完成检查,免得AI手里没有执行证据就提前收工。

换到光波导布线任务,新麻烦又冒出来:AI给出的布线路径符合约束条件,可这不等于布线成本已经压得够低。后续优化于是保留了先前那套检查,同时加上对方案质量的提醒,不让AI光靠通过基础约束就交差。

SIM想达到的正是这个效果:过去管用的改进办法AI能接着用,新任务提出新要求时它也能继续调。

02.

10组编程实验9组获益

跨模型最高多拿11.33分

为检验SIM的效果,团队做了两类主要实验:一类底层模型不动、换任务数据;另一类测试任务不动、换底层模型。

第一类实验里,底层模型选的是Gemini 3.8 Flash,研究人员把已经优化过的运行框架搬到新任务上。

在编程、文本分类、办公任务和工程设计共6组测试中,带上完整SIM的方案最终得分都是最高的,比只沿用原有运行框架的方案高出2.43至4.35分。

第二类实验考的是模型之间的迁移。研究人员先为Claude Opus 5.5优化出一套Harness,再交给Gemini 3.8 Flash使用,并接着做自动优化。

结果,把Claude适用的Harness直接搬到Gemini上,4个测试领域的初始表现全都比不上Gemini用原始Harness时的表现。

引入SIM之后情况变了:负责优化的AI能参考此前的修改经验,把不适合Gemini的部分调过来。最终SIM方案在全部4个领域都拿到最高分,比没有SIM的方案高出3.60至11.33分。

差距最明显的是办公任务测试。两种方案起点都是68.41分,引入SIM的方案最后拿到84.75分,没有SIM的方案是73.42分。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 6)

▲跨模型测试结果

为进一步确认效果,研究人员另外做了10组独立的编程对照实验。

初始代码、底层模型、任务和优化预算都相同,加入SIM的方案有9组得分更高,平均最终得分21.70分,没有SIM的方案平均19.33分。两者平均差2.36分,统计检验结果p=0.003。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 7)

▲10组编程对照实验结果

研究团队还让这套运行框架及其记忆依次去适应Gemini 2.5 Flash、Gemini 3.5 Flash、Gemini 3.8 Flash和Gemini 4 Argon。

跟每一代模型从零开始优化相比,继承历史经验的方案在Gemini 3.5 Flash和Gemini 3.8 Flash上分别领先3.5分、1.6分。不过到了Gemini 4 Argon上,继承经验的方案最终得分反倒落后0.8分。

可见历史经验能帮AI跨模型继续优化,但每一次迁移都不保证结果更好。

03.

AI能持续自我进化吗?

模型权重仍未改变

这项研究在X上也引起了讨论。科技博主Superman认为,以前AI尝试自我改进时,容易忘掉此前成功的经验、重复犯同样的错,或者陷进无效修改的循环里。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 8)

SIM出现后,AI可以回看过去的修改记录,弄清楚哪些方案管用、哪些方案失败,然后在此前成果的基础上接着优化。

在Superman看来,这让AI有机会靠不断积累经验,实现持续的递归自我改进。

论文想回答的问题,和Superman上面那种理解有相通的地方。不过论文里有些实验也表明,说AI能一路把自己的智能水平往上推,这话得放到实验做过的范围里看。

开发者Brian Skellenger也提到,研究中的AI确实能自己改代码、靠测试反馈一轮轮优化,可它动的是大模型外头的运行框架,模型本身的架构和参数没碰。论文里写得很清楚:实验中大模型的权重从头到尾没变。

谷歌DeepMind提出SIM方法:让AI改代码时记住成败经验(配图 9)

说到底,这项研究的推进之处是让AI能把先前优化过的经验攒下来、再拿出来用。系统不光存下改完的代码,还会把每次改动的原因、想达到什么效果、最后实际怎样都记下来,这样换了任务或换了模型,这些经验还能接着用。

论文第一作者Xin Yu的说法是,AI系统要积累的不光是优化结果,还有拿到这些结果的过程。

04.

结语:AI递归自我改进

迈向持续进化

以往,递归自我改进(RSI)的做法是让AI反复改代码、测效果,以此优化自身的Harness,可过去那些优化成果往往没法跨模型、跨任务留下来。SIM改了这一局面:AI不但能继承改好的代码,还能把以前成功和失败的经验用上,让RSI接着在新模型、新任务上跑,给持续递归自我改进(CRSI)添了一条新路子。

但实验里的持续优化仍然限定在预设的测试范围和轮次内,跨模型迁移也不见得每次都能拿到更好的成绩。AI要想真的长期、稳定地自我进化,还得解决怎么自己判断、挑选和更新历史经验这件事。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 谷歌PageBreak:AI安全代理已挖出500多个XSS漏洞,误报率接近零

    根据谷歌发表的一篇论文,其人工智能驱动的安全代理自今年 1 月全面投入运行以来,已在旗下各类 Web 应用中发现了 500 多个 XSS 漏洞。Google PageBreak 利用 Gemini 模型自主调查潜在漏洞,但仅在确定性验证器在运行中的应用程序上成功复现该漏洞时才会上报,因此误报率几乎为零。 借助 Page

    来源 AI 行业观察
  2. Isomorphic Labs获50亿美元C轮融资:AI制药进入临床验证关口

    从Google DeepMind分拆的AI药物发现平台Isomorphic Labs宣布完成50亿美元C轮融资。这是AI制药领域罕见的大额融资,资金将用于推动候选药物进入临床试验。该事件被视为AI制药从算法叙事走向临床验证的重要信号,但高额融资也意味着更高的交付期待。本文梳理其背景、融资意义与行业挑战。

    来源 AI 科技快讯
  3. 谷歌报告:黑客用AI盯补丁生成攻击代码,n-day窗口期被压缩

    厂商刚发布安全补丁,你的屏幕上就弹出了更新提示。 你手头正忙,顺手点了「稍后提醒」。 而此时,黑客也在等这份补丁。 厂商改了哪几行代码,他们就让AI盯着哪几行。一旦发现破绽,AI还能自动写出攻击代码,在旧版本上试一试。 从补丁公开到你装好更新,中间有一段窗口期。 你的软件还留着原来的漏洞,攻击者手里却可能已经多了一份精

    来源 AI 行业观察
  4. 谷歌AI Mode上线临时对话:聊天不进搜索历史,无痕开关来了

    谷歌为其搜索中的AI Mode上线“临时对话”功能,用户与AI的交流不会写入搜索历史,也不会影响后续推荐。这一类似浏览器无痕模式的设计,正面回应了外界对AI搜索记录隐私的担忧,也标志着搜索巨头正在个性化体验与用户隐私之间寻找新的平衡点。

    来源 AI 科技快讯
  5. Gmail宕机传言虚惊一场,谷歌连夜澄清并指向补丁潮与AI挖洞

    过去一周,微软365、Outlook大规模中断;11月17日苹果因内部系统更新故障,iCloud、Apple Pay等服务受影响。随后X上传出Gmail也宕机,源头或为Downdetector:美东17日中午收到超2800条故障报告,多涉及邮件接收。但该平台数据由用户众包提交,仅反映报告情况,不足以证实Gmail发生大

    来源 AI 产业速递
  6. 谷歌Project Genie升级:开放AI Ultra用户体验

    IT之家 11 月 19 日消息,今年早些时候,谷歌推出了实验性研究原型 Project Genie,可让用户生成并探索交互式虚拟世界。早期测试用户反馈,希望能对世界内发生的内容有更强控制力,同时拥有更便捷的建造、分享方式。 如今,谷歌面向符合资格的 Google AI Ultra 订阅用户推出全新 Project G

    来源 AI 行业观察
  7. 谷歌Gemini Tasks扩大开放:AI可代打电话、登录网站并下单

    谷歌宣布扩大Gemini Tasks的访问权限,该功能可协调通话、代用户登录网站甚至完成购物。这标志着AI助手从信息查询向任务执行迈出关键一步,但也引发隐私与安全担忧。本文详解Gemini Tasks的功能、行业竞争背景及未来影响。

    来源 AI 科技快讯
  8. 放弃搜索也不接受AI,芝加哥学区硬刚谷歌:捆绑AI不如不用

    谷歌最近推出的一条新规,把美国多个公立学区惹炸了。 主要内容是,从2027年初开始,面向中小学的教育账号,再也不能单独关闭谷歌搜索里的AI功能。 想用搜索,就必须接受内置的AI概览,想彻底不用AI?那连搜索服务一块儿都别用。 据媒体报道,这条政策的核心意思就是,拒绝AI就等于直接放弃谷歌搜索。新闻网报道也证实,学校可以

    来源 AI 行业观察
  9. 谷歌地图Ask Maps升级:AI可代打电话订位,还能规划自驾路线

    谷歌于2026年11月16日宣布对其基于Gemini技术的 Google Maps 聊天机器人 Ask Maps 进行重大功能更新。该工具现在不仅能够查找美容、宠物护理、汽车和房屋维修等各类预约服务,还能直接致电当地商家完成预订,并在显示可用时段前自动收集必要信息。同时,用户还可借助该功能查找已保存

    来源 AI 开发者社区
  10. 谷歌搜索AI模式上线临时线程:可无痕私密搜索

    11月18日,谷歌在全球桌面及移动端浏览器的搜索AI模式中推出“临时线程”功能。用户可发起私密、非个性化即时搜索,查询记录不留存于个人历史,也不干扰后续算法推荐。该功能借鉴Gemini临时聊天机制,无需修改账户隐私设置,点击AI模式右上角临时对话图标即可开启,关闭后内容即从界面清除。

    来源 AI 产业速递
  11. 纳德拉预言:AI智能体将重塑互联网经济格局

    微软CEO萨提亚·纳德拉在最新访谈中提出,AI智能体将不再是简单的聊天工具,而是能替用户完成搜索、比价、下单的“数字代理人”。这一转变可能从根本上动摇以广告和流量为核心的互联网商业模式,迫使亚马逊、谷歌等巨头重新思考获客与竞争的方式,内容创作者与广告主的利益分配也将随之重写。

    来源 AI 科技快讯
  12. 奥特曼谈AI造AI:OpenAI能再推一步,但不敢撒手

    AI已经在帮OpenAI造下一代GPT了。 可真要把研发方向盘彻底交给AI,奥特曼还是亲自踩了一脚刹车。 11月16日,在Semafor的活动现场,谈及「递归自我改进」(RSI),奥特曼当场划下一道红线: 我们本可以进一步向递归自我改进推进,但我不认为现在能安全地这么做。 潜台词很明显:不是现在技术上推不动,而是真不敢

    来源 AI 行业观察
  13. 谷歌Gemini隐私设置更新:聊天记录可保留但拒用于AI训练

    IT之家 11 月 18 日消息,谷歌昨日发布公告,宣布更新 Gemini 应用程序的控制选项,允许用户自行决定是否将 Gemini 聊天记录用于 AI 模型训练。 谷歌表示,新增的设置选项允许用户在保留 Gemini 聊天记录的同时,选择不将聊天记录用于生成式 AI 模型训练。用户仍然可以调整聊天记录的保存期限,并手

    来源 AI 行业观察
  14. Isomorphic Labs完成50亿美元C轮融资,AI制药竞赛升温

    融资纪录再度被打破11月17日,Isomorphic Labs宣布完成50亿美元C轮融资,由Greenoaks和Sequoia Capital共同领投,a16z等机构参与,Alphabet继续追加投资。这家从Google DeepMind体系走出的公司,选择了一条从底层AI研究通向原创药物的路线:开发前沿模型,组建药物

    来源 腾讯网
  15. 1 厘米标尺竟有 12 个刻度,中南大学通报附属医院 AI 论文争议、确认存在学术不端行为

    IT之家 11 月 19 日消息,中南大学 11 月 19 日发布情况通报:近日,网络上出现对湘雅二医院、湘雅医院 3 篇论文数据和图表的质疑。学校高度重视,第一时间组织同行专家核查实验记录、原始数据、投稿记录等材料,访谈相关人员。根据同行专家核查结果,经校学风建设委员会审议,有关情况通报如下。 被质疑论文 1:“Fe

    来源 AI 行业观察
  16. 23岁女孩,她参与创办的AI公司,估值飙到330亿了

    作者丨林夕编辑丨小龙 封面丨AI处理一位23岁的女孩,参与创办了一家估值超330亿元的AI独角兽。11月12日,AI创业公司Mirendil宣布完成10亿美元(约合人民币67亿元)A轮融资,由Kleiner Perkins和Clearlake Capital联合领投,Google等机构参与投资。五个月前,公司刚完成2亿

    来源 腾讯网
  17. 谷歌更新Gemini隐私控制:聊天记录可保留,不用于AI训练

    IT之家 11 月 18 日消息,谷歌昨日发布公告,宣布更新 Gemini 应用程序的控制选项,允许用户自行决定是否将 Gemini 聊天记录用于 AI 模型训练。谷歌表示,新增的设置选项允许用户在保留 Gemini 聊天记录的同时,选择不将聊天记录用于生成式 AI 模型训练。用户仍然可以调整聊天记录的保存期限,并手动

    来源 腾讯网
向下滚动自动加载更多