谷歌论文曝RSI内部落地:SIM机制让AI经验跨模型遗传
新智元报道 谷歌内部,或许真正实现了RSI!从此,Gemini已能「继承经验」持续自我进化,Gemini新模型不再从零开始!或许也正是这个原因,谷歌最近跟疯了似的不停发模型。Gemini 4 Hydrogen才发布不到一周,更强的Gemini 4 Neon就来了。答案,或许藏在谷歌与宾夕法尼亚州立大学深夜联合发布的一篇
新智元报道
新智元报道
谷歌内部可能已经把RSI真正跑通了。也正因如此,这家公司最近发模型的节奏快得反常。
从此,
谜底或许就在谷歌与宾夕法尼亚州立大学深夜联合发布的一篇最新论文里。
Gemini
论文里,谷歌的顶级研究员们提出了一套叫「自我改进记忆」(Self-Improvement Memory,简称SIM)的机制。照论文的说法,大模型由此学会了用「写日记」的方式复盘自己的代码;更让人意外的是,AI积累的进化经验还能跨模型家族直接「遗传」——Opus的经验可以喂给Gemini。
上一秒还在用Claude Opus调出来的Agent框架,下一秒换到别的模型上,这套东西就未必还能跑。
说白了,AI这回学会了「继承记忆」,真正的递归自我改进(RSI)也就开了头。
靠堆算力「大力出奇迹」的那套打法,在大模型身上快走到头了。
开发者最常撞上的噩梦,大概就是这个样子。
Agent全面爆发之后,RSI成了各家公司在卷的方向。
不过这里说的「改进」,一般动的不是大模型那几千亿底层权重,而是去改「。
以前,AI就是靠RSI技术,在反复试错里把这套「机甲」打磨到几乎挑不出毛病。
问题也跟着来了,而且很要命:底层那颗「大脑」一换,这套机甲就报废。
谷歌的研究人员在实验里碰到了一个怪现象——
某个在Claude Opus 上深度进化、表现很亮眼的
这到底是怎么回事?
原因很简单:代码交给新模型时,留下来的只有「结果」,背后的「原因」没跟着走。
满屏复杂的规则、一堆奇奇怪怪的拦截器和提示词,新模型看下来直接「懵圈」。
更要命的是,过去的每一次改动是为什么,新模型的优化器根本不知道,于是动手改起来就没了章法。
原本用来压住致命Bug的那段代码,可能被它当冗余删掉;早就验证过走不通的路子,又被翻出来重跑一遍。
越优化越烂,最后卡在死循环里出不来。
为了跳出这个怪圈,谷歌在论文里给出了一个新框架,叫CRSI。
框架的灵魂所在是SIM,也就是自我改进记忆。
要说清楚一点:这可不是给大模型挂一份简单的「聊天历史记录」,它更像给AI优化器配了一本高度结构化的「极客开发日志」。
按谷歌的说法,SIM机制等于给AI优化器装上了一本结构化的开发日志。
SIM靠什么运转?AI过去每一次「折腾」,都会被它记在账上。
AI每次动手修改——
Rationale这一项要交代的是:AI究竟凭什么动了手,改的是哪一行代码?Predicted outcomes则记录动手之前,它判断这行改动能救回哪些具体任务。
Observed outcomes把跑完之后的结果摆出来——成了几项、败了几项,有没有带出新的Bug。
Evaluation context写的是当时的运行环境:用的是哪个模型,跑在什么数据集上。
这么一来,上一代模型在离场之前,等于给下一代模型留下了一份写得极细的「交接文档」。
等Gemini接住Claude留下的那套复杂流程,每轮优化动手之前都会先把这份SIM日志读一遍,借前人的经验少踩坑,用原话说就是「吃一堑而长一智」。
至此,AI手里终于有了能一代代传下去的「进化底蕴」。
这个机制到底有多能打,谷歌团队用一场跨模型接力赛来检验:把Claude Opus 5.5进化出来的成果交给下一棒。
论文里给了一个特别典型的「过早完工」Bug案例,看了让人拍案叫绝。早先的优化中,AI总爱「偷懒」,比如Git命令还没执行,就先哄系统说「任务完成了」。
为了治这个毛病,Claude时期的优化器在
没有SIM的话,场面堪称灾难。Gemini接手这个拦截器之后,压根不知道它为什么会被放在那里。
后面的迭代里,Gemini非但没把这段代码改好,还把自己弄死机了——同一段代码它重写了4次,其中2次修的是它自己刚制造出来的Bug。
看着就像个没吃透前人设计的新手程序员,在烂摊子上越叠越多。
换成有SIM的情形,差距立刻拉开。
Gemini带着SIM日志上手时,情况完全变了。优化器读完日志,马上弄清楚了:这个拦截器的用途,是拦住那些还没拿到证据就急着提交的操作。
有了这层理解,Gemini把这个拦截器留了下来,还顺手做了一次大幅升级——往里加了针对特定目标任务的检查。这样一来,任务光跑通不算数,还得跟理论最优解做对比,得分过关才允许提交通关。
这才叫真正接住了前人的东西,还往前推了一步。
论文公布的实测数字,直接压过了对比对象。
谷歌的测试铺得很大,覆盖代码编写、文本分类、工作区任务、工程设计四大核心领域。
拿来对照的基线共四种,情况如下。
Cold Start:拿原始种子Harness,从零起步。
Harness Transfer:只接上一个模型的代码,SIM记忆不传。
Problem-Only Memory:只告诉新模型以前碰到过哪些问题,具体怎么改、改出什么结果,都不给。
Full SIM:完整的Harness加上完整的SIM进化日志,一并继承。
结果出来,每一场都赢了。
亮点一:
把Opus的经验迁移到Gemini上
继续优化之后,只传代码、不带SIM的那组,最终得分一直往上爬,到了73.42。
而拥有
两边一比,差出了11.33分,这个距离不算小。
第二个看点是Coding领域,胜率到了90%。
在
10次对打里,带SIM的一方赢了9次,平均分高出2.36分,统计上也很显著(p=0.003)。
第三个看点是跨数据集泛化,同样没输。换个模型是这样,同一个模型也一样:只让它去处理全新的数据集,比如文本分类从3个老数据集换成8个没见过的新数据集,
这个分数压过了所有没带完整记忆的对照组。
数据摆在那里:把修改动机和测试结果记下来的「经验日志」,才是AI冲破性能上限的那把钥匙。
有人这么说:眼下你也许只是对RSI的推进速度感到意外,可它最终能走到哪一步,恐怕很快也会让人意外。
以前大家嘴上都在喊RSI,实际做的多是「伪RSI」。
原因是没有记忆机制,AI自我改进几轮就会跑偏,性能跟着往下掉。
谷歌这篇论文做的事,等于把RSI在现实世界里真正跑通了。
但
关键在于「自我改进记忆」(SIM):有了它,AI每轮迭代都是往上叠加。
第一代AI改好了10%的代码,还把为什么改记了下来;第二代AI读到这份记忆,在那10%之上又优化了20%。
到了第三代,前两代的记忆它都接过来,接着找新的突破口。
这更像一次不可逆的物种进化。
AI一旦学会像人那样,用「文字(日志)」把知识一代代传下去,RSI就进入了大爆炸阶段。
研究给出的信号是:AI能自我反思、自我记录,还能把经验教给彼此,进化的接力棒就已经交到它手里了。
这样的AI不必从零起步,经验一直在身上叠加。
谷歌这项研究,是RSI从「单次实验」迈向「持续复利」的关键一步。
参考资料: