谷歌提出SIM记忆机制:让harness跨模型迁移不再重复试错
帮助harness适应新模型、新数据。
模型一旦更换,此前费心调好的agent harness很可能立刻就不适配了。专为Claude演化出来的harness,放到Gemini上甚至可能带来“负收益”。所以模型迁移之后,继承下来的那些修改需要重新评估一遍,看哪些还能用,哪些得改。
harness负责管理agent的上下文、工具和执行流程。递归自我改进(RSI)会依据反馈提出、评估并筛选修改,可迁移时如果只把最终的harness带过去,修改的理由、预期目标、测试结果和评估情境往往都丢了。结果就是重复试错,甚至把继承来的组件改错。
针对这个问题,谷歌团队提出了“自我改进记忆”(Self-Improvement Memory,SIM),面向负责优化harness的优化器,把改进过程中的经验存下来。基准或策略模型变化后继续优化harness,这种设定他们称为“持续递归自我改进”(CRSI)。

论文链接:https://arxiv.org/abs/2611.18856
模型变化只是其中一种情境,任务数据变了,原有的修复同样可能需要调整。文本分类实验里,源阶段演化得到的FewShotAll harness在目标测试套件上的起始分数是72.92,比初始版本的75.72还低。原本只检查命令有没有成功执行的任务完成关卡,也可能要再往前一步,看可行解是否达到了最优。
面对这些变化,SIM把修改按其所处理的harness问题归组。每组记录里有修改理由、预期结果、实际观测结果和评估情境。提出修改的提案器和负责筛选的选择器都能访问这些信息,据此判断此前的改动该保留、修订、替换还是删除。
这份记忆会随着优化继续更新:新问题开新条目,同一问题下的后续尝试及结果追加到已有记录里。这样一来,目标阶段的优化既用得上源阶段攒下的经验,也能继续记录新的尝试。

CRSI区分了两类转换。跨数据集持续优化是策略模型不动,改基准测试;跨模型持续优化则是基准测试与数据划分都不动,改策略模型。两种设定都要求源阶段和目标阶段的harness保留兼容的可执行接口,现有优化方法可以照旧走原来的提案、评估和筛选流程。
为了看改进经验对后续优化有没有帮助,他们在迁移条件中比较了三种做法:完整SIM、仅携带harness、仅保留问题根因,三者共享同一个源演化harness。另外设了Cold Start,从种子harness起步,并匹配优化轮数与候选方案预算。
实验在4个领域展开。6种跨数据集设定和4种从Opus迁移至Gemini的设定中,完整SIM的最终分数都高于仅携带harness和仅保留问题根因的持续优化。这组比较支持了他们提出的做法:在问题诊断之外,把修改历史与评估结果也一并保留下来。


图|从Opus 5.5到Gemini 3.8 Flash的跨模型CRSI,基准测试及数据划分保持固定
独立优化过程之间存在差异,他们为此在编程领域做了10组配对比较。每组后续优化都从同一次独立源阶段运行得到的harness出发,对比使用SIM和仅携带harness两种条件。SIM在其中9组取得提升,最终分数平均高出2.36分,p值为0.003。

这项研究也有局限。受计算预算限制,独立RSI重复实验集中在编程领域,其他领域每种条件只运行一次。研究覆盖的是harness接口兼容的设定,优化器的规划和搜索流程保持固定。这些比较还把SIM作为完整流程来评估,其中同时包含继承的记忆和目标阶段优化中的记忆更新。