微软研究:Agent越聊越钻牛角尖,定期清空记忆反而更强
模型继续变强,这种现象大概也不会消失
AI 圈最近有篇论文挺反常识。主角是微软研究院,研究对象是眼下最火的 Agent。

via https://arxiv.org/html/2610.07447v1
10 月 5 日挂上 arXiv 的这篇论文叫《Fork-and-Flush: Escaping Idea Basins in Autoresearch Agents》。按常理,Agent 记得越多活干得越好,但论文给出的结论恰恰相反:聊得越久,Agent 越容易钻进牛角尖。微软开出的药方听上去简单粗暴,定期清空聊天记录。
同一个 Agent,跑八次,像八个人
研究者关注的对象,是一种能"自己搞研究"的 Agent。它先给出一个方案,执行实验,读取分数,再依据反馈提出下一个方案。如此循环往复,一跑便是数小时乃至数天。
他们把同一个 Agent 放在同一个任务上,各自独立运行八次。原以为结果不会差太多,可最终分数却从 68.3 一直拉到 100.0,中位数 81.9,最好和最差之间相差 30 多分。
更扎心的是,砸算力没用。给跑得差的那几次追加大量计算,它们就在原地打转,差距基本补不上去。
问题出在哪儿?团队将每次运行生成的方案依照"功能相似度"绘制成二维地图,结果发现每轮实验的方案全都挤在地图的一小块区域内,自始至终几乎没有移动。他们给这类区域取了个名字——"思维盆地"(idea basin)。八次运行分别落进了五个不同的盆地。

同一个 Agent、同一个任务,跑八次。左图展示分数随算力投入的变化,八次运行的 plateau 高度各不相同,最终分数落在 68.3 到 100.0 之间。右图则按功能相似度呈现方案地图,八次运行陷进了五个"思维盆地"。
这有点像一支装修队,头一天敲定了北欧风,此后每买一件家具都往北欧风上凑。哪怕地中海风其实更合这套户型,他们也想不到,因为手机里塞满了北欧风的参考图。聊天记录,就相当于 Agent 手机里那些参考图。
这些 Agent 原本就带有"自动压缩聊天记录"的设计,对话过长时会自行总结后再往下走。可实际测下来,仅凭压缩摘要,仍然跳不出盆地。
微软的药方:记忆清空
方法叫 Fork-and-Flush,翻译过来大概是"分叉加清空",分两步。
分叉(Fork):将 Agent 复制为若干并行分支,每个分支都完整继承此前的"工作区",即已写好的代码、文件和实验结果,所有家当一个不落。
清空(Flush):每个分支的聊天记录清零。你们几个,别管之前是怎么想的,看着现有的东西,重新琢磨该怎么做。
各分支运行一段固定时间后比较分数,保留最优者继续,其余就地解散。论文里有一句话说得很到位:新分支必须从这些文件里重新推导出自己的意图,这正是它能落到另一个盆地里的原因。

Fork-and-Flush 示意图。左图:分叉后各分支携带同一份工作区、以空白聊天记录重新起步,胜出分支继续向上。右图:清空后的分支有机会跳进另一个思维盆地,没能跳出去的就地解散。
研究者在 13 个长周期任务上做了测试,包括多连块拼图、车间调度、密码破译、压缩图像分类器、优化 VLIW 内核。单次运行从几小时到超过一百个小时,干活的模型是 GPT-5.6-terra 和 GPT-5.5,通过 GitHub Copilot 的命令行工具调用。
同样的算力预算下看归一化平均分:单跑 0.47,跑四次取最好的 0.54,Fork-and-Flush 0.78。换算成相对提升,比单跑高 66.0%,比四选一高 44.4%。13 个任务里,它在 12 个上平均分最高。发挥也更稳了,标准差从 0.26 降到 0.16。
消融实验同样耐人寻味:只清聊天记录、不分叉,提升约 22%;只分叉、不清空,也有提升;两者合到一起,效果才最好。看来"遗忘"和"多试几次"各管一段。
最富戏剧性的一次出现在拼图任务中。预算消耗到 71% 时触发清空,胜出的那个分支首次提交就跨出了 43 个单位的距离。这是什么概念?单跑的 Agent 到这一阶段,每步最多只挪动 4.4 个单位。这一跳直接落进一个全新的盆地,最终拿到 93.9 分,而八次单跑基线的中位数是 84.6。另外三个没能跳出去的分支,每步移动不超过 1 个单位,原地留守。

拼图任务上的关键一跳。左图:蓝色箭头代表胜出的 b3 分支,从分叉点径直跳入新盆地,最终得 93.9 分。右图:清空之后它的第一步跨出 43 个单位,远远越过灰色区域所代表的单跑常规步幅。
模型再强,这个问题可能也在
有人可能会想,等模型更强了,大概就不会钻牛角尖了。
团队选用 Qwen3.5 的 4B、9B、27B 三个尺寸,在 MAX-3-SAT 这种难度可精确调节的题目上做了验证。结果显示,运行之间的差异呈现一条倒 U 型曲线:题目过于简单,每次都能做对,解法趋同;题目过于困难,每次均做不出,失败也趋同;差异最大的位置,恰好落在模型能力的边缘,大约在"能做对一半"的地方。拟合出的峰值在 0.497,基本处于正中间。

图中横轴代表模型相对参考求解器的达成度,纵轴则是多次运行之间的差异。Qwen3.5 的三个尺寸画出的是同一条倒 U 型曲线,最高点落在达成度 0.5 左右。
开放式研究问题从定义上就位于能力边缘。作者由此判断,模型越强,这一现象多半不会消失,只是边缘会往更难的题目上移。定期把上下文清空的做法,对以后的前沿模型或许仍然有效。
对做 Agent 产品的人来说,这项研究给出的提醒很直接:默认“上下文是资产”这个前提,可能得重新想想。记忆攒到一定程度后,反而会压住探索空间,早先的推理会把 Agent 钉在一条并不理想的路径上。