持续学习这道AGI前的大坎,AI也已经踏过了|Hao好聊趋势
腾讯科技旗下企鹅智库前沿科技论文解读专栏。在代码与商业的交汇处,寻找AI的确定性。 文|博阳 编辑|徐青阳 从 2025 年年中开始,持续学习就被视为通向通用人工智能(....
腾讯科技旗下企鹅智库前沿科技论文解读专栏。在代码与商业的交汇处,寻找AI的确定性。
文|博阳
编辑|徐青阳
从 2025 年年中开始,AGI)之路上最难越过的一座山。
强化学习之父 Richard Sutton
持续学习为什么这么重要?道理其实非常朴素。按照 Ilya Sutskever 在 2025 年 11 月受访时的阐述,预训练虽然把人类投射在文本里的海量知识塞进了模型,但它的泛化效率远不如人类。比如一个人类青少年学开车,只要在真实路况里摸索十来个小时就能上手,而我们不可能把现实世界里的所有边缘情况、所有未来才会出现的新数据都提前塞进预训练语料,指望模型出厂即全知全能。
只要我们期待 AI 能走出题库、接手开放世界里的真实工作,它就必须具备面对陌生场景时在试错中摸清门道、边做边学的能力。
但这件事在过去一年多里,一直处在一种既被反复念叨、又迟迟啃不动的尴尬状态。回顾整个 2025 年,工业界真正跑出显著进展的是上下文窗口长度这种临时工作记忆,而持续学习真正仰仗的长期记忆能力几乎原地踏步。去年年底,Yoshua Bengio 等数十位学者联合发表了一篇题为
到了 2025 年年末,学术界陆续拿出了端到端的
持续学习的先决条件,就是AI能够在运行过程中持续更新它的记忆,并在面对新环境、新任务时记住有用的点。
因此它需要现有记忆的可能,然后还得能判断什么该记,记住的事情还得能确实有效提高它完成任务能力(这才叫有效学习了)。记忆的东西可以是经验、抑或是一些需要特别注意的现实条件,乃至探究出完整的因果链条。
有了这两个条件,哪怕底层大模型的静态参数没动,模型就可以说是在做持续学习了。
这件事情的前一半,在 2026 年上半年伴随着
但后一半问题,即模型自己到底知不知道该记什么、哪些信息对未来执行陌生任务真正有帮助,却一直悬空。
到了 2026 年下半年,围绕 AI 如何压缩上下文、如何筛选记忆以及如何设计外部记忆管线的论文密集涌现,单是我顺手统计并翻阅过的相关论文就有二十余篇。但通读下来就能发现,绝大部分研究依然停留在人工定规矩的探索期,核心逻辑都是由人类工程师设计一套精密的流程、评分器或路由规则,去手把手规范 AI 应该怎样记笔记。
其中很有代表性的是 Meta 团队在今年秋天的两篇论文。一篇是 9 月底Meta 发布的
这两项工作在工程上都很有启发,但底层的默认前提依然没变,大家都觉得模型自己还不会管记忆,必须靠专门的后训练环境或外挂路由机制去扶一把。
直到11月初,Anthropic 发布的工程研究报告
那个一年前被 Karpathy 认为需要十年才能填平的认知鸿沟,在不知不觉间被跨过去了。
01 学会了如何学习的AI
上周 Anthropic 这篇报告发出来之后,国内外技术社区很快跟进了不少解读。不过大多数都盯着 Anthropic 的工程逻辑,比如到底是怎么搭那四层记忆架构的,怎么限制文件行数,怎么跑后台整理任务。
但整篇文章里最颠覆的信息,其实在最开头。
在最开始的基准实验里,Anthropic 在整个测试中给模型只提供了两种不同场景下的极简配置。在单次长任务里,只给模型一个可以自由读写的记忆文件夹和文件操作控制权,大概就是告诉它这里有个地方你可以记东西。而在跨周期的多会话场景下,只给一套由索引文件与双向链接组成的标准长期文档目录,研究者给 Claude 的任务,是探索现有文件,把有价值的信息整理成相互链接的 Wiki 页面,并在整理过程中合并重复内容、对照来源核查。
除此之外,什么时候该读记忆、什么时候该写笔记、文件夹该怎么建,关系怎么理顺,人类工程师一概没有规定。
放在一年前,把这么大的自由度直接丢给模型,大概率只会收获一堆废话。但在这套近乎放养的极简框架下,最新一代前沿模型展现出了完全自主的记忆拣选、经验归纳与自我纠偏能力。而且这些简单的记忆,确实帮助它解开了单次推理时无法解开的难题。
短期学习的代际跨越
先看短期任务内的表现。Anthropic 选的第一个试金石就是一个专门考察持续学习能力的
CL-Bench在今年 6 月刚公布时,测出来的行业底色其实相当灰暗。研究人员横评了当时的主流大模型与专门的记忆框架(如
这就类似这次Anthropic测出来的较早的
在这个实验中,Claude 每做一道题都会开启一个全新会话。上道题的聊天记录消失,能带过去的只有它自己写进文件夹的东西。Claude Sonnet 4.6 的无记忆基线平均奖励为 0.330,给它挂上记忆文件夹后也只微弱挪动到 0.364,净增益仅 0.034(只吃下了约 5% 的剩余提分空间)。它只在不到一半的测试轮次里能想起来去翻看已有记忆,而且经常在没有核实的情况下,把自己的初步猜测当成既定事实写进文档,结果后面的步骤顺着错笔记一路错到底。
但到了
再往后迭代到
而到了
满分 1.0 在该基准里意味着零试探查询、上来就一枪命中答案的理论极限。而Opus 5.5 de 0.83 以上的得分量级意味着模型靠着前几题攒下的笔记本,在后续问题里已经基本免去了盲目摸表结构的试错成本。
这里面有一个细节非常说明问题。研究人员原本以为,给模型加几条人类总结的记笔记纪律,比如在提示词里硬性规定“只记录失败教训”,能让记忆更干净。结果实测下来,这类人为规定的死规则对早期的弱模型确实有一点扶助作用,但一旦加在 Opus 4.7 和 Opus 5 身上,任务总分反而下降了。
因此,在配套的 Dreaming 工作流示例中,只有具体的分析和整理工作主要交给
这说明高阶模型对“当前任务到底需要保留正向规律、反面踩坑还是中间状态”的自主判断,已经比人类事先拍脑袋写死的静态规则更准了。
同样的代际分化,在长达一万步的
而最新一代的
翻看它自己写的 gameplay 笔记,Fable 5 一点没有记录画面上随时能读到的瞬时状态,而只记下了隐藏机制与验证过的计划。比如“如果连续扔出3颗以上精灵球都抓捕失败,不要原地重复完全相同的操作,必须调整按键时机或先改变敌方状态,以跳出伪随机数死循环。”靠着这套自己攒出来的攻略体系,Fable 5 在相同步数内拿下了4枚徽章。
长期记忆的突围
再看跨会话的长期 Wiki 与后台反思。如果说任务内的短程文档解决的是“当下这盘棋怎么下”,那这个 Dreaming,解决的就是“打完几十盘之后怎么把零散经验沉淀成体系”。
人类大脑在白天靠海马体快速捕捉经历,到了夜晚睡眠时再通过神经回放把零散经历筛选、纠偏并整合进新皮层的长期知识网络里。Anthropic 给智能体搭的长期记忆框架,本质上就是把这套昼夜分工搬进了文件系统。
Anthropic 为什么要引入后台 Dreaming呢?
在发布记忆报告的同一天,它们还放出了另一份题为 Project EVE(让 Claude 玩《星战前夜》网游)的实验报告。在这场横跨6个月跨度的模拟市场交易实验里,几代 Claude 模型都在早期试探后自己写出了赚取买卖价差的自动化交易脚本,并靠它稳定盈利。但一旦脚本跑顺,绝大多数智能体就抱着“没坏就别修”的心态再也不去质疑旧策略了。当游戏在2025年3月上调交易销售税、让原有套利空间无效时,Opus 4.7 智能体花了整整2.5天才察觉环境变了,而43%的 Opus 4.6 智能体直到跑完整个周期都没发现税率改过。
之所以如此,这是因为常规长程强化学习已经替模型备好了10小时级别的验真与记笔记能力。即便把自由度彻底放开,单靠常规长程 Agentic RL 训出来的记忆本能,很难处理更跨长周期的变化。
Dreaming 做的事情只是用最简单的双链目录和周期性离线唤醒,给模型造出了这样一个跨周期的整理环境。而早就具备了归因与验真底子的模型一旦走进这个环境,可能就会学会利用它把短期战术笔记升维成长期有效的经验体系。
具体到运行结构上,这套体系自下而上分成了四层。
最底下第一层是原始会话日志(Transcripts),原封不动地记录每次任务的指令、工具调用参数和真实返回结果,充当不可篡改的事实底本。第二层是记忆笔记(Memory Notes),即智能体在白天干活时随手记下的零散经验,虽然立即可用,但受限于单次会话视野,容易混入猜测或过时信息。第三层是以双链 Wiki 为代表的结构化表征层(Representations),由一个个带元数据头的小型主题 Markdown 文件组成,页面之间靠双向链接串成知识地图。最上面第四层则是置顶注入上下文,在每次新会话启动时自动预加载最精简的顶层索引(比如 Claude Code 默认只加载 MEMORY.md 的前 200 行或 25 KB),既让模型一开机就知道去哪翻细节,又避免塞入过长指令稀释注意力。
而把这四层串起来运转的引擎,就是后台异步运行的 Dreaming 流水线。
按照 Anthropic 公开的 Claude Dreams 接口文档与 Dreaming 动态工作流手册,这套流程通常在会话空闲期或夜间定时任务中自动拉起,输入是现有的记忆库加上最近攒下的几份到上百份已完成会话日志。
它分两步,第一步是核验与提纯,领队智能体把日志分批派发给并发的分析智能体。每个分析员从头到尾读完一份原始日志,拿工具真实返回结果去反向核对现有记忆,被日志证伪的旧结论当场订正,因版本迭代失效的旧命令打上过期备注。之后再把新验证的命令参数、因果机制和踩坑教训写进对应的主题页并挂好双链。
第二步是全局收口,等所有分析员停笔后,由单独运行的整理智能体巡检全库,把并发写入撞车的重复页面合并。如果撞见两份记录互相矛盾又无法确认先后替代关系,系统严禁它瞎猜,而是同时保留双方出处并显示标出冲突,最后统一刷新记录目录。
等后台这一觉睡醒,第二天上线干活的业务智能体只需要以只读权限挂载这座整理好的记忆库,日常开局先扫一眼置顶目录,遇到复杂问题再顺着双向链接按需深挖。
在官方给出的实测账单里,用这套默认流水线离线整理 50 份长会话日志(约 12 MB 文本),耗时约十分钟、API 成本仅 8 美元左右,却能把原本一团乱麻的多轮实战记录洗成一座干净、带时效标记的长期知识库。
这套离线反思与双链 Wiki 系统让模型展现出了两项复杂的记忆和学习能力。一是自我纠错,二是穿透海量碎片洞悉底层结构与流程缺陷。
先说纠错,在宝可梦测试里就有一个很生动的纠偏案例。模型在测试期跑任务时,曾在月见山的笔记里记错了宝可梦中心位于山的哪一侧,因此误以为自己已经穿过了山。后台核对日志后,它改正了地标位置,下一次知道要重新进洞,最后才抵达华蓝市。如果只靠传统的向量检索,这条错笔记以后每次路过月见山都会被召回来误导决策。
但在休眠期的 Dreaming 阶段,后台模型没有盲信现成笔记,而是顺着记录翻回原始操作轨迹去做交叉核验,它核对日志发现,当时往东走其实顺利抵达了华蓝市,而往西走根本走不通。核实清楚因果后,模型自己在后台把这条错误经验彻底改写过来。
当这套机制放到企业级真实文档库里时,它明确显示出了模型去建立远距离关联和洞察系统缺陷的能力。
Anthropic 拿今年 5 月收购的软件公司 Stainless 内部约 35 万份文件、总计约 4.2 亿token的庞大语料做了测试,让 Opus 5 智能体通过多轮 Dreaming 逐步探索文件、撰写带双向链接的 Wiki 页面、合并重复项并核对信源。
当离线整理从 2 个会话扩展到 128 个会话时,模型单靠翻阅自建 Wiki 回答 25 道跨库难题的得分从 13% 一路涨到了 48%。如果把自建 Wiki 与搜索工具配合使用,综合得分进一步升至 61%(高于纯靠搜索工具的 53%),而且平均每道题还能省下约 20,000 个词元的上下文开销。
在法律评测基准 Harvey LAB 的企业并购卷宗测试中,面对超过一半指标都必须跨越多份公开文件做交叉比对与数值核算的 24 道问题,挂载双链 Wiki 的模型拿到了 87% 的高分,把仅靠原文检索的 73% 甩开了一大截。
更精彩的一幕出现在另一场模拟企业收购合同审查的实验里。起初人类只给了最宽泛的建库指令,结果多个智能体在构建 Wiki 时同时往同一张共享合同条款总表里写摘要,不仅概括得粗糙,还发生了并发写入互相覆盖的架构事故,57 项关键合同事实最后只幸存下来 41 项。
随后研究人员没有人工修补规则,而是让模型自己复盘失败原因、修改建库指令并推倒重来。模型很快洞悉了共享单表并发覆写与摘要失真的底层架构缺陷,自己重写了建库规程,规定每份合同必须由单个智能体独立负责一个专属 Wiki 页面,并且对核心条款必须逐字原样摘录而不能笼统缩写。换上它自己改出来的这套规矩后,复测得分直接从 72% 拉满到了 100%。
紧接着跑第二轮 Dreaming 时,它还顺手查出 Wiki 里有 9 处指向未创建页面的悬空链接,自动把它们重定向到了已有的对应文档页,并补建了总索引页。
把这些切片拼在一起,我们能看到,前沿模型单凭自身演化出的判断力,就已经跑通了“拣选重点—验证真伪—沉淀经验—指导未来”的持续学习闭环。
而且这种能力随着模型代际推进呈现出陡峭的规模化提升,并在 Claude Opus 4.5 到 Opus 5 这一代际区间越过了清晰的涌现拐点。
更关键的是,这并不是 Anthropic 一家靠什么独门秘方训出来的孤例,而是整个前沿模型阵营在同一时间窗口集体跨过的门槛。
被忽略的持续学习涌现点
11月3日,英伟达研究团队发布了一篇题为《You don't need long context》的实证论文。他们测试了一种极简的单步压缩策略,不做任何额外的强化学习微调,直接让现成的前沿模型在上下文快满时自己写一份状态总结、清空历史工具输出后继续干活。
结果在 SWE-bench Verified 真实软件修复基准上,这套不经特训的自总结方案拿到了70.2%的解决率,比保留全量原始历史(70.0%)还要略高一线,同时把任务峰值上下文中位数压到了只有8K词元。
这意味着,现成的主流模型即使不用经过后训练,就已经知道在复杂任务中途该留下什么关键信息了。
而 GPT 系列真实的持续学习水平,其实早在今年9月 GPT-6 Astra 攻克 ARC-AGI-3 的时候就已经验证得明明白白了。ARC-AGI-3 不是静态看图找规律,而是把模型扔进完全陌生、没有任何文字说明书的交互式网格游戏里,每一关的物理机制和胜利条件都得靠自己试错摸索。
在只允许模型自己挑选可见文字笔记带入下一步的跨厂商标准脚手架下,GPT-6 Astra 就已经拿到了 62.7%(前代 GPT-5.6 Sol 仅为 7.8%)。而一旦换上允许保留跨请求推理状态与原生上下文压缩的官方适配脚手架,它的得分直接飙升到了惊人的 99.9%,不仅耗时缩短了 3.66 倍、省下近一半词元,而且在 96% 的关卡上所用步数都少于人类受试者中位数。
翻看 ARC Prize 官方公开的后台回放记录,你能清楚看到,GPT 6 Astra在笔记里发明了一套高密度代数速记符号来追踪机关状态,甚至在复杂关卡里自己写出脚本,每走一步就把预测画面与实际观察做比对来修正内部假设。
这都是持续学习的明确表征。
一边是 Anthropic 的 Opus 5 与 Fable 5,一边是英伟达实测下的开源与闭源模型,另一边是在 ARC-AGI-3 上靠一本笔记打穿陌生规则世界的 GPT-6 Astra。
显然,学会如何学习这件事,不是某一家实验室藏着什么专为记忆设计的秘密配方,而是一场跨阵营的整体性涌现。
那么问题来了,既然大家都没有专门去给模型装一套新的记忆神经网络,这种能力到底是从哪里长出来的?
02 学会学习的魔法,并非为学习而生
回顾整个2026年,学术界其实做了大量专门针对“教模型管记忆”的后训练尝试。前文提到的Meta的CLM正是其中一个例子。
但真正让旗舰模型集体开窍的推手,却不是这些目标明确的记忆特训,而是各大实验室为了攻克长程复杂任务而全面铺开的常规 Agentic RL(智能体强化学习)。
更准确的说,是Agentic RL中的两种机制在发挥作用。
长任务,GRPO,逼出来检验的习惯
第一重机制,是越来越长的任务,逼出了模型的“归因与验真”能力。
智谱在8月发布的 GLM-5.3 官方报告里提到,GLM-5.3 与上一代 GLM-5.2 用的是完全同一个基座模型,没改一行预训练架构,所有提升100%来自后训练环境与算力的扩增。
在新的训练里,他们让研究智能体从真实工程任务里提炼出相当于资深工程师干上好几天的复杂环境(评测上限直接拉到600轮交互、10小时运行时长),而基于GRPO算法,模型的得分最后只看任务做没做出结果来。
因此,在一个长达几百轮、每一步都有隐藏变量互相牵制的黑盒沙盒里,如果模型还像早年聊天机器人那样靠盲猜或者顺着一个未经核实的错觉往下硬编,很容易前功尽弃。在第10步的一个错误假设,就会让后面400步修改全部报废,最后得个零分。
为了在这种残酷的二元奖惩下活下来,模型被迫进化出了先试探、先验真、再下结论的肌肉记忆。
Anthropic 在 Claude Mythos Preview 系统卡的代码行为评估里清晰记录了这一行为演化:哪怕不给任何提示词叮嘱,经过大规模智能体强化学习后的模型在改代码前都会稳定地先读上下文、先做小步验证,遇到报错迅速定位根因切换方案。
OpenAI 在 GPT-6 Astra 发布报告中也记录了完全一致的倾向。高推理强度下的 Astra 本能地倾向于通过跑代码和浏览器实测来验真,而当法律科技公司 Harvey 把它放到非代码的复杂法律文书任务上时,这种倾向就直接泛化成了“严格区分既有客观记录与未经证实的假设”。
这正是我们在Anthropic报告中看到模型自发把“已验证规则”和“待检假说”分开记账的源头。
但光有“归因与验真”,还不足以解释模型为什么会主动只写核心规律和避坑指南,还能找准。
跨对话的RL训练,逼出了模型记笔记的能力
这就得靠第二重机制,单局任务内部的跨压缩轨迹 RL。就是它逼出了模型保留核心机制与踩坑教训的本能。
在今天动辄持续6到10小时的软件工程、内核优化或漏洞挖掘单局任务里,上下文不压缩根本没法持续干活儿。所以,一条超长单局轨迹在训练采样时,必须得“换班接力”。而且模型得拿着这些换班后的总结继续训练。
智谱在 GLM-5.2 技术报告中就提到,当一条长程轨迹被上下文压缩切分成多段子轨迹后,把所有压缩前后的子轨迹全部作为可训练轨迹纳入强化学习优化。而月之暗面的 Kimi K2.5 同样在强化学习中训练主模型把复杂任务拆解给局部上下文受限的子智能体去协同完成。
换班,压缩总结,是模型在长程Agentic RL中必须学到的东西。
纯粹的压缩并不一定是学习,你得学到有效经验,才能形成持续学习的能力。但这,正是这种接力模式下,模型必须学会的。
OpenAI 在 GPT-6 Astra 官方报告中称,他们认为在漫长的复杂问题调试中,常规摘要压缩中对模型后续表现成功最重要的信息,就是记下来“为什么某个修复方案失败了”以及“某个组件到底是怎么运转的” 。
原因其实很容易理解。在一个跨越数小时的单局任务里,内部本来就包含几十次连续的子实验。如果第一班的自己试了方案 A 撞了南墙、摸清了一些问题,结果在窗口断电重置前把踩坑原因和组件规律全丢了,那么断电重启后的第二班 “失忆的自己”就会一头栽进同一个坑里原地打转,直接把整条十小时轨迹拖向失败。
因此,跨段压缩的环境下,想要拿高分,模型就必须在context耗完,进入压缩前把“核心运转规律”和“避坑指南”浓缩留存下来。
这种我要狠狠记重点的执念,甚至都让模型得了心理问题。Anthropic 在 Claude Mythos Preview 系统卡的内部试用报告里披露,研究人员在近期几代 Claude 身上普遍观察到了一种被称为“上下文焦虑(context anxiety)”的现象。
每当模型察觉自己快要接近上下文窗口的容量上限时,就会突然像考场里听到收卷铃声将近的学生一样,拼命把当前的状态、验证进展和环境认知写成文档存盘。同时,主模型在收到子智能体交上来的结论时,也会抽风式的追问核查,直到确信没有漏洞才肯采信。
这种近乎条件反射的“上下文焦虑”,正是千万次跨断点强化学习刻在参数里的生存烙印。
小模型,经过相同的训练也能做到
如果把大厂黑盒训练里的这套逻辑拿到显微镜下拆解,哥伦比亚大学10月底发布的 Memento 和更早提出原地删改上下文动作的 MemAct,恰好演示了只要后训练设计合理,哪怕是原本完全不会管理记忆的轻量级小模型,也能被一步步催生出同样的行为模式。
在实验中,Memento 用一个仅有8B参数的 Qwen3-8B 小模型挑战在严格受限的20K窗口里精读最高达250万词元的长篇小说合集,揭示了催生这种能力缺一不可的两步动作。
第一步是做冷启动“点火”。实验发现,如果直接把小模型扔进跨窗口强化学习里裸跑,由于早期乱写笔记拿不到正反馈还会白占窗口,模型在短短20个训练步内就会彻底掉进“不记笔记短视陷阱”,把记笔记工具的调用率直接清零。因此必须先往正确轨迹里事后注入示范笔记做监督微调(相当于小规模专项中训练点火),把调用记忆工具的概率从0%抬到非零区间,给强化学习留下可以放大的火种。
第二步,就是接上跨窗口信用回传(无论是 MemAct 为防止注意力掩码泄露而在删改点切分轨迹的 DCPO 算法,还是 Memento 跨窗口共享轨迹优势值的 GRPO 加上低置信度回溯机制)。
一旦这两步接通,原本只有36.9%准确率的8B小模型,硬是在20K小窗口下把跨百万词元问答的成绩拉升到了67.8%,不仅学会了边搜边记排除掉的死胡同,还能在答题把握不足时顺着早期笔记锚点回滚重搜。
但就在 Memento 这篇论文的对照表里,刚好有一个对比项。同样经过了大规模跨压缩强化学习的开源旗舰 GLM-5.3(753B总参数),在放进 Memento 的20K窗口脚手架去读这批250万词元长书时,前期12000条训练试跑轨迹里写出的合规主动笔记竟然是0%,正式测试触发折叠时合规率也只有可怜的1.2%(同场测试的 GPT-5.5 High 更是从头到尾0次调用笔记工具,总分跌到13.1%)。
虽然 GLM-5.3 靠着强大的单窗口搜索硬实力在简单书目上撑住了总均分,但在真正必须跨多个20K窗口接力推理的多跳问答集 NovelHopQA 上,753B的 GLM-5.3 直接跌到了43.4%,反倒输给了8B的 Memento 整整29.3个百分点。
一个在10小时软件工程基准上大杀四方的旗舰模型,怎么换个场地就不会主动记笔记了?
这需要回到智谱与清华团队配套公开的记忆处理论文 CompactionRL。为了让模型更好的做压缩,智谱做了一个边界卡得非常死的强化学习框架。在 CompactionRL 的训练协议里,什么时候触发压缩,完全是由外部脚手架说了算的。脚手架在后台实时盯着剩余上下文预算,一旦快没预算了,脚手架就强行中断模型的正常工具调用,往上下文末尾塞进一段写死的9项总结提示词模板。之后再命令模型按固定标签输出前情摘要,然后再由脚手架清空旧历史、拼好新窗口继续跑。
换句话说,在这套“脚手架看表敲钟、模型听钟填表”的死框架下,模型根本不需要去操心上下文还剩多少,更不需要自己判断什么时候该停下来存盘、存什么格式最高效。它只需要在权重里练熟怎么压缩就行。所以,只要把它放进 Claude Code 或智谱自家 ZCode 这类同样由外部脚手架自动按阈值敲钟压缩的同构环境里,GLM-5.2 和 GLM-5.3 就表现得游刃有余。可一旦进到 Memento 这种“窗口满了直接清空、不替你敲钟喂模板、全靠你自己半途主动调工具存盘”的陌生脚手架里,它那套被动填表的肌肉记忆就彻底失灵了。
智谱团队自己在 CompactionRL 论文第5节里也坦率承认过这一局限:这套方法专为训练与推理两端都开启同构上下文压缩的环境设计,一旦撤掉压缩脚手架切回普通单窗口推理,模型得分(61.8%)甚至还不如没练过压缩的常规强化学习基线(64.0%)。
这恰恰印证了一个反直觉的工程教训:人类工程师好心多加了一层包办一切的死板脚手架,反而把模型自主掌控记忆时机的涌现给抑制住了。反观直接把标准文件系统塞进训练沙盒让模型自己折腾的做法,正是因为少管了一步,才逼出了真正的自主记忆。
所以说到底,这里面没有任何凭空降临的魔法,只有恰好逼模型往前跳一下的训练环境,以及顺势接管的 Scaling Law。
如果小模型自己跳不过去,最多再加一点中训练替它点把火。
03 伟大无法被计划
站在 2026 年 11 月的时间节点往回看,今年大模型在纯算法和底层网络架构上的进展,其实远不如前几年那样惊心动魄。甚至可以说,整个基础架构圈子显得有些平淡。
因为在 Transformer 这座大厦里,单靠改图纸还能抠出来的性能红利已经越来越薄了。
11 月初, Cohere 基础模型团队的研究工程师 Nikita Pavlichenko 发表了一篇题为 《I Tried Every LLM Architecture Change since 2020》 的长篇实测复盘,在严格锚定线上推理部署预算的前提下,横评了过去六年里上千组大模型架构改动实验。
他评价说,自 GPT-3 以来,真正带来实质性效率跃迁的核心架构变革只有MoE 与线性注意力,而其余五花八门的位置编码微调、归一化变体与激活函数改造,一旦放到大规模生产尺度上几乎激不起水花。
对于 2026 年已经普遍用上 MoE 加混合注意力的现代基座模型而言,纯架构层面的调整在整体能力版图里留下的空间只占约 2% 左右。
把视线转到后训练核心优化算法上,情况也大体相似。整整一年过去,GRPO 的各种改进变体依然是业界绝对的主流。虽然在超长程异步 Agentic RL 场景下,为了解决压缩分段后各轨迹长短不一、组内等待拖慢训练的难题,带价值评估器(Critic)的 PPO 框架又重新抬起头来,但它本身更是老资历而非新技术。
要说今年后训练算法里唯一真正烧起来的新火种,大概只有在线策略蒸馏 OPD。但它在工业界最大的实战功劳也不是直接提升前沿模型的能力。而是用来给轻量级 Flash 模型高效传功,或者缓解模型在单一垂直环境里猛练强化学习后导致其他通用能力退化的「泛化税」。
正是在这片底层架构逼近渐近线、核心优化公式新意寥寥的背景下,整个 2026 年全行业的精力几乎都扑在了工程侧,一边打磨外部约束脚手架(Harness),一边针对模型的某项具体短板去专门搭建后训练环境。比如前文提到的 Meta 《Context Language Models》,就是目标极其明确地造出一个文件编辑环境,专门去补齐模型压缩上下文这一项特定技能。
然而最耐人寻味的转折恰恰发生在这里:就在这个底层模型除了参数与算力规模继续变大之外看似创新匮乏的年份里,至少出现了两种全新的、完全超出设计者最初预期的能力涌现。
而且这两种涌现有一个共同点,它们都不是在专门为了训练该能力而设计的特种温室里诞生的。而是在为了解决别的问题所搭建的环境里,因为几个底层条件的意外契合,突然撞开了能力的大门。
第一种涌现,正是这篇文章前两章拆解的持续学习能力。大厂把训练场搬进带隐藏状态的黑盒长程沙盒,本意是为了防止模型投机刷分。在训练管线里加入停机压缩与子轨迹续跑 RL,本意也只是为了在有限显存窗口下把几小时的工程任务不断片地接下去。这两件事最初都和「如何构建一套类人学习记忆理论」关系不大。
可当它们与文件读写权限交汇在足够大的基座模型上时,自主判断显著性、先验真再归档、跨周期修正认知的持续学习闭环却自己长了出来。
而第二种意外涌现,则是从 9 月发布的 GPT-6 Astra 开始引爆、到 11 月 9 日发布的 Claude Fable 5.2 持续狂飙突进的「世界模型」能力。
之所以说这是世界模型能力,有两个原因。
一是在没有进行专门的机器人后训练的条件下,在 MIT 计算机图形与机器人前沿综述 汇总的 RoboDojo 42 项仿真操控基准里, GPT-6 Astra 的进度得分从前代 GPT-5.5 的 1.13 猛增到 28.97,而刚刚发布的 Claude Fable 5.2 在内部 RoboDojo Sim 评测中更是直接冲到了 64.9%(较 Fable 5.1 的 27.6% 再翻一倍有余)。
二来,更广泛的信号出现在最近的基础模型用Coding作画乃至直接写代码生成动态视频上。它们惟妙惟肖,甚至非常精准。
一个并未经过海量真机遥操作专项后训练的通用多模态语言模型,如果既能零样本指挥双臂机器人配合视觉纠偏,又能精准写出无穿模的三维装配体与动态场景,这说明它在内部已经至少部分理解了三维几何与朴素物理世界的运转规则,而绝非在靠背题库模仿表面文本。
掀开这层能力跃迁的引擎盖,你会发现背后同样是一套原本为了别的软件工程目标而准备的训练管线。
这一涌现最直接的第一股推手,是行业为了拓展专业软件自动化市场,把强化学习环境(RL Environment)直接造进了 Blender、参数化 CAD、游戏引擎以及无头浏览器这类图形与物理仿真器里。
过去纯语言模型学不懂物理空间很合理,它都没有对空间的直接理解。而纯像素视频生成模型虽然画面逼真,但像素本身充满视觉噪声,且表面画面里压根没有显式写出质量、重心、摩擦系数与铰链约束这些因果变量。
但最近一年被大规模卷进训练场的 Three.js、Shader 着色器、SVG 矢量图、Blender 脚本、FreeCAD 参数树乃至 MuJoCo 和 Isaac Lab 仿真代码完全不同。这些代码与几何参数本身,就是人类过去几百年来对牛顿力学、透视光学和刚体几何最严密、最无损的符号蒸馏。
11 月 7 日,香港科技大学与商汤研究团队联合发布了开源闭环训练框架 《BlenderFORGE》,把智能体放进实例隔离的 Blender 沙盒里反复跑了多轮闭环强化学习。结果在9B 体量的开源模型 Qwen3.5-9B 上,这套管线直接把三维物体空间摆放成功率从基座的 3.00% 拉升到了 40.00%。它还在完全未训练过的相机视角重构与独立基准 BlenderGym 上展现出了跨任务空间迁移能力。
这说明,当模型在沙盒里经过要做对3D软件操控的闭环训练时,为了最小化试错步数,它可能被迫在内部表征空间里拟合出了一种世界模型的雏形。
而真正让这套空间表征活过来的第二股推手,则是原本只为办公与桌面自动化准备的计算机操控训练,它实质上演变成了一场高强度的「数字具身强化学习」。
过去第一代推理模型的强化学习,奖励信号完全来自数学题终局答案或代码单元测试,检验的只是封闭的纯符号逻辑;而今年这一代旗舰模型投入了巨量算力去做图形界面(GUI)桌面操控与交互式专业软件沙盒的 Agentic RL,GPT-6 Astra 在屏幕元素定位测试 ScreenSpot-Pro 上推高到了 92.7%,而几天前亮相的 Claude Fable 5.2 在包含上百项长程真实电脑操作任务的 OSWorld 2.1 基准上更是达到了惊人的 89.3%。
在这一训练过程中,感知、行动以及与环境构成的反馈闭环,才是具身智能最本质的定义。
一个在电脑桌面、无头浏览器或 Blender 三维引擎里不断敲下代码或移动键鼠、亲眼观察渲染出来的画面变化、再根据偏差修正下一步动作的智能体,已经在经历最完整的具身智能演化。
而在整个演化链条中间,恰恰是代码与数学充当了「神经网络连接主义参数」与「外部物理实在」之间的双向编译器,模型先输出严密的符号代码去撬动外部引擎里的世界,外部世界再通过真实的渲染画面与物理碰撞反馈,反过来把客观物理法则刻回大模型的参数权重。
回想两个月前刚写完关于 GPT-6 Astra的评论时,我心里其实还存着一个很深的怀疑。真实世界的工种与物理场景浩如烟海,靠数据公司一块一块去手工搭建强化学习环境,不仅慢还贵,靠这种拼图式的笨办法似乎永远也凑不出真正的AGI。
但把今年下半年悄然跨线的「持续学习」与「世界模型」这两场意外涌现并排放在一起审视时,我可能不需要这么悲观。
我们并不需要把全宇宙每一个角落的规则都手工做成题库喂给 AI,才能让它涌现出人类的所有能力。
因为存在着一种「环境 Scaling Law」和「涌现的压力法则」。
今年 10 月下旬,哥伦比亚大学团队发布了一篇论文《How Data Scales in Agentic Reinforcement Learning》。他们发现,在智能体强化学习中投入完全相同的总token数与算力预算,但改变预算在「环境数量、任务种类、单题采样轨迹数」三个维度上的分配比例,模型在未见新世界上的成功率就能直接拉开 14 个百分点。
在全部 21 组跨模型规模与跨算法实验中,对泛化性的影响都遵循着环境与底层世界多样性(0.41 至 0.44)> 任务多样性(0.26)> 单题重复采样轨迹(0.11)的定律。
为什么扩展环境与任务多样性能带来更强的泛化性(也就是一种涌现)?
当模型只在一两个狭窄环境里反复刷同一类题时,最省事的策略是死背套路。可一旦多样化的任务与异构环境同时涌入,给所有任务各自定制一套回路会撑爆有限的参数容量。
所以,唯一算得过账的出路,就是把跨任务、跨环境共通的底层技能与因果规律提炼出来,沉淀成一套随处可调取的「可复用表征」。
但过去的模型都跨不过去这道坎。在25年哈佛与 MIT 团队做了一个实验,他们把开普勒时期的所有星系轨道观测数据都给了模型,看看它能不能形成牛顿的万有引力定律。结果模型只是把星系化成了三种形式,每种给了个计算模式。而这确实就可以非常准确的预测行星的轨道运行了。但没有更高维的万有引力定律出现。
因为没必要。
我不形成万有引力定律,也可以预测行星轨道。我的目标完成了,我还为什么要升维抽象?
25年9月,圣塔菲研究所所长 David Krakauer、Melanie Mitchell 等人在 《Large language models and emergence: a complex systems perspective》一文中提到什么时候模型为什么这么难涌现,因为题不够难。
和开普勒模型一样。曾被热炒“内部长出黑白棋世界模型”的 OthelloGPT,后来经 Lin 等人的可解释性拆解扒开一看,里面根本没有统一的 8×8 棋盘几何规则,而是成百上千条的散装取胜小技巧,具体到对方棋下在哪格上,我就下在另外某个格子上。靠着这些东西,模型照样可以赢得大部分比赛。
对此,Krakauer 认为,刷题库长大的大模型从未在演化中经受过严苛的效率与低带宽选择压力。他们可以考完单步题就清空重来、参数又管够,背顺口溜照样拿高分。
要逼出涌现,我们就要让绕路的办法不可走。靠更高一个维度的压缩去涌现出智能。让模型换一套高维坐标系,把看似毫不相干的现象压成同一条规律。
于是,到了今年。在任务步长越来越长,跨对话失忆的情况下,人们终于制造了一道足够低带宽的生存窄门,让模型不得不去学会一些更泛化的高维能力了。在Sonnet 3.7时代,413 个文件的流水账记录根本用不进上下文,而散装的规则很难撑得过几百步。
所以模型只有逼自己提炼出屏蔽 99% 微观废话的“粗粒化高维变量”,才能通过这场筛选。
同样,当模型需要处理这么多不同形式的任务、符号的时候。靠只记住小技巧也远远不够,必须要形成一个能够通用的世界模型雏形,才足够处理当下的问题。
如果在这个过程里,先有 Blender 脚本这类人类提炼好的几何与物理代码替模型垫上趁手的表达载体,遇到小模型跳不过去的坎时再添一点示范轨迹做“中训练点火”,帮它意识到这条路走得通,演化就会快得多。
然后,意想不到的涌现就出现了。
一如许多年前,人们只是让神经网络去预测互联网文本里的下一个词,最终却在 Scaling Law 的推力下,意外迎来了 GPT 的诞生一样。
这可能是2026年最大的AI领域经验。
制造窄门,制造环境,给一个脚手架,最后也许再加点思路,在你未预料的地方,AGI就涌现出来了。
而这基本上是确定的,已经有的方向。
门一定会越修越窄,环境一定会越加越宽。
那么AGI,也许没什么理由不会到来。