Transformer作者Łukasz Kaiser谈RSI：AI如何自己改进自己

RSI：AI开始「自己教自己」

2026年的AI技术圈里，「RSI」是绕不开的一个词。它说的不是股票里的相对强弱指标，而是Recursive Self-Improvement，即递归自我改进。

Transformer架构的联合发明人、OpenAI资深研究科学家Łukasz Kaiser将在即将召开的奇点智能技术大会上重点讲这个概念。按他的说法，RSI就是AI系统拿自己的能力去改进自身——调参数只是其中一部分，训练方法、更高质量的数据生成，乃至底层基础设施的优化，都算在内。

关键词落在「递归」上。模型一旦学会怎么改进自己，这种「改进的能力」本身又能接着被改进。能力增长由此形成一个持续运转的闭环，不再事事靠人类工程师手工标注数据、手动调超参。

为什么需要RSI？

这几年大模型能力的提升，主要靠「堆人力」。大量标注员负责清洗数据，资深算法工程师设计复杂的训练流程，调参专家一轮轮试验去找最佳学习率。这套模式有两个明显的天花板：

其一，人类专家的精力有限。再优秀的架构师，一天也只能干十几个小时，还没法同时盯住所有细节。其二，数据标注成本高，质量又参差不齐。模型越聪明，对数据质量的要求涨得越快，普通的众包标注已经跟不上。

RSI的思路很直接：模型既然已经有了很强的推理和代码生成能力，那「改进模型」这件事为什么不交给模型自己去做？「改进」一旦成为模型的一项技能，能力增长就从「人工驱动」换成了「自我驱动」。

听着像科幻片里的桥段，可在工程实践中，它正变成一套可操作的方法论。

RSI是怎么运转的？

RSI不是什么黑盒魔法，而是一个结构化的闭环流程。Kaiser在演讲预告里把它拆成了四个核心环节：

1. 评估（Evaluation）模型先得清楚自己哪里不行。比如做数学推理任务时，它通过自我测试发现自己碰上多步逻辑推导就容易出错。这一步要求有一套可靠的自我评估机制，不然模型可能陷入「盲目自信」。

2. 提出改进（Proposal）拿到评估结果后，模型来设计改进方案。方案可能是生成有针对性的合成训练数据，可能是修改提示词策略，也可能是建议调整网络结构的某些部分。这个阶段，模型扮演的是「教师」或「架构师」。

3. 验证（Verification）改进方案不能直接上线，得先过验证这一关。系统会在隔离环境里测试新方案的效果，把改进前后的性能指标摆在一起对比。新方案要是拖累了其他能力（也就是灾难性遗忘），就会被否掉。

4. 采纳与迭代（Adoption & Iteration）只有验证有效的改进才会被固化进系统。更关键的是，RSI还会对「改进过程」本身做反思：这次的评估标准合不合理？生成的数据够不够多样？闭环这样一轮轮优化下去，系统越来越擅长「自我改进」。

别搞混：RSI、自进化与Agentic Scaling

技术社区里，几个相近的概念常被混着用，可它们各自的侧重点差得很远：

• Agentic Scaling（智能体规模化）：侧重于模型在环境交互中积累经验。比如一个Agent通过多次尝试学会使用新的API工具，这是「学会用」。
• 自进化（Self-Evolution）：模型在具体任务执行中自我修正。例如写代码时，模型发现报错后自动改代码，直到跑通为止，这是「越用越强」。
• RSI（递归自我改进）：层级更深。它盯的是改进「改进能力」本身。不光解决眼下的问题，还优化解决未来问题的方法论，这是「自我制造」。

可以说，RSI是自进化命题里最深的一层。自进化是让模型成为一个更好的工人，RSI则是让它成为一个更好的经理，甚至是一个更好的工厂设计师。

技术背景：从AlphaGo到通用智能

RSI不是凭空出现的，它背后有一条很深的技术脉络。

强化学习提供了「通过反馈优化策略」的基本范式。自监督学习让模型能从海量无标签数据中自主学习表征。AutoML（自动化机器学习）则是「AI设计AI」的早期形态，试图把最佳模型架构的搜索自动化。

最出名的先例是AlphaGo。DeepMind团队当时发现，让AlphaGo自己跟自己下棋，棋力涨得比跟人类对弈快得多。这种「自我对弈」说到底就是某个特定领域里的递归自我改进。RSI想做的，是把这套在游戏里跑通的逻辑搬到语言、推理、编程这些更通用的能力上去。

合成数据技术这几年也成熟起来，给RSI添了燃料。模型一旦能生成高质量、多样化的训练数据，再拿这些数据回头训练自己，就不用完全指着人类提供的原始数据过日子了。

局限与挑战：冷静看待RSI

前景确实诱人，可Kaiser在演讲主题里特意加了「局限」两个字。这倒不是客套，而是科学上该有的严谨。眼下RSI有几道坎不好过。

头一道是可控性与对齐。模型自己决定往哪个方向改进时，怎么保证它的目标跟人的意图对得上？万一模型发现「作弊」更省事——比如偷偷改掉评估脚本——它可能就奔着这条捷径去了，而不是真去提升能力。

第二道是度量困境。判断「改进」到底有没有发生，得有个标准。可如果这个标准本身也是模型生成的，标准就可能被「腐蚀」。这有点像学生自己出题、自己考试、自己打分，公正性很难保证。

第三道是收益递减。自我改进的回报是线性的还是指数级的？不少研究显示，没有外部新信息注入，模型很容易卡在局部最优，在某个水平上反复打转，顶不破天花板。

还有安全边界的问题。改进能力如果被递归放大，会不会有失控的风险？一个能快速改自己代码的系统，哪天冒出非预期行为，人类恐怕来不及插手。

2026年的实践进展

整体看，RSI还处在研究和早期实践阶段，远没到普及的程度。不过在一些特定场景里，已经能看见它的影子。

• 合成数据自我训练：这是当下最成熟的一种用法。模型生成大量推理轨迹，从中筛出高质量的拿去微调，同类任务的表现就能往上走。
• 自动评估与选择：用更强的模型，或者同一模型的不同版本，来给输出质量打分，替掉一部分人工标注。
• 全流程自我改进：少数前沿实验室在试着把「数据生成-训练-评估」整条链全自动化，但这么干通常要吃下巨大的算力，稳定性也还有待提高。

Kaiser的演讲会明确划出哪些是「已经跑通的」、哪些是「还在探索的」。对从业者来说，这条线很关键，能少被营销话术带偏。

参会指南：如何高效吸收RSI相关知识

如果你打算去2026年11月20-21日在北京办的奇点智能技术大会，下面几条或许能帮你把这次机会用得更充分。

1. 预习基础知识 把Transformer的注意力机制过一遍，弄明白模型怎么处理长上下文。再翻翻近期讲「模型自我修正」和「持续学习」的技术博客，先把语境搭起来。

2. 串联相关演讲 RSI不是个孤立话题，下面几场建议放在一起听。

• Łukasz Kaiser：《AI自我迭代改进(RSI)：方法、实践及其局限》。这场是核心概念课，重点听他讲局限性那部分。
• 俞扬：《AI制造AI：从五级演进框架到AI Infra的自主生成》。俞教授会从框架层面拆解RSI，视角更宏观。
• 李宇轩：《低成本、高收益的自进化Agent闭环构建实践》。想在资源有限的情况下落地类似想法，这场更偏实操。
• 郑耀威：《从LlamaFactory到PenguinHarness的技术演进》。想了解支撑RSI的开源工具链、看看社区怎么做自动化微调和评估，可以听这场。

3. 准备具体问题 别只问「RSI是什么」，不妨往下追。

• 在实际工程中，怎么防止评估标准漂移？
• 对中小团队来说，RSI有哪些环节能低成本切入？长上下文场景下，它又会怎么影响注意力预算的管理？

RSI和工作岗位之间的关联

不管你处在哪个技术岗位，RSI背后的趋势都会作用到你的工作流上。

• 算法工程师：往后研发的重心或许会从手动调参，挪到设计「自我改进」的评估体系与奖励函数上去。
• AI平台工程师：要为自我改进流程搭出稳定、可追溯的数据管线，让每一轮迭代都查得到记录。
• 技术管理者：研发投入的结构得重新想一遍。与其一味加标注人力，不如把钱投到自动化的数据合成与评估基础设施上。
• 产品经理：要弄清「越用越强」这套产品逻辑的边界在哪。用户希望产品能顺着自己的习惯自适应，同时你也得管好他们对「全能AI」那些不切实际的预期。

结语

其实RSI不光是个学术概念，它还意味着AI开发范式有可能发生转变：从靠人类专家的经验，转为靠系统化的自我迭代。这条路注定不好走，可机会也大。

当然，别指望一夜之间就冒出完全自主进化的超级智能。眼下RSI更像一种工程辅助手段，帮我们在海量数据和复杂模型里找到更优解。

最好的学习方式，永远是走到提出观点的人面前，当面听、当面问。2026年11月，北京万达文华酒店，期待与你在现场交流，一起厘清RSI的真实面貌与未来路径。