李飞飞对话Jeff Dean：AI自改边界在哪，RSI算不算被炒过头？

AI 能不能自己改自己，甚至把下一代 AI 的研发越推越快？这几个月，递归自我改进（Recursive Self-Improvement，RSI）在硅谷热度蹿得很快。

AI 如今接手了编程、算法优化、模型研发里越来越多的活，让 AI 参与自身研发的设想也开始落地。问题是，RSI 到底指什么，业内并没有统一说法。自动调模型参数、搜索更好的神经网络架构、让 AI 独立做研究并持续提升能力，不同层级的自动化都被叫成 RSI。概念越炒越热，技术边界却还是糊的。

近日，在斯坦福大学办的“直面 AI 的未来”（Confronting Our AI Future）大会上，斯坦福大学计算机科学教授李飞飞与前 Google 首席科学家 Jeff Dean 围绕这个问题聊了一场。

李飞飞说得很直接：硅谷现在把 RSI 这个词用得太泛，作为科学家，她对此感到困扰。她尤其想问，AI 靠自我改进实现无限加速的说法，是不是被炒过头了，里面有多少真实的技术依据。

Jeff Dean 的回应是，自动化确实能让模型研发变快，可训练、计算、实验验证都得花时间。有人以为自我改进循环能无限加速，他觉得这不现实。

有意思的是，Jeff Dean 自己就站在这股 AI 自我改进热潮里。今年 8 月，他结束了在 Google 27 年的工作，和三位前 Google 核心研究人员一起创办 Discovery Loop，想用 AI 把实验循环自动化，给科学与工程研究提速。

当天大会闭幕环节，Jeff Dean 先单独演讲，讲了 Discovery Loop 的研究方向和创业进展。之后李飞飞登台，和他对了大约半小时话。除了 RSI，两人还谈到 AI 如何改变科学发现、机器能不能给出优雅的数学证明，以及过去十年 AI 技术发展里一些出乎预料的变化。

RSI 究竟能走到哪一步？

对话一开始，李飞飞先抛出一个基本问题：RSI 和过去几十年机器学习领域研究的自我改进，差别到底在哪？

她梳理说，增量学习、持续学习、元学习、终身学习，再到神经架构搜索，机器学习领域一直在琢磨怎么让系统靠经验提升能力。现在自我改进、RSI 这些词被频繁提起，可它们之间的界限很模糊。

Jeff Dean 拿医学影像举例。假设研究人员要做一个能识别 MRI 图像的模型，可以让 AI 自动去试不同的神经网络架构，再按实验结果挑准确率更高的方案。实验一轮轮跑下去，这个医学影像模型的性能可能慢慢往上走。

这个过程算自我改进，但还够不上严格意义的 RSI。提出实验方案、挑选模型架构的基础系统，自身能力并没有因此改变。真正的递归自我改进，还得让这个系统反过来改进自己的研究能力，改完之后的系统继续提出更好的方案，再靠后续研究把自己往上推。

李飞飞认为这个区别很关键。她接着追问：RSI 涉及系统自身持续优化，那它有没有物理极限？为什么它被炒得几乎像个没有终点的系统，真实进展和虚构界限又在哪里？

Jeff Dean 用过去十多年的模型研发过程来回答。传统 AI 研究里，研究人员一般先做大量小规模实验，判断哪些技术方案管用，再把成功的方案用到下一代模型上。Google 开发 Gemini 也是这样，一轮轮实验和调整，把模型能力逐步改好。

把其中一部分活交给 AI，整个流程就有机会加快。比如一项实验凌晨两点结束，人类研究人员可能早上八点才回来查看结果，自动化系统可以马上分析数据，判断下一步试什么，并启动新实验。放到大型研发项目里，它还可能把不同团队的实验结果汇总起来，少掉协调和等待耗掉的时间。

但 Jeff Dean 强调，模型训练仍然要真实计算。计算机得把任务跑完，系统要存数据、分析结果，再据此决定下一轮实验。就算所有环节都自动化了，这些物理过程也没法无限压缩。所以在他看来，AI 自动化研发能提高模型改进速度，所谓无限加速的说法并不可信。

这和近期一些 AI 公司的乐观预期不太一样。今年以来，越来越多创业公司开始探索自动化 AI 研究，希望模型自主提想法、做实验、验证结果。不过这些探索还处在早期，离真正的递归自我改进有多远，目前说不清楚。

11 月 5 日，AI 评估机构 METR 公布了对 Anthropic 内部研发流程的评估结果。研究人员结合部分内部数据和访谈发现，自 2025 年 10 月以来，Anthropic 模型在一组可明确衡量的任务上，能力进步速度约为此前的 1.9 倍。

METR 认为，AI 在研发过程中的使用很可能是这一加速的重要原因。不过这项估计不确定性较大，当前 AI 也还没能在模型训练的关键环节里独立完成有重大意义的研究工作。这些结果说明 AI 辅助研发在往前走，但离完整的递归改进循环还有距离。

对谈中，李飞飞还问了个有意思的问题：人类算不算 RSI 系统？

她说，自己第一次做煎蛋卷失败，第二次通常会好一些，试到十次也许就能做出可以入口的成品。这显然属于自我改进。可如果在反复学习的过程中，大脑的神经连接也变了，让自己更善于学习，那这种过程是不是就带上了递归性？

Jeff Dean 认为，人类其实两种能力都有。人既能学具体知识和技能，也能慢慢摸出更有效的学习方法。后一种能力让人以后学别的东西更快，也是递归自我改进的关键。

他的看法是，RSI 不该被想成一种能无限提速的神秘机制，更该被当成一套具体的工程系统来对待，研究的重点是靠自动化实验、评估和反馈把模型能力往上推。这种改进能延续多久、最后走到哪一步，还得靠实际研究来给答案。

除了 RSI 这个概念上的争议，两人还聊了 AI 会怎样改变科学研究，以及机器学习领域过去十年的一些重要变化。

李飞飞先问 Jeff Dean：是什么让他和另外三位长期在 Google 工作的研究人员下决心离职创业？

Jeff Dean 说，他们很早就在琢磨怎么用自动化系统改进机器学习模型。十年前，神经架构搜索已经能帮研究人员找更有效的模型结构，但那会儿得靠复杂的程序来划定搜索范围。现在大模型和智能体起来了，这个过程变了：研究者直接用自然语言描述目标，系统就去尝试设计模型、跑实验，再按结果调整方案。

这也是 Discovery Loop 的技术路线。今年 8 月，Jeff Dean 与 Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals 一起创办了这家公司，想把这套思路用到更完整的科研和工程实验循环里。

在独立演讲中，Jeff Dean 介绍 Discovery Loop 已经搭好了内部智能体运行框架，研究人员可以和 AI 协作。眼下公司大约有 20 个自动化改进循环在跑，主要摸索两件事：怎么提高实验迭代效率，怎么让系统从之前的实验里攒下经验。公司的长期目标是把领域专家的生产力提升 20 至 50 倍，不过这个数字还有待验证。

李飞飞追问之后，他进一步讲了目前的研究选择。Discovery Loop 一开始主要盯机器学习研究、机器学习工程和硬件设计，原因是这些任务的实验循环能在数字环境里完成，自动化起来更容易。生物医学、材料科学这些领域就不一样了，通常要做真实的物理实验，实验设备、测量过程以及材料本身都会拖慢研究速度。

Jeff Dean 表示，自己对 AI 医疗研究一直有兴趣，但公司会先从数字领域做起，再慢慢往其他科学领域扩。

李飞飞接着问得更深了一层：这种强调提假设、做实验、评结果的技术路线，会不会让 AI 科研越来越偏向实验主义？她提到，物理学一直有理论研究和实验研究的分工。牛顿、爱因斯坦这样的理论物理学家，并不需要亲自做大量实验，靠数学推导和理论思考也能建立新的科学认识。如果 AI 主要靠大规模并行实验找答案，那它能不能担起类似的理论创新工作？

Jeff Dean 认为，两种研究方式之间并没有严格的界限。自动化系统同样能根据已有的实验数据提出理论，再通过不断迭代去找更简洁、解释力更强的方案。

他还设想，如果未来的 AI 系统攒下了不同领域的大量研究经验，就可能从跨学科的实验结果里发现新的联系。传统科学研究通常按学科划分，机器系统未必需要遵守这些人为设定的边界。当然，这种跨领域知识积累到底能不能带来原创性的理论突破，目前还有待验证。

接着，李飞飞把话题转向近期 AI 在数学领域的一系列进展。她透露，最初筹备这场对谈时，自己其实想请数学家陶哲轩，还专门给他打了电话，但对方最终没能到场。

聊到近来 AI 连续攻克数学难题的表现，李飞飞的感受颇为复杂。她说，那些让数学家头疼几十年乃至上百年的题目，是人类智力所能抵达的高峰；数学家要的不只是一个对的答案，还有证明过程里的美感。而眼下，AI 处理这些问题的路数完全不同。

Jeff Dean 回应说，AI 已经展现出解决高难度数学问题的能力，但部分机器生成的证明可能长达数百页 Lean 代码。就算能通过计算机检验，人们也未必能从中找到简洁、优雅的数学思路。而人类数学家在寻找证明的过程中，常常会发展出新的数学方法，这些方法随后还能用来解决其他问题。

不过他也认为，机器生成的证明同样有价值。知道一个问题能够被解决，本身就可能激励数学家去寻找更简单的证明，并推动相关研究往前走。

数学话题结束后，李飞飞现场给 Jeff Dean 出了道突击测验：2017 年 6 月 12 日有什么特殊意义？Jeff Dean 很快答出，这是 Google 研究团队把提出 Transformer 架构的经典论文《Attention Is All You Need》提交至 arXiv 的日子。

借着这段回忆，两人又聊起过去近十年 AI 技术的发展，以及哪些进展曾超出他们的预期。Jeff Dean 提到了 Transformer、知识蒸馏和混合专家模型（MoE）架构，认为这些技术对现代大模型的发展产生了重要影响。

不过他坦言，自己原先判断 MoE 出现后，神经网络架构会走向更复杂、更多样，甚至更贴近生物神经网络。结果呢，如今绝大多数 MoE 模型用的还是相当规整的结构。另一件他没料到的事，是编程能力的分量。他承认，自己没充分预见到编程会成为大模型攻克复杂问题的关键能力之一。

对话收尾时，话题落到 AI 对社会的影响。李飞飞说，AI 技术跑得太快，不少大学生正为就业和经济前景发愁。Jeff Dean 说自己完全能体会这种不安——世界变得太快，年轻人很难为一个充满不确定性的未来做规划。

他的建议是，年轻人不妨主动去了解冒出来的新技术，再学着把它用到自己真正感兴趣的领域。“无论是成为医生、从事文学创作，还是更高效地编写软件，AI 都可以提供帮助。但人类的作用依然存在：我们需要自己决定，究竟想共同完成什么。”李飞飞也认同，AI 时代里，人的热情依然不会过时。

对谈开场时那场围绕 RSI 的争论，Jeff Dean 的态度是：AI 加快自身研发速度这件事，他并不怀疑，可这种提速总要受现实条件掣肘。研究工作越来越多地交给 AI 去做，递归自我改进到底能走多远，目前仍是个开放的问题。

这场关于 AI 自我进化的讨论，到最后落回的原点其实是——人类究竟想拿这些技术去做什么。

参考链接：

1.https://hai.stanford.edu/events/confronting-our-ai-future-hope-fear-and-the-choices-ahead?section=watch-event-recordings

2.https://www.discoveryloop.com/blog/announcing-discovery-loop/

3.https://radical.vc/articles/our-investment-in-discovery-loop/

4.https://radical.vc/articles/radical-reads-jeff-dean-on-launching-discovery-loop/

5.https://evals.alignment.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

6.https://metr.org/blog/2026-11-05-rd-section-anthropic-risk-report-august-2026-review/

7.https://www.reuters.com/technology/anthropics-models-improving-nearly-twice-fast-with-help-ai-study-finds-2026-11-05/

8.https://arxiv.org/abs/1706.03762

运营/排版：何晨龙

注：封面/首图由 AI 辅助生成