李飞飞Jeff Dean对谈：AI递归自我改进真有物理天花板吗

AI能不能自己改进自己，甚至把下一代AI的研发越推越快？这几个月，递归自我改进（Recursive Self-Improvement，RSI）在硅谷成了热词。

编程、算法优化、模型研发，AI接手的工作越来越多，让它参与自身研发的设想也开始落地。问题是，RSI到底指什么，业内并没有统一说法。自动调模型参数、搜更好的神经网络架构，到让AI独立做研究、持续提升能力，各种程度的自动化都被叫作RSI。概念越炒越热，技术边界却依旧模糊。

近日在斯坦福大学“直面 AI 的未来”（Confronting Our AI Future）大会上，斯坦福大学计算机科学教授李飞飞与Jeff Dean围绕这个话题展开讨论。

李飞飞说得很直接：硅谷现在把RSI用得太宽，作为科学家她对此感到困扰。她尤其想问，AI靠自我改进实现无限加速的说法是不是被炒过了头，里面有多少真实的技术依据。

Jeff Dean的回应是，自动化确实能加快模型研发，但训练、计算和实验验证都要花时间。有人以为自我改进循环能无限加速，他认为这不现实。

有意思的是，Jeff Dean自己就在这股热潮里。今年 8 月，他结束在Google长达 27 年的工作，和三位前Google核心研究人员一起创办了Discovery Loop，想用AI把实验循环自动化，加快科学与工程研究。

大会闭幕环节，Jeff Dean先单独演讲，介绍Discovery Loop的研究方向和创业进展。之后李飞飞上台，和他聊了约半小时。话题不止RSI，还涉及AI如何改变科学发现、机器能否创造优雅的数学证明，以及过去十年AI技术发展中一些出乎预料的变化。

RSI究竟能到什么程度？

对话一开始，李飞飞先抛出一个基本问题：RSI和过去几十年机器学习领域研究的自我改进，区别在哪？

她回顾道，增量学习、持续学习、元学习、终身学习，再到神经架构搜索，机器学习领域一直在摸索怎样让系统靠经验提升能力。现在自我改进、RSI这些词被频繁使用，可它们之间的界限十分模糊。

Jeff Dean拿医学影像举例。假设要做一个识别MRI图像的模型，可以让AI自动尝试不同的神经网络架构，再按实验结果挑准确率更高的方案。实验一轮轮做下去，这个医学影像模型的性能可能逐步提升。

这属于自我改进，但不算严格意义上的RSI。原因是提出实验方案、选择模型架构的那个基础系统，自身能力并没有因此改变。真正的递归自我改进，还得让这个系统反过来改进自己的研究能力，改进后的系统继续提出更好的方案，再通过后续研究继续提升自己。

李飞飞认为这个区别很关键。她接着追问：RSI既然涉及系统自身持续优化，那它有没有物理极限？为什么它被炒得几乎像个没有终点的系统，真实的进展和虚构的界限又在哪里？

Jeff Dean用过去十多年的模型研发过程作答。传统AI研究中，研究人员一般先做大量小规模实验，判断哪些技术方案有效，再把成功的方案用到下一代模型上。Google开发Gemini也是这样，一轮轮实验和调整，不断改进模型能力。

把其中一部分工作交给AI，整个过程就有机会加快。比如一项实验凌晨两点结束，人类研究人员可能要等到早上八点才回来看结果，自动化系统可以马上分析数据，判断下一步试什么，并启动新实验。在大型研发项目里，它还可能把不同团队的实验结果汇总起来，减少协调和等待消耗的时间。

但Jeff Dean强调，模型训练仍然需要真实的计算过程。计算机得完成任务，系统要保存数据、分析结果，再据此决定下一轮实验。就算所有环节都自动化了，这些物理过程也没法无限压缩。所以在他看来，AI自动化研发能提高模型改进速度，但无限加速的说法不可信。

这和近期一些AI公司的乐观预期不太一样。今年以来，越来越多创业公司开始探索自动化AI研究，希望让模型自主提出想法、开展实验并验证结果。不过这些探索还在早期，离真正的递归自我改进有多远，目前并不清楚。

11 月 5 日，AI评估机构METR公布了对Anthropic内部研发流程的评估结果。研究人员结合部分内部数据和访谈发现，自 2025 年 10 月以来，Anthropic模型在一组可明确衡量的任务上，能力进步速度约为此前的 1.9 倍。

METR认为，AI在研发过程中的使用很可能是这一加速的重要原因。但这项估计的不确定性仍然较大，当前AI也还没能在模型训练的关键环节独立完成有重大意义的研究工作。这些结果说明AI辅助研发正在取得进展，可距离完整的递归改进循环仍有差距。

对谈中李飞飞还问了个有趣的问题：人类算不算RSI系统？

她说，自己第一次做煎蛋卷失败，第二次通常会好一些，试上十次可能就能做出可以入口的成品。这显然属于自我改进。但如果在反复学习的过程中，大脑的神经连接也发生变化，让自己变得更善于学习，这种过程是不是就具有递归性？

Jeff Dean认为，人类其实两种能力都有。人既能学具体知识和技能，也能慢慢掌握更有效的学习方法。后者让人以后学别的东西更快，也正是递归自我改进的关键。

他更愿意把 RSI 看成一个具体的工程系统——研究怎么靠自动化实验、评估和反馈把模型能力往上推，而不是想象成某种能无限加速的神秘机制。这种改进能持续多久、最后走到哪一步，得靠实际研究来回答。

两人还聊了 RSI 之外的话题。

AI 会怎样改变科学研究，过去十年机器学习领域又发生了哪些重要变化，这些都在 RSI 概念争议之外被两人谈及。

李飞飞先问 Jeff Dean：是什么让他和另外三位在 Google 工作多年的研究人员下决心离职创业？

Jeff Dean 的回答是，他们很早就在琢磨用自动化系统改进机器学习模型。十年前，神经架构搜索已经能帮研究人员找更有效的模型结构，只是当时得靠复杂程序来划定搜索范围。现在大模型和智能体把这一步变了：研究者直接用自然语言描述目标，系统就去尝试设计模型、跑实验，再根据结果调整方案。

这也是 Discovery Loop 的技术路线。今年 8 月，Jeff Dean 与 Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals 一起创办了这家公司，想把 AI 用在更完整的科研和工程实验循环上。

Jeff Dean 在独立演讲中介绍，Discovery Loop 已经搭起内部智能体运行框架，研究人员可以和 AI 协作。公司眼下大约有 20 个自动化改进循环在运行，主要探索两件事：怎么提高实验迭代效率，怎么让系统从先前的实验里积累经验。长期目标是把领域专家的生产力提升 20 至 50 倍，不过这个数字还有待验证。

李飞飞追问之后，他进一步解释了目前的研究选择。Discovery Loop 最初主要盯机器学习研究、机器学习工程和硬件设计，原因是这些任务的实验循环能在数字环境里完成，自动化起来更容易。生物医学、材料科学等领域就不一样了，通常涉及真实的物理实验，实验设备、测量过程以及材料本身都会拖慢研究速度。

Jeff Dean 说，自己对 AI 医疗研究一直有兴趣，但公司会先从数字领域做起，再逐步扩展到其他科学领域。

李飞飞由此问得更深了一层：这种强调提出假设、开展实验、评估结果的技术路线，会不会让 AI 科研越来越偏向实验主义？

她提到，物理学一直有理论研究与实验研究的分工。牛顿、爱因斯坦这样的理论物理学家，并不需要亲自做大量实验，靠数学推导和理论思考也能建立新的科学认识。如果 AI 主要靠大规模并行实验找答案，它能不能承担类似的理论创新工作？

Jeff Dean 的看法是，两种研究方式之间并没有严格界限。自动化系统同样能根据已有实验数据提出理论，再通过不断迭代去找更简洁、解释力更强的方案。

他还设想，未来 AI 系统要是积累了不同领域的大量研究经验，就可能从跨学科的实验结果里发现新联系。传统科学研究通常按学科划分，机器系统未必需要遵守这些人为设定的边界。当然，这种跨领域知识积累能不能带来原创性的理论突破，目前仍有待验证。

话题随后转到近期 AI 在数学领域的一系列进展。李飞飞透露，最初筹备这场对谈时，她其实想请数学家陶哲轩，还专门给他打了电话，但对方最终没能到场。

说到 AI 接连尝试解决数学难题，李飞飞坦言自己心情复杂。那些困扰数学家数十年甚至上百年的问题，在她看来代表着人类智力活动的高峰。数学家追求的不只是正确答案，还有证明过程中的美感。如今，AI 正以一种截然不同的方式处理这些问题。

Jeff Dean 回应说，AI 已经展现出解决高难度数学问题的能力，但部分机器生成的证明可能长达数百页 Lean 代码。就算能通过计算机检验，人们也未必能从中找到简洁、优雅的数学思路。人类数学家在寻找证明的过程中，常常会发展出新的数学方法，这些方法随后还能用来解决其他问题。

不过他也认为，机器生成的证明同样有价值。知道一个问题能够被解决，本身就可能激励数学家去寻找更简单的证明，并推动相关研究往前走。

数学话题结束后，李飞飞现场给 Jeff Dean 出了道突击测验：2017 年 6 月 12 日有什么特殊意义？Jeff Dean 很快答出，那是 Google 研究团队把提出 Transformer 架构的经典论文《Attention Is All You Need》提交至 arXiv 的日子。

借着这段回忆，两人又聊起过去近十年 AI 技术的发展，以及哪些进展曾超出他们的预期。

Jeff Dean 提到了 Transformer、知识蒸馏和混合专家模型（MoE）架构，认为这些技术对现代大模型的发展产生了重要影响。

但他承认，自己曾经以为 MoE 的出现会推动神经网络架构朝着更复杂、更多样，甚至更接近生物神经网络的方向发展。现实是，今天的大多数 MoE 模型依然采用相对规则的结构。另一件超出他预期的事是编程能力的重要性——他没有充分预见到，编程会成为大模型解决复杂问题的关键能力之一。

聊到 AI 给社会带来的变化，李飞飞在对话收尾时提到，技术跑得太快，不少大学生正为工作和收入前景发愁。Jeff Dean 说自己完全能体会这种不安——世界变起来太快，年轻人想给一个充满不确定的未来做打算，实在不容易。

他的看法是，年轻人该主动去弄明白那些正在冒出来的新技术，再把它用到自己真正上心的领域里。“不管是当医生、搞文学创作，还是把软件写得更顺手，AI 都能帮上忙。但人自己的位置还在：到底想一起做成什么，得由我们自己来定。”李飞飞对此也表示认同：AI 时代里，人的热情始终不会过时。

说回对谈开场时那个关于RSI的争论，Jeff Dean 对 AI 能给自己研发提速这件事本身并不存疑。在他看来，麻烦在于这种提速总要被现实条件卡住。研究活儿越来越多地交给 AI 去做之后，递归自我改进到底能推进到哪一步，眼下谁也说不准，仍是个开放的问题。

聊 AI 自我进化聊到最后，两人落到同一个问题上：人类究竟想拿这些技术去做什么。

参考链接：

1.https://hai.stanford.edu/events/confronting-our-ai-future-hope-fear-and-the-choices-ahead?section=watch-event-recordings

2.https://www.discoveryloop.com/blog/announcing-discovery-loop/

3.https://radical.vc/articles/our-investment-in-discovery-loop/

4.https://radical.vc/articles/radical-reads-jeff-dean-on-launching-discovery-loop/

5.https://evals.alignment.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

6.https://metr.org/blog/2026-11-05-rd-section-anthropic-risk-report-august-2026-review/

7.https://www.reuters.com/technology/anthropics-models-improving-nearly-twice-fast-with-help-ai-study-finds-2026-11-05/

8.https://arxiv.org/abs/1706.03762

运营/排版：何晨龙

注：封面/首图由 AI 辅助生成