陈明达谈下一代AI突破口：大模型的60分到90分之后

2022 年博士毕业后，陈明达进入 Meta 基础人工智能研究院（FAIR）。那时前沿 AI 实验室还在摸大模型的能力边界。一个没被验证过的想法，研究者可以先设计实验、训练模型，再看结果决定要不要继续投资源。不同技术路线之间，可探索的余地相当大。

没过几个月，ChatGPT 问世，局面就变了。

大模型表现出的能力高过不少研究者的预判，Scaling（规模化）随之成为业内最受关注的研发路线之一。算力、数据、人才被科技公司集中起来，大家围着更大规模的模型比拼。前沿 AI 研究对大规模工程投入的依赖越来越重，业界希望靠不断扩规模把模型能力往上推。

FAIR 也经历了这种转向，陈明达就在其中。他先后参与 LLaMA、Chameleon 等项目，既看到 Scaling 带动模型能力快速爬升，也看到有些技术还不成熟，资源砸得再多，效果照样达不到预期。

过去四年，大模型在语言理解、数学推理、编程这些方面进步明显。不过陈明达认为，这些进展并没有把基础问题都解决掉。

陈明达表示：“四年前 ChatGPT 能搞定 60 分的事，放到今天大概能到 90 分；可当年只能拿 0 分的那类事，如今恐怕还是 0 分。”

今年年初，他回到上海交通大学人工智能学院任教。他想把更多精力放在找 AI 的下一个突破口上，借高校相对自由的研究环境，重新试不同的技术路线。

其中一个方向，是让 AI 做决策时更好地借用过去的经验。在 Meta 参与的最后一项研究里，陈明达与合著者提出“流程智能”（Procedural Intelligence），从已有推理过程中提取约 3,200 万条流程性知识，让模型能复用以往解决问题的方法。研究发现，这类知识也具备一定的 Scaling 潜力，为提升 AI 在复杂任务中的推理与决策能力提供了新思路。

另一个方向，是语言之外的基座模型。在陈明达看来，今天的 AI 能生成逼真的画面，却仍缺一套从海量视觉数据里学习物体运动、空间关系等规律的成熟办法。像 GPT 学语言那样，让模型直接从大量无标签视觉数据中长出新的能力，或许是下一代 AI 要啃下的基础难题。

不久前，DeepTech 在上海与陈明达聊了一次，话题包括他在 Meta 做大模型研发的经历、从工业界转回学界的原因，以及下一代 AI 可能在哪里破局。

他认为，未来 AI 的进步有两个方向，分量相当：一是探新技术路线，让模型得到本来不具备的能力；二是把已有能力做得更准、更可靠，最终真正走进现实世界。

以下是 DeepTech 与陈明达的对话，经编辑整理。

DeepTech：你本科读数学，后来转到自然语言处理，能先讲讲这段经历吗？

陈明达：我本科在

当时 AI 主要有计算机视觉、自然语言处理、语音等几个方向。我更感兴趣的是语言，它跟日常生活联系更紧，也让我觉得离真正的智能更近。那会儿计算机视觉的很多任务还停留在图像分类之类，自然语言处理已经开始碰更复杂的问题，所以我最后选了这个方向。

DeepTech：最近 AI 在数学推理、定理证明等方面进展很快，甚至快得有点出乎意料。现在回头看，你会不会觉得当年转做 AI 是个有意思的选择？

陈明达：确实，AI 的发展有些超出大家的预期，已经能解决一些非常困难的问题。数学领域对此感受可能更明显，因为定理证明往往有比较明确的评价标准，AI 在这方面有一定优势。

但我觉得，这种影响不只落在数学领域，整个学术界都在承受 AI 带来的变化。比如最近的 ICLR 会议收到六万多篇投稿，十多年前这个会议每年可能只有一百多篇，增长非常快。

这些论文里有不少质量其实不高，有些一看就是靠 AI 生成的。AI 接手的研究工作越多，学术界原来的研究方式和评价方式，恐怕都得跟着改。

DeepTech：博士期间你就在谷歌和 Meta 参与前沿 AI 研究。工业界的研究环境给你带来了哪些不一样的体验？

陈明达：我比较幸运，在 ChatGPT 出现之前就有机会接触工业界最前沿的一些研究。

2018 年到 2019 年前后，我在谷歌实习，参与了早期大语言模型的规模化实验。那时还没有现在这么流行的 Scaling（规模化）概念，但我们已经能观察到，用更多数据、训练更大的模型，确实可以让模型能力变得更强。

这类研究需要大量算力和工程资源，当时的高校很难开展，工业界则有条件把一个想法放大到足够规模去验证。

FAIR 刚起步那阵子，氛围比较宽松。大家很想知道 AI 到底能干成什么，往往从一个不大的研究想法入手，一步步做实验，再逐渐把规模铺开。那会儿还有一堆没答案的问题等着去挖。

DeepTech 问陈明达：在 Meta 那几年正好赶上 ChatGPT 冒出来，哪些变化最出乎你的意料？

陈明达提到，Meta 的 Galactica 就是个印象很深的例子。

这个模型在 ChatGPT 上线前没几天发布，瞄准的是科学知识方向。用户可以拿问题去问它，让它产出跟科学有关的内容。问题是它服务的对象是科研，大家对准确度卡得极严，指望它像维基百科那样给出靠谱信息。

可当时的模型明显达不到这个水平。Galactica 一亮相就挨了不少批评；加上这个项目跟 Meta 的主营业务没多大关系，公关压力一来，Meta 很快就把公开演示撤了下去。

ChatGPT 发布时其实也碰到差不多的情况，照样会编出并不存在的事实。但

还有一段经历让他感触挺深：2025 年初冒出一批 Coding Agent。AI 写代码的能力蹿得很快，Meta 内部的研发流程因此变了不少，包括我们在内的很多研究团队也开始琢磨，能不能用 AI 反过来改进 AI 本身，也就是 RSI，递归自我改进。

他当时在内部也推过 RSI 相关的项目，进展还不错。可越往深做，阻力越大。原因跟 Galactica 那件事有几分相似，不全是技术层面的问题，更多出在公司的业务重心和优先级上。

像 Meta 这种体量的公司，头等目标还是做出并发布更强的大模型，模型迭代的时间表往往排得很紧。在这种环境下，RSI 虽然有可能带来更根本的技术突破，但研究周期长、成果又没底，很难被摆到最高优先级。相关研究于是更容易拐向短期能衡量、能直接服务模型能力提升的任务，比如数学推理，而不是拿 AI 去探 AI 技术本身的突破。

不过从 2025 年底起，越来越多初创公司开始盯住 RSI 这个方向，并且做出了一些不错的进展。其实大公司在这块的探索可能起步更早，技术经验也攒了不少，只是受业务重心和组织优先级的牵制，这些探索没能真正长成它们最核心的战略方向。

这两件事让他觉得，面对同一种技术，大公司和初创企业很可能做出截然不同的决定。它们扛的压力、所处的业务环境、能承受的风险，都不一样。

DeepTech 问：你还参与过 LLaMA 和 Chameleon 等项目，这些经历有没有改变你对大模型研发方式的理解？

陈明达说，第一代 LLaMA 让他印象很深。它靠一个相对小的模型，就做出了当时很有竞争力的能力。现在回看好像理所当然，可放在当时，那是个相当重要的进展。

Chameleon 也很有意思。他们想从零训练一个类似 GPT 的多模态基座模型，让它能同时处理文本、图像等不同类型的信息。真做起来，麻烦一大堆。

ChatGPT 的出现，改变了不少北美前沿实验室的研发路子。过去 FAIR 一般是从一个比较小的想法起步，做一系列实验验证，再一点点把规模铺开。

后来 OpenAI 带来的竞争压力一上来，大家开始倾向直接拉大团队、砸大量资源，恨不得赶紧把一项技术做出来。

可 ChatGPT 的成功，其实建立在之前很多年的研究和实验积累之上。不能只盯着它最后大规模投入的那一段，就以为只要人凑够、资源砸够，这种成功就能照搬。

Chameleon 当时就撞上了类似的问题。虽说有些初期积累，但还不够扎实。技术还没完全成熟，就组织大量资源去扩规模，整个过程波折不断。这件事让他记得很牢：一个技术方向要是还不够成熟，过早推到 Scaling 阶段，可能只是让它失败得更快。

DeepTech 问：这是不是也解释了你为什么离开 Meta，回到上海交通大学？

陈明达说，这是一个重要原因。他认为前沿实验室在不同时期的工作重心并不一样。ChatGPT 出现之后，很多大公司的研究资源越来越往大语言模型上集中，想把现有技术做得更好，同时推进商业化。

这种选择可以理解，公司得考虑业务发展和研究投入的回报。但他个人更希望对自己未来的研究方向有更多决定权。

比如在公司里，研究项目可能每四到六个月就要评估一次。这种环境更适合做增量式改进，因为公司资源足够多，能帮你迅速把这些改进落地。

高校则允许研究者去碰高风险的问题。学校在算力和资源上拼不过公司，更得靠研究想法取胜。他希望回到高校后，能用上这种自由度，去探索一些真正有可能带来突破的研究问题。

从记住知识到学会解决问题：AI 如何利用过去的经验？

DeepTech 问：过去几年，AI 在问答、写作这些常见任务上越来越靠得住。从研究者的角度看，这种进步主要来自哪些方面？

陈明达：模型整体能力在提高，这是第一位的，训练方式、模型架构和规模都在持续改进。不过在他看来，真实用户数据的积累同样关键。

用AI的人越来越多，模型开发者由此拿到海量真实的交互数据，再依据这些反馈去优化模型在实际场景里的表现。这类数据很值钱。多数人的用法其实差不太多，问答、写作、查信息，都算常见。大量反馈压下来，模型在这些常见任务上的水平已经涨了很多。数据攒起来，再配上RSI这个工具，模型迭代的速度被大幅拉快。

但他认为，换成复杂场景，模型可提升的余地仍然不小。

DeepTech：从常见的问答、写作再往复杂任务走，AI要过的关就不只是答得准不准，还包括怎么把过去的信息和经验用起来。AI智能体开始跑持续时间越来越长的任务，现有的长上下文和外部记忆技术，撑得住吗？

陈明达：两种路子各有各的长处，也各有各的短板。长上下文能让模型一次看到更多信息，准确度相对高，可计算效率偏低。外部记忆模块效率更好，问题则出在检索准确性上。

另一大难处，是真实使用环境里的长程任务数据太少。模型要学会完成耗时很长的复杂任务，就得有对应的数据拿来训练。

再者，复杂任务对记忆的要求，跟过去说的记忆不是一回事。以前提模型记忆，关注的多是事实性知识，比如某人的出生日期，模型记住这条信息，要用时取出来就行。

复杂任务难的地方，往往在步骤与步骤之间的关系，以及每一步要做出的推理和判断。这属于另一类知识，叫流程性知识（Procedural Knowledge），盯的是解决问题的过程，以及该按什么方法、什么步骤把任务做完。

DeepTech：这么说，复杂任务面前，AI不光要记住信息，还得学会解决问题的方法。你在Meta的最后一项研究就涉及流程性知识，能不能结合这项工作讲讲，它和传统的事实性知识差在哪？

陈明达：事实性知识，比如你知道一个定理是什么、某个结论是什么，记下来就够了。复杂任务里更难的是从已知条件一步步推出结果，先做什么、后做什么，中途卡住了该换什么办法，都得判断。

描述最终结果的数据，往往能找到很多，完整记录解决过程的数据却很难找。一篇文章会告诉你某件事是怎样的，但作者究竟想了哪些、怎么得出这个结论，文章不会细讲。所以他们想让模型用上这些解决问题的过程，把其中的方法和策略学过来。

他在Meta的最后一篇论文研究的正是这类问题，发表在今年的COLM会议上。团队大规模收集和整理流程性知识，看模型能不能像利用事实性知识那样，借助已有的推理过程改善复杂任务中的表现。

实验还观察到，这类知识有一定的Scaling潜力。知识规模往上走，模型解决复杂任务的能力有机会跟着提升。把解决问题的过程提炼出来，让模型遇到新任务时借用类似方法，推理表现就有机会变好。

真正难的是让模型获得更强的能力，尤其是涉及复杂判断的那部分。

DeepTech：靠过去经验改进复杂任务表现的能力，对AI研究本身也很重要。过去一年AI编程能力涨得很快，你在Meta有没有感觉到，AI正在改变研究人员的工作方式？

陈明达：变化非常明显。Claude Code出来以后，公司内部就试着用AI让一部分科研工作自动化，结果有点出乎他们意料。

以前在FAIR，常见搭配是一位研究科学家加一位工程师，科学家出想法，工程师负责把技术工作实现出来。Coding Agent（编程智能体）能力快速提升之后，很多工程实现已经能交给AI。

按他自己的感受，AI研究人员过去大约80%到85%的相关工作量，这些编程工具已经能承担。很多时候只需跟编程智能体沟通，让它按研究需求写代码、完成实验里的具体工作。它在相当大程度上已经能扮演研究工程师的角色。

研究者因此可以把更多精力放到关键的判断和决策上。一些大型AI公司的研究迭代速度能变得这么快，AI编程能力的提升在他看来是其中一个非常重要的原因。

DeepTech：AI既然能承担大量工程实现工作，那距离真正自主开展研究，关键可能就在剩下的判断和决策上，这也是递归自我改进（RSI）想达成的目标之一。你觉得目前AI距离自主改进AI系统，还缺哪些关键能力？

陈明达：RSI的发展，很大程度上是从AI编程能力成熟起步的。大部分工程实现工作能被AI完成之后，接下来的问题就是能不能让它再往前一步，把需要研究者判断和决策的那些活也接过去。

他们之前在公司内部也推过一些相关项目。当前主要有两个瓶颈。

第一个是长程任务的能力。AI研究通常要经过很多轮实验和迭代才可能达到最终目标，这个过程可能持续很长时间，涉及大量上下文信息，实验结果也在不断变化。

要想把这些日积月累的信息处理明白，模型本身得具备相应能力，训练时也离不开大量长程任务数据。等长上下文和长程任务能力逐步发展起来，这一块的短板才有望慢慢补上。

陈明达说，第二个卡点在于每个关键节点上的判断力。做完一轮实验，结果值不值得往下走、下一步该调哪个方向、某种方法还要不要继续投，这些都得人来定。这些判断并不好做。

在他看来，前面讲的流程性知识或许正好能在这里派上用场。研究团队已经在实验里看到，这类知识有随规模扩展的潜力。往后要是能收集到更大体量的流程性知识并加以利用，模型在复杂决策上的水平就有望继续往上走。

他甚至认为，再往前做 Scaling，科研智能有可能冒出来，展现出接近顶级 AI 研究者的判断水准。当然，这条路能不能走通，还得接着探。

聊完语言模型，话题转到下一代 AI 的突破口上。

DeepTech 提到，陈明达此前参与过 Chameleon 等多项多模态研究。这几年视频生成的进展有目共睹，画面已经能做到相当逼真，可在空间关系、物体运动和物理规律上还是时不时出错。从研究者的视角看，这说明当下的多模态模型还缺什么？

陈明达先澄清了一点：“多模态”这个词其实很宽。现在说多模态，有时指以语言为中心的模型——比如给 GPT 传一张图再提问，它能照着图回答；另一类是视频生成模型，输入一段文字描述，它就输出对应的动态画面。

这两条路都进步很大，视频生成尤其出彩，效果已经挺不错。可他判断，真正成熟的多模态基座模型训练方法，眼下还没找到。

自然语言处理也是摸索了很多年，才慢慢蹚出 GPT 这条路线。在那之前，BERT、GPT、T5 等各种模型和方法都有人试，研究者做了大量尝试。多模态领域还没经历同样充分的探索，很大程度上是跟着 GPT 这一波技术往前走的。

团队之前做 Chameleon，就是想在这个方向上探一探。结果最终效果没达到预期，一个重要原因在于，图像和文本之间的差异到底该怎么处理，他们还没吃透。

DeepTech 追问：既然多模态领域还没找到足够成熟的基座模型训练方法，那具体来看，现有视频生成模型在学习视觉信息时，卡在哪些问题上？

陈明达把训练数据排在第一位。GPT 能有今天，很大程度上靠的是互联网上大量自然产生的文本。模型从这些数据里学语言规律，不需要每条都有人额外打标注。

视频生成模型就不一样了，很多依赖的是文本和视频配对的数据——得有一段视频，再配上对应的文字描述，让模型去学两者之间的关系。麻烦在于，文字描述装不下视频里的全部信息；而且这类数据不是自然产生的，数据量和丰富度跟纯文本、纯视频或纯图像的数据比，都相对有限。

举例来说，一段视频里有物体之间的空间关系、运动和相互作用，文字描述通常只覆盖人关心的那部分。模型主要靠这些描述去学，视频里的大量信息就可能被漏掉。视频生成模型在空间关系、物体运动上老出问题，原因或许就在这里。

他的看法是，多模态基座模型应当像 GPT 学语言那样，从海量没有人工标注的数据里，学出视觉世界底层的规律。物体怎么运动、空间关系怎么变化，这些规律都应该能从原始数据中学到；只靠人工标注或文字描述，很难学完整。

杨立昆多年前打过的一个蛋糕比方被陈明达搬了出来：无监督学习是提供基座能力的蛋糕胚，监督学习和强化学习像奶油。如今未标注的图片、视频要多少有多少，可怎么把这些数据用足，成熟的方法还没找到。

DeepTech 接着问：如果想让模型直接从大量无标签视觉数据中学习，世界模型会不会是一条可行路线？眼下他更看好哪些方向？

陈明达答，世界模型本身也是个很宽的概念。他们之前在 FAIR 工作，常接触杨立昆关于世界模型的想法，所以一直留意这个方向。

现在世界模型的技术路线很多，哪条一定更好，他觉得还很难说。这有点像早期的自然语言处理，BERT、GPT、T5 各走各路，大家都在试，谁也说不准最后哪种方式能成更大的事。

按他对基座模型的定义，JEPA 这类方法比较值得关注，它试图通过大量无标签数据，去学视频等非语言模态里的信息和规律。另一些偏生成式的路线，目前在文生视频上已经取得比较明显的成功。主观上大家（包括他自己）各有偏好，但客观讲，他并不认为现在已经到了能判定哪条路线胜出的阶段。

交大那边，团队也在做多模态研究，涉及视频表征、模型评测以及世界模型等方向。比如现在的视频生成主要用在娱乐上，他们还想探一探，它能不能生成真正带知识性的内容。

打个比方，想学修自行车或者给钢琴调音，有些操作光靠文字说不清楚，得看视频演示。能不能让模型生成这类教学视频，就是个值得研究的问题。

他更愿意把这些工作看成对非语言模态的探索。目标只有一个：找到更有效的办法，让 AI 用上大规模的非语言数据，长出新本事。

DeepTech 又提到，通用大模型的能力边界一直在扩，像 GPT-6 Astra 已经在具身智能等领域表现出很强的能力。那往后通用大模型继续发展，世界模型或其他专用模型的功能，会不会慢慢被它覆盖掉？

陈明达回应，GPT 的能力边界确实比很多人原先想的要宽。这一波大语言模型的发展也让他意识到，不少专用模型可能只是临时的解法。通用模型能力往上提，原先非得专用模型才能干的活，它或许会一点点接过去。

可通用模型再强，也有它够不着的地方。GPT 拿手的是语言类任务，代码又能牵出大量应用场景，覆盖范围因此铺得很开。

但在多模态研究里，文本和非文本之间的落差我们感受得很清楚。眼下的大语言模型虽说能处理图片、视频这些信息，可要拿到对应的本事，往往得额外加模型组件、加训练步骤。

这么看，它在文本领域通用性很强；换到非语言领域能不能达到同等程度的通用，陈明达认为还得看更多证据。

通用和专用其实也是相对的。像 JEPA 这类模型，放到视频等特定模态内部，同样可以算一种通用模型；反过来，把 GPT 塞进具身智能场景，它未必天生就具备这个领域要的全部能力。

正因如此，陈明达认为世界模型研究有个很重要的目标：看能不能在非语言模态里，也建起真正具备通用能力的基座模型。

DeepTech：前面聊了不少 AI 眼下还不具备的能力。往后看三到五年，除了探索新技术路线，把现有模型的能力做得更可靠，是不是同样重要的一个方向？

陈明达：前面说过，AI 有些原本做不到的事，现在还是做不到。可要把 60 分提到 90 分，本身就已经非常难。

不少任务 AI 如今能完成一部分，但真要交到普通人手里用，准确率就得做得很高。比如将来用个人智能体订机票，多数时候它都能办对，可只要订错一天，用户的损失就可能很大。

现实里很多场景能容忍的错误率其实很低。陈明达之前跟人聊过，现在做 AI 产品，常常得专门设计一套回退机制——AI 会犯错，就得给用户留一条能纠错、能退回先前状态的路。

以前很多传统软件不必把这种能力摆到这么重的位置，AI 产品却得认真对待。

所以陈明达认为，未来 AI 还有两类突破很关键：一是让模型获得今天还不具备的能力；二是把已有的能力做得足够准、足够可靠、足够经济，让它真能进入现实世界，满足各种不同需求。前一类看重模型在通用能力上的突破，后一类看重模型针对具体场景的专业能力突破。

运营/排版：何晨龙