LeCun新论文：1.09亿参数模型表征对齐超720亿，规模不是唯一解
大模型越大越聪明？LeCun 新研究发现，训练方式可能比参数规模更重要。
66岁的Yann LeCun又带着论文回到了AI研究一线。这回他质疑的是大模型行业一个根深蒂固的想法：要让AI更懂世界，就得不停加参数、扩数据。
10月29日，LeCun和布朗大学计算机科学助理教授Randall Balestriero联合发布了一篇37页的新论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》。论文提出，在特定条件下，不同模态的AI模型哪怕各自独立训练，也能学到可以相互对齐的世界表征。
更抓眼球的是数字。团队训练的一个文本JEPA只有1.09亿参数，在跨模态表征对齐测试中却压过了Qwen2.5-72B、Llama-3-70B这些大语言模型。两边参数规模差了约660倍。
另一项实验里，采用新方法的模型只用了2160万个训练样本，就达到了下一Token预测模型拿9亿个样本才能拿到的表征对齐水平。样本量相差约42倍。
这些结果很容易让人追问：过去几年AI行业砸下巨额资金训练越来越大的模型，方向是不是走偏了？不过，这并非论文真正想下的结论。
LeCun新论文挑战“唯规模论”：1.09亿参数为什么能够挑战720亿？
论文里，LeCun和Balestriero要回答的问题比模型大小更基础：AI通过文字、图像等不同途径观察世界时，到底是什么决定了它们能不能形成相似的内部理解？对长期主张世界模型路线的LeCun来说，这也是一次重要的理论探索。
研究的起点，是两年前麻省理工学院团队提出的一个带点哲学意味的假说。2024年，Minyoung Huh、Brian Cheung、Tongzhou Wang和Phillip Isola在ICML上发表《The Platonic Representation Hypothesis》，中文可译为《柏拉图表征假说》。
研究者注意到一个有意思的现象：不同模型能力变强之后，图像模型和语言模型内部的表征结构似乎越来越像。
比如一张猫趴在沙发上的照片，和一句描述同样场景的话，一个由像素构成，一个由Token构成，表面看毫不相干，指向的现实对象却是同一个。假如AI真学到了这些内容背后某种共享结构，那么不同模型内部对事物关系的表示就有可能逐渐趋同。这正是“柏拉图表征假说”的核心：不同AI模型可能正在趋向一种共同的现实世界统计表征。
2024年那项研究观察到，模型规模增大往往伴随跨模态表征趋同，但既没证明这种现象一定发生，也没解释哪种训练方法能更高效地实现它。
LeCun和Balestriero想再往前走一步。他们在论文中搭了一个数学框架，把不同模态看作对同一个潜在世界状态的观察，并考察模型在什么条件下能学到相互对齐的表示。答案跟训练过程中构造的正样本对有关。
研究者把一种数据关系叫作Good Views，可以理解为对同一个场景的有效观察。
比如同一个场景的两张照片，或者两段分别描述同一场景的文字，具体内容不完全一样，却共同指向现实世界中的某个状态。论文用Bad Views描述另一类训练样本构造方式：同一段文本里的前缀和后续内容，或者对同一输入做遮挡得到的不同片段。区别在于，前者更利于模型提取不同观察背后共享的信息；后者可能让模型把更多表征容量花在单一模态特有的细节上。
论文提出，不同JEPA模型如果通过符合特定条件的正样本关系来训练，即便处理的是不同模态，也能学到只差一个旋转变换的表征空间。
这里的“旋转”不是把图像方向转过来，而是对模型内部的高维向量做数学变换，让不同模型的表示能够对应上。这是一个有明确前提条件的数学结论，并不等于证明所有现有AI模型已经拥有完全相同的世界理解。
理论提出来之后，团队用实验做了验证。他们把训练策略不同的文本模型和视觉模型放在一起比对，看的是内部表征结构到底有多接近。结果表明，用Good Views训练出来的文本JEPA，在跨模态表征对齐上表现很突出。
论文里报告的这个跨模态表征对齐指标，分数越高说明两个模型的表征结构越像，它衡量的不是语言模型的综合能力。
具体看数字：1.09亿参数的文本JEPA拿到0.184，Qwen2.5-72B是0.154。也就是说，这项测试里参数只有大型语言模型约六百分之一的小模型，反而学出了跟视觉模型更接近的表征结构。
不过这个“超过”有严格的边界。它不代表JEPA在数学推理、代码生成或者知识问答上强过Qwen2.5-72B。论文比的是跨模态表征对齐，跟开发者平时关心的通用大模型能力不是一回事。
另一个重点实验跟训练效率有关。
研究者发现，在同样的语料和比较设置下，Good Views方案大约用2160万个样本，就能达到下一Token预测用9亿个样本时的表征对齐水平。
按样本数量算，效率提升约42倍；换成实际读取的文本Token数量来算，差距约为14倍。
这说明训练时让模型学什么样的信息关系，可能比单纯喂更多文本更要紧。更有意思的是，团队还试着把这种表征对齐能力落到实际应用上。
做法是用一个线性变换，把分开训练的视觉编码器和文本模型接起来，搭成图像描述系统。在COCO数据集上，这套系统拿到0.838的CIDEr分数。另一项实验不需要成对图文数据来拟合对齐变换，模型在ImageNet-100的Top-5分类指标上达到64%，超过了论文所比较的部分语言模型方案。研究结果因此不只停在数学证明层面，也让人看到跨模态表征对齐的应用空间。
66岁离开Meta创业，LeCun为什么还在坚持JEPA？
这篇论文背后，其实是LeCun本人研究经历的一条延长线。
LeCun生于1960年7月8日，出生地是法国，今年66岁。他做过Meta首席AI科学家，也是卷积神经网络研究的先驱之一，2018年与Geoffrey Hinton、Yoshua Bengio共同获得ACM图灵奖。
在今天的大模型行业里，LeCun算是个有些特别的人物。他既是深度学习浪潮的重要奠基者之一，也长期对当前主流的大语言模型路线持保留意见。
早在上世纪80年代，LeCun就开始摸索神经网络在计算机视觉里怎么用。他推动卷积神经网络发展，让机器能更有效地识别手写字符和图像内容。这些研究后来成了现代计算机视觉与深度学习的重要基础。
2013年，LeCun加入Facebook，参与创立FAIR（Facebook AI Research）。此后他在Meta工作了约12年，先后担任FAIR创始负责人和首席AI科学家。但ChatGPT带起大语言模型热潮之后，LeCun与行业主流技术路线之间的分歧越来越明显。
他并不否认LLM的实用价值，却反复强调：只靠预测下一个Token，不足以构建能理解物理世界、记住环境状态、推理和规划复杂行动的智能系统。在他的设想中，未来的AI不该只通过海量文本学语言和知识，还应该像人类和动物那样，通过观察环境来学习世界的抽象结构。
这也是他多年来推JEPA（Joint-Embedding Predictive Architecture，联合嵌入预测架构）的原因。跟要求模型重建输入细节的训练方式不同，JEPA更关注学习抽象表征，并在表征空间里做预测。
2025年11月，LeCun公开宣布准备离开Meta，成立新的AI研究公司，继续推进Advanced Machine Intelligence（AMI）研究计划。他当时明确表示，新公司的目标是推动下一轮AI突破：构建能够理解物理世界、拥有持续记忆、具备推理与复杂行动规划能力的系统。
2026年3月，AMI Labs完成约10亿美元融资。跟大量围绕现有LLM做产品开发的创业公司不同，AMI Labs把世界模型作为核心研究方向。
这样的背景，让这次论文多了一层意义。
拿到图灵奖、在大型科技公司做了十多年研究之后，他没有退居幕后，而是离开熟悉的研究平台，参与创办新公司，继续推一条还没被证明能取代主流LLM的技术路线。
这里面有一种科研上的坚持：在一个越来越看重模型规模、资本投入和产品发布速度的行业里，LeCun仍然想从学习机制本身去找下一次突破。
这篇论文因为Yann LeCun的名字受到关注，但另一位作者Randall Balestriero也值得说一说。
布朗大学计算机科学助理教授Balestriero，主攻自监督学习、深度神经网络理论与表征学习；信号处理、深度网络理论及自监督学习，都是他研究涉足的方向。
2021年，Balestriero在Rice University拿到博士学位，此后在Meta FAIR与LeCun一起做过博士后研究。
2023年他去了Citadel，做金融时间序列预测和表征学习方面的工作。后来他又重返学界，到布朗大学继续研究。
业内评价：有人惊叹，也有人质疑
论文发布后，传得最广的一句话，大概就是“1.09亿参数打败720亿参数”。
这篇论文登上了Hugging Face当日热门论文榜单。作为共同作者，Balestriero还亲自跑到评论区介绍这项成果。
他专门提到，团队用Good Views训练的1.09亿参数文本JEPA，在跨模态表征对齐指标上拿到0.184，高于Qwen2.5-72B的0.154和Llama-3-70B的0.151。
有网友在x上讨论这篇论文，LeCun回复时表示：现在的大语言模型能答出大量问题，很大程度上是因为训练时攒下了海量的陈述性知识。他的原话是：
大语言模型脑子里装了很多陈述性知识，所以才能回答那么多问题；也正因为这样，参数规模才需要做得很大，内存占用自然就上去了。
LeCun这番话也引来网友议论。有人对这条技术路线选择先观望。网友Sage Williams评论说：“如果你的观点是对的，那么你的模型最终应该会胜出。我们拭目以待。”
也有人看到了这种训练方式的现实意义。Peter Ebasone认为，这对小型实验室和个人研究者是好消息，还表示该技术在基因组学领域或许有应用空间。
网友Gordon Lawton则问得更具体：假如模型能靠文本里词语的共现、图像里物体的共现来学习世界结构，那视频中同时出现的画面和声音是不是也成立？毕竟人感知世界，靠的正是视觉和听觉一起起作用。
从这些评论能看出外界对JEPA路线的期待并不一致：有人盼着理论优势真正落到模型能力上；也有人被更高的数据效率，以及跨视觉、听觉等多模态信息学习的可能吸引，觉得这是新的研究方向。
参考链接：
