从大语言模型迈向世界模型

资讯 腾讯网 作者:腾讯网 全文 3554 字 · 约 9 分钟读完 分类腾讯大模型世界模型

闫德利 腾讯公司资深专家LLM是概率模型,不知因果大语言模型(LLM)并不理解语言,只是在预测下一个token(Next Token Prediction)。它是一个枯燥的“文字接龙”机器,走一步,算一步,不走回头路。LLM在本质上是概率模型,在统计共现结构里学习“什么经常和什么一起出现”,输出的是“通常如此”,不理解

所属频道 大厂动态模型发布

闫德利 腾讯公司资深专家



LLM是概率模型,不知因果

大语言模型(LLM)并不理解语言,只是在预测下一个token(Next Token Prediction)。它是一个枯燥的“文字接龙”机器,走一步,算一步,不走回头路。LLM在本质上是概率模型,在统计共现结构里学习“什么经常和什么一起出现”,输出的是“通常如此”,不理解“为什么如此”,未建立起变量间的因果链。也就是说,LLM“识相关,不知因果”。
LLM主要依赖概率预测,为什么能展现出如此广泛、如此深层的能力?为什么可以给出像样的因果解释?也能回答“如果当初换一种选择会怎样”。这似乎不局限于Pearl因果阶梯中的关联层(Association),也涉及干预层(Intervention)和反事实层(Counterfactuals)。因为压缩即智能。大模型的本质是将海量知识压缩到有限的连接中(杰弗里·辛顿,2025),数据概率模型和无损压缩在本质上是等价的。语言是一种压缩算法,人们把大量因果知识写进文本,语言结构中包含着对世界的解释。
既然是概率模型,就存在可靠性问题。答非所问、张冠李戴、无中生有、引用错误、前后矛盾、缺乏常识等幻觉(Hallucination)问题不可避免。幻觉是由LLM的技术特征决定的,是出厂设定,只能尽力减少,不能根本消灭。全球幻觉率最低的模型也有1.8%,如下图所示。
图 全球25个主流大语言模型的锚定幻觉率(2026.5)


LLM有盲区,缺洞见,不能持续学习

LLM很强大,但也有盲区,它学习不到隐性知识和涉密信息。波兰尼悖论指出:“我们能知道的比我们能说出的多(We can know more than we can tell)。”很多任务,仅凭直觉就能完成,却无法用语言来描述其规则和步骤。例如骑行的平衡、共情的分寸、指尖的温柔、会意的眼神……这些“难以清晰表述,难以有效转移”的知识被称为“隐性知识(tacit knowledge)”。与之相对应的是那些能够被记录、能够数字化的知识,即显性知识,这部分是LLM可学习到的。当然,并不是所有显性知识都能学习到。它和可获得性有关。涉密信息、不上网信息更有价值,一句顶一万句,也是LLM的盲区。
LLM无所不知,但缺乏创造性颠覆性洞见(CDIs)。图灵奖得主、强化学习之父理查德・萨顿指出(2026):“这些系统其实主要是在使用人类知识的力量,并且把它再交付给我们,它们并没有能力发现自己的知识。”为了评估LLM是否能够独立“重新发现”已知科学突破,戴密斯·哈萨比斯于今年2月提出了爱因斯坦测试。将知识库限制在1911年之前,如果AI能独立推导出爱因斯坦于1915年提出的广义相对论,即通过爱因斯坦测试。哈萨比斯表示:“很显然,目前的系统还无法做到。”
持续学习是另一个关键缺失。根据实现AGI的六阶梯路线图,持续学习是继当前Agent阶段之后要突破的下一个技术阶梯,是未来通往自我迭代(奇点)和具身智能的必经阶段。持续学习是指在不遗忘已有知识的前提下,不断学习新事物的能力。人类天生就具备。遗憾的是,LLM并非如此。LLM是“冻结的天才”,它依赖静态数据集,一旦训练完成、部署上线就冻结权重,无法在实际经验中学习成长。持续学习的核心挑战来自“稳定性可塑性困境”,面临灾难性遗忘(学新忘旧)和可塑性丧失(对新任务的学习能力持续下降)两大障碍。


世界模型:从语言到行动

“我语言的局限就是我世界的局限。”“世界是一切发生的事情。”维特根斯坦一百年前的论断在今天展示出了神奇的预言性力量。
语言是人类最强大的发明,但它无法充分表征我们的世界。现实世界并不是由语言文字组成。LLM是“黑暗中的词匠”,能说会道,却毫无真实物理世界的肉身经验。单纯的语言规模化已不够,需要加强对物理世界、空间结构、时间连续性和行动后果的内在表征。正如萨顿所言:LLM只是“一时的迷恋”,它仅捕捉到真实智能的一小部分。真正的智能必须拥有世界模型。
世界模型是状态变化预测器,描述“环境状态怎样随时间和行动变化”。其本质是动力学模型,可用如下函数表示:
世界模型就是在参数θ下,基于当前状态 st和拟采取动作at,预测下一状态 ŝₜ₊₁的函数。由于物理世界是随机的、部分可观测的,输出下一状态的概率分布更接近真实环境。‌‌世界模型的目标不是精确预测唯一的未来,而是构建可用于规划的未来分布。世界模型“计算不可计算之事(Computing the Uncomputable)”,探寻那些不可言传的、本能的、关于世界如何运转的根本认知。
李飞飞和杨立昆是两位最重要的AI领导者。李飞飞创建了ImageNet 数据集,被尊为“AI教母”;杨立昆获得了2018年图灵奖,被誉为“卷积神经网络之父”。两位同样是世界模型最有力的倡导者和支持者。李飞飞(2026)将世界模型分为三类:输出像素的渲染器(renderer)、输出状态的模拟器(simulator)和输出行动的规划器(planner)。其创立的空间智能公司World Labs以82亿美元的价格被AMD收购。杨立昆辞去Meta 的工作后,于2025年底在家乡巴黎创立世界模型公司AMI Labs,估值已达35亿美元‌。
世界模型已成为创业热点领域,很多公司宣称自己就是一家世界模型公司。英伟达、谷歌等巨头纷纷下场。英伟达推出世界基础模型平台Cosmos,旨在帮助机器人、自动驾驶汽车和其他物理系统更好地理解和预测现实世界的环境;Google DeepMind把 Genie 3定位为 “a new frontier for world models”。


要重视“大师创业”现象

重大科学发现和技术进步,往往是由年轻人推动。爱因斯坦说过:“一个人如果在30岁之前还没有取得科学上的大成就,那将永远不会了。”量子力学重要奠基人狄拉克也觉察到,大多数伟大的物理学家在30岁以前就完成了他们最出色的工作。托马斯·库恩在《科学革命的结构》中指出:“几乎所有完成新范式根本性创见的人,要么非常年轻,要么刚进入这个即将被他们改变的领域。”这是科技创新的“三十岁规律”,更准确地说是“新人规律”。
 “人工智能是年轻的事业,也是年轻人的事业。”图灵24岁提出图灵机假想,38岁提出图灵测试思想实验;约翰·麦卡锡28岁创造“Artificial Intelligence”术语;写出《Attention Is All You Need》的8位作者也都是年轻人;天才高中生陈广宇16岁加入月之暗面担任机器学习研究员,以共同第一作者发表论文《Attention Residuals》;山姆·奥特曼19岁辍学创业,30岁参与创立OpenAI;在19岁辍学创业的还有汪滔,他创立了数据标注公司Scale AI,28岁加入Meta担任首席AI官;戴密斯·哈萨比斯22岁辞职创业,34岁创立DeepMind;达里奥·阿莫迪38岁带着6名OpenAI同事创立Anthropic,已属高龄。
年轻不只是指年龄,还意味着他们是没有光环的“普通人”。例如,麦卡锡在组织达特茅斯会议时还只是一名助理教授;“Transformer八子”在发表《Attention Is All You Need》时职位不高,名不见经传。
然而,世界模型不是这样,很多功成名就的学者教授纷纷下场创业。杨立昆和李飞飞两位领导者在创办公司时已经分别65岁和48岁。此外,香港大学马毅教授51岁创立忆生科技,加州理工学院Anima Anandkumar教授44岁创立Accelerated Understanding;清华大学朱军教授40岁创立生数科技;加州大学圣地亚哥分校助理教授黄碧薇和清华大学副教授封硕比较年轻,创立公司时也35岁左右。这远远高于AI独角兽创始人在创立年份29岁的平均年龄(来源:Antler,2026)。如下表所示。
表 教授创立的部分世界模型公司
创业就是打破常规,另辟蹊径,但也九死一生。年轻人有闯劲、受旧范式的束缚少,懵懵懂懂、边做边学更容易闯出新路。学识渊博、光鲜亮丽的教授有偶像包袱、路径依赖,往往是风险厌恶者,历史上真正创业成功的较为少见。今天,学术大佬涌入世界模型赛道,我们该如何理解?抛开教授挂名、学生干活的情况不谈,主要有两种解释。
一是世界模型特殊论。它是知识高度密集领域,就需要掌握知识的教授去创办伟大的企业。
二是AI泡沫论。在泡沫中,投资人是慷慨的,愿意为各种梦想买单。世界模型的概念令人振奋,其狂热是AI泡沫的一个缩影。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 字节大模型:算力最丰沛,为何进展最迟缓?

    (本文作者为 Tech商业,钛媒体经授权发布)文 | Tech商业在互联网的黄金十年里,字节跳动是被奉为神明的组织机器。凭借“App工厂”模式、扁平化的敏捷开发以及极度内卷的“赛马机制”,它硬生生在腾讯和阿里的夹击下,跑出了抖音这样的全球级巨无霸。但当这家公司带着最耀眼的资金、最顶级的算力和最庞大的人才库,杀入大...

    来源 腾讯网
  2. 字节Seed团队被指组织失配:算力最多,大模型进展反而不快

    在互联网的黄金十年里,字节跳动是被奉为神明的组织机器。凭借“App工厂”模式、扁平化的敏捷开发以及极度内卷的“赛马机制”,它硬生生在腾讯和阿里的夹击下,跑出了抖音这样的全球级巨无霸。 但当这家公司带着最耀眼的资金、最顶级的算力和最庞大的人才库,杀入大模型时代时,过去的“神兵利器”,却成了刺向自己最深的软肋。 近日,X平

    来源 AI 行业观察
  3. 独家丨中国 AI 最有权力的数据掌舵人:8 家公司,11 位核心负责人

    2026 年秋天,大模型行业水面之下同时发生了两件事。第一件事发生在创投市场。9 月中旬,成立不到一年的中国 AI 评测与合成数据初创公司 UniPat AI 被曝即将完成约 3 亿美元融资,由阿里拟领投,腾讯、红杉中国等跟投,估值飙至 25 亿美元。创始人李宽是一名 90 后港科大博士,去年还在阿里通义实验室做后训练

    来源 腾讯网
  4. 阶跃星辰阿里千问同日发硬件:大模型厂商抢入口

    (本文作者为 司库财经,钛媒体经授权发布)文 | 司库财经,作者 | 庆福,编辑 | 嘉嘉2026年的国产大模型开始变得“不务正业”:10月13日,阶跃星辰与阿里千问在同一天发布了主打AI的手机和眼镜耳机产品。两家大模型厂商在同一天发布电子消费产品绝非凑巧,而是代表着国内AI大模型的风向标——厂商之间的比拼将不只是最新

    来源 腾讯网
  5. 杨立昆:AI 下一次突破不在大语言模型,世界模型才是方向

    IT之家 10 月 12 日消息,据韩媒 The Korea Herald 今天报道,人工智能先驱人物、AMI Labs 创始人兼董事长杨立昆(Yann LeCun)周一在首尔表示,AI 的下一次突破不会来自大语言模型,而是来自能够理解、预测物理世界的系统。他认为,“世界模型”将推动 AI 进入下一阶段。 杨立昆强调,

    来源 AI 行业观察
  6. GPT-6.1 Terra发布:API价格降50%,能力逼近GPT-6 Astra

    OpenAI 又卷起了大模型的性价比。 就在刚刚,OpenAI 正式发布新一代模型 GPT-6.1 Terra,主打更快的响应速度、更强的视觉理解和电脑操作能力,以及更低的使用成本。 图|博客🔗 https://openai.com/index/introducing-gpt-6-1-terra/ 相比上一代 GPT-

    来源 AI 开发者社区
  7. 谷歌推出最强世界模型 Genie 4:一句话创造可交互虚拟世界,首次实现音视频同步生成

    IT之家 10 月 28 日消息,谷歌 DeepMind 于周二推出了最新的世界模型 Genie 4,目前处于研究预览阶段。这款最新模型能够生成迄今为止拟真度最高、可交互的虚拟世界,用户可以在模拟运行的过程中输入提示词来修改场景。该模型还能生成和虚拟世界同步的实时音频,涵盖音乐、环境音以及可交互对话。IT之家注意到,就

    来源 腾讯网
  8. 字节腾讯阿里同追AI办公硬件:录音卡片成最大入口

    最近,AI办公成为阿里、字节、腾讯等巨头最大的战场,大模型也进入了Agent竞争的深水区。 巨头们不断整合产品和团队,拳头收拢,力出一孔的同时,如何在对话框外,获取更多真实办公现场信息,并转化为大模型可以理解的“上下文”(Context),成为决战胜负手。这也让各方不约而同地将目光瞄准录音卡片、AI耳机、智能眼镜等硬件

    来源 AI 行业观察
  9. OpenAI发布GPT-6.1 Terra:API价格降50%,Agent能力直追GPT-6 Astra

    OpenAI 又卷起了大模型的性价比。 就在刚刚,OpenAI 正式发布新一代模型 GPT-6.1 Terra,主打更快的响应速度、更强的视觉理解和电脑操作能力,以及更低的使用成本。 图|博客🔗 https://openai.com/index/introducing-gpt-6-1-terra/ 相比上一代 GPT-

    来源 AI 行业观察
  10. 抖音李亮回应“字节时间”说法:腾讯短剧短视频增速远超抖音红果

    【TechWeb】10月29日消息,近日,“中国互联网进入字节时间”在网上刷屏,引发广泛关注。事件源头来自一份数据报告。野村证券数据显示,2026年8月,在中国月度使用时长排名前50的应用中,字节系产品的总时长份额达到41.8%,其中红果短剧人均每天使用时长约125分钟,超越抖音和微信。抖音集团副总裁李亮对此发文回应称

    来源 腾讯网
  11. 腾讯字节月之暗面齐推FDE:大模型为何要养现场工程师

    文 | 新立场Pro 今年 3 月 6 日上午十点,深圳腾讯大厦楼下开始排队。人们带着电脑,等腾讯云工程师帮自己安装 OpenClaw,首批八十多人在十点开始排队,到十一点,数百个预约号已经发完。据腾讯方面提供的信息,当天有近千名开发者和 AI 爱好者来到现场。队伍里有退休航空工程师,还有小学四年级的学生。 OpenC

    来源 AI 开发者社区
  12. DeepSeek拟完成近1000亿第二轮融资,腾讯宁德时代联合领投

    北京时间10月13日,根据《财经》报道,梁文锋主导的大模型公司DeepSeek将完成投前估值5000亿的新一轮接近1000亿规模的融资,在6月完成创中国创图历史的首轮超500亿融资后,DeepSeek的第二轮融资同样是创纪录! 根据报道,DeepSeek原计划第二轮融500亿的资金,但短短半个月时间内,融资金额直接翻倍

    来源 AI 行业观察
  13. 腾讯WorkBuddy推出独立文件浏览器:右键即可呼叫AI处理本地文档

    腾讯旗下 AI 办公工具 WorkBuddy 今日宣布正式上线独立文件浏览器功能。用户只需在系统资源管理器中右键点击目标文件,即可直接调用该浏览器进行独立查看与编辑。 新界面采用了左侧展示文档内容、右侧开展 AI 对话的全新布局,让本地文件能够无缝接入 AI 大模型。系统不仅支持标签页切换以同时处理多份文档,还能将对应

    来源 AI 开发者社区
  14. OpenAI“招安”孙宇晨

    OpenAI开始给中转站发“经营牌照”,野生中转站们的好日子到头了。日前, OpenAI发布公告,自11月20日起新版使用规则生效:模型路由、AI网关这类向第三方提供模型直连的服务须先经OpenAI审查批准,自家App内调用不受影响。这意味着,以转接调用 OpenAI 大模型为主要商业模式的中转站面临着严峻考验。其实很

    来源 腾讯网
  15. 姚顺宇“卷加班对抗DeepSeek”说法引争议:大模型突围靠什么

    一则与腾讯混元团队相关的内部说法,最近把国内大模型竞争里那根最敏感的神经又拨了一下。28岁的首席 AI 科学家姚顺宇抛出的"卷加班对抗 DeepSeek"表述,在舆论场里炸开了锅,因为它戳中的不只是某家公司,而是整个行业在 AGI 长跑里都绕不开的深层痛点:到底靠什么追上对手。 把镜头拉回腾讯自身的处境,焦虑是真实的。

    来源 AI 开发者社区
向下滚动自动加载更多