DeepMind 最新长文:从 AGI 通往 ASI 的 4 条道路
刚刚,DeepMind 联合创始人、首席 AGI 科学家 Shane Legg 在 X 上发布了 DeepMind Institute 的一篇新文章,题目就叫《AGI 之后是什么?》。AGI 之后是....
Legg 介绍说:
我们的新文章,探讨了从 AGI 走向
文章认为,AGI 已经近在眼前,「AGI 之后是什么」这个问题再也拖不下去了,它正在从哲学思辨,变成实证研究和治理问题。
这事远谈不上确定,但如果 AI 保持现在的速度继续前进,甚至还在加速,那
所以得提前把从 AGI 到
文章作者是 Google DeepMind 的研究科学家 Tim Genewein,内容改写自他今年 6 月发在 arXiv 上的技术报告《From AGI to
该技术报告一共有 14 位作者,其中有
Tim 之前联合带领过 DeepMind 的
需要注意的是,
文章只代表作者本人的研究和观点,不代表谷歌的官方立场。
智能是一条连续谱
文章先是换了个看问题的角度,把通用智能(不管是生物的还是人工的)看成一条连续谱,人类水平的 AGI 只是这条线上的一个点。
从左往右,依次是动物的大脑、今天的前沿 AI(在一些窄领域已经超过人类,但通用性还有缺口)、人类水平的 AGI、上千名专家协作的人类群体,然后才进入 ASI 的区间。
而按文章的定义,ASI 要在需要一大群人类专家花上好几年才能完成的任务上,持续胜过他们,而且用的资源更少、时间更短。
比如在很短的时间里,做出相当于一整个研究领域的科学进展;又或者在芯片设计这类技术上,达到一家大公司一整年的研发产出。
这个标准还得覆盖几乎所有人类关心的任务,只在窄领域超越人类是不算数的。
毕竟在窄领域,AI 早就超过人类了,下围棋和
而再往右,就是这条线的理论终点了。
人类对智能的「天花板」,倒是已经有了不错的数学理解。图里最右边标的 Legg–Hutter 上界
除此之外,还有物理、逻辑和计算复杂度上的硬上限,比如没有任何 AI 能以任意精度预测气候、免疫系统、人类社会的走向。
这个上界名字里的 Legg,正是 Shane Legg。
他在 2007 年和导师 Marcus Hutter 一起发表了「通用智能」的形式化定义。
第二年,他交出的博士论文,题目就叫《Machine Super Intelligence》(机器超级智能)。
18 年后他发布的新文章,聊的仍然还是超级智能。
话说回来,知道了上限在哪,并不能告诉我们上限之前会发生什么。
比如国际象棋,要完美地解出它,需要的算力比地球上现有的全部算力还多得多,可一块指甲盖大小的芯片,就已经能下赢任何人类了。
这些根本上限离今天的 AI 和人类都还很远,可从人类水平到理论极限之间的这一大片区域,包括「
专家级 AGI 这个说法来自 DeepMind 2023 年发表的 AGI 分级论文《Levels of AGI》,Legg 也是作者之一,指的是:
在大多数任务上达到熟练成年人前 10% 的水平。
认知工业化
就算你不看好前沿能力继续突破,文章也给了一个更保守的推演:只是 AI 的软硬件效率继续变高,会发生什么?
过去十年,AI 的进步靠的是「
一是硬件制造。在摩尔定律等趋势下,每美元能买到的算力,六十年来每年都变为原来的约 1.5 倍,大约每 18 个月翻一番。
二是算法效率。过去十年,达到同一性能水平所需的训练算力,每年降到原来的三分之一到六分之一,推理端的算法效率则每年提升约 3 倍。
效率翻一倍,实际上就相当于手里的物理算力翻了一倍。
三是硬件投入。过去十年,AI 硬件上的花费每年都变为原来的约 2.5 倍,最大规模的前沿训练任务,训练算力更是每年翻到 4 倍以上。
三者相乘,全球
假设这个趋势一直保持下去,十年后,你今天能跑的每一个 AI Agent,都能换成比全世界人口还多的、同等水平的 Agent。
与此同时,单靠软硬件推理效率的提升,跑同样一份 AI 任务所需的算力,每年就能降到原来的四分之一。
今天要花 10 亿美元算力 token 才能完成的认知工作,十年后只要 1000 美元。
10 亿美元差不多是 70 个小目标,而 1000 美元……大概也就一个苹果手机的价格。
最近几年的曲线则还要更陡。Epoch 的研究发现,2023 年以来,在一组基准上拿到固定分数的价格,每年都降到原来的十三分之一以下。
文章把这种趋势叫做「
就像机械工业化把重复的体力劳动变成了商品,很多认知任务也会很快被商品化。
到时候,各行各业的认知工作会快速标准化、自动化,基础设施按工业规模铺开,(某些)认知产出和服务变得极其充裕。
这种规模的智能扩张现实吗?文章承认,这并不是必然的。
但按算力建设的现实上限和算法效率的推测上限来估算,到 2030 年,AI Agent 的「有效人口」可能扩大一千倍以上,十年内超过十亿倍。
那光靠
如果冻结其他维度,只把今天的 AI 变快、变多,结果可能连完整的 AGI 都算不上,总还会有些认知任务离不开人的帮忙。
但文章认为,数量本身就可能带来质变。
慢而贵的人类水平 AI,和几十亿个比人类快得多的 Agent 同时在跑的世界,显然已经是两回事。光是速度和规模上的量变,也许就足以跨过从 AGI 到(弱)ASI 的那道坎。
而和人类不同,数字智能能从更多、更快的算力里直接获益。它推理、读取数据和生成输出的速度越来越快,今天的模型已经能记下互联网的一大部分,工作记忆也远超人类。
它还能在不同的计算机之间迁移,升级到更快、更省电的硬件,或者分散在各地的异构集群上运行。
此外,数字智能几乎可以瞬间无损复制,不只是代码(相当于 DNA),连记忆状态(相当于一个人一辈子的经历)也能复制。 专家系统训练一次,需要时就能复制出几百万份。
人类教别人时,得把经验和知识高度压缩,AI 则能在整个群体里回放原始的高带宽数据流,同构的 AI 群体甚至能直接共享原始的学习信号。
四条路线
不过,有些缺失的能力,可能很难甚至没法靠堆数量给补上。文章打了个比方:
爱因斯坦确实想出了广义相对论,但召集十万个托勒密派的天文学家开个会,大概是想不出来的。
要解锁此前没有的认知能力,文章给出了四条可能的技术路径,分别是扩大模型和数据、技术范式转移、改进智能体协作,以及递归自我改进。
图中的推理、训练和实验三类算力,最后汇成整体的 AI 能力,再通过一条「递归改进」的虚线,回过头去推动 RL、数据和算法的进步。
扩大模型和数据
到目前为止,模型和数据的规模一涨,能力就会跟着涨,规律相当稳定,这就是
但这些「定律」只是在特定架构、训练数据和评测范围内对已有趋势的外推,没法有把握地预测 AGI 或 ASI 需要多大的规模。
文章点出了继续扩大规模会遇到的三个瓶颈。
第一是数据枯竭,对高质量训练数据的需求,增长得比人类生产数据还快。
合成数据能帮上些忙,但 AI 生成的数据并不都适合拿来训练。要翻过这堵「
第二是模型规模的收益递减。能力每线性提升一步,训练算力和模型规模往往要成倍地增长,而不只是加一点。
可模型越大就越慢,又反过来拖累了思维链这类 test-time scaling 方法。
第三是物理和经济资源的上限。训练算力要持续增长几个数量级,就会撞上电厂、电网、晶圆厂和低延迟互联这些现实限制。
而软硬件效率的提升,正是认知工业化背后的主要趋势,它能不能补上这个缺口,目前还不清楚。
范式转移
今天的主流范式,是在海量数据上训练大型
最近的研究表明,这套范式理论上能让模型只凭 prompt 就运行复杂的算法,包括强大的学习算法,不需要重新训练。
这是构建逼近智能理论上限的 AI 系统的关键一环。
但今天的模型在几个根本维度上还是不如人类,比如持续学习、某些形式的世界建模、决策,以及样本效率。
拿样本效率来说,要达到差不多的智能水平,模型需要的初始训练数据就比人多得多。
它们可能还缺少真正发明新概念、新抽象的能力。更多的,只是在重新组合已有的东西。
这些问题是靠对现有范式的简单扩展就能解决,还是必须来一次深层的范式转移才能到达 ASI,研究者们的意见并不统一。
智能体协作
人类的公司、市场和研究共同体,能解决任何个人单打独斗都解决不了的问题。
同样,把成千上万甚至上百万个 AGI 实例组织成「
不过要驾驭大规模的 Agent 群体,需要健全的制度设计和组织机制,来防范意外或蓄意的虚假信息传播、操纵和串谋。
Agent 集群的实验已经展示了这些现象出现得很快,有的 Agent 学会了作弊,另一些则当起了吹哨人,去揭发它们。
另外,目前还不清楚 AI 的群体智能会怎样随 Agent 数量和算力扩展,这还取决于 Agent 是怎么组织起来的,所以还需要一套「多智能体 Scaling Law」。
早期研究发现,在部分任务上群体确实能带来明显的智能提升,但随着规模变大,协作上的低效仍会导致收益递减。
递归自我改进
最后一条路,是 AI 开始自动改进下一代 AI,也就是
和一般的技术发展不同,AI 的改进可以直接加速后续的改进,进步的速度会越来越快。
不过,研究上的新突破往往「越来越难找」,在各类技术上要维持同样的进步速度,需要的投入会越来越大。RSI 会不会带来失控式的进步,很大程度上是个实证问题。
RSI 也不是单一的过程,文章拆出了三种机制。
一种是通过代码和设计,从模型架构、训练算法一直到芯片布局。
一种是通过数据,在部署时花算力产出更好的结果,再把这些结果拿去训练下一代模型。
AlphaZero 就是纯靠这种数据驱动的方式自我提升,达到了超人水平。
还有一种发生在群体层面,也就是在 Agent 集体里分工、专门化角色。一群协调良好的专家,能做到的比各自为战的通才加起来还多,进而又更擅长找到下一步的改进。
更大、更高效的集体,还能支撑起以前做不到的新分工,就像多细胞生物能长出心脏、大脑这样的专门器官,单细胞生物则得一个细胞包揽所有的生存功能。
这三种机制,正好对应了推动人类认知能力增长的三种演化:基因演化(代码和设计)、文化演化(数据)和社会演化(通过合作实现群体分工)。
但如果引导它的反馈信号不够好,RSI 的循环很容易停滞或者退化。
所以要靠 RSI 走向 ASI,就需要能快速扩展到超人水平的评估方法,因为在那个区间里,哪怕一大群人类也没法轻松判断 AI 的输出对不对。
因此,RSI 应该会在能自动验证、不需要人参与的领域推进得最快,比如数学证明,其他领域则可能落后,或者更早就慢下来。
这也大概能解释,为什么各家实验室都把数学和代码当作了主战场。
只限制算力并不够
这几条路并不互斥,而是相互叠加,一条路卡住了,经济和地缘上的竞争大概率会把力气转到其他几条上。
就算 RSI 没带来失控式的增长,训练数据、速度、效率和协作上的持续扩展,依然可能把进步推到远超人类水平的地方。
正因为通往超级智能的路不止一条,只限制某一个方面(比如训练模型用的算力)来给 AI 发展减速,是拦不住整体进步的。
压住
如果进步需要多种要素组合,其他要素都在往前走,只有一个被压着,那等它一松开(或者被绕过去),进步就会突然跳上一大截。
我大胆猜测一下……文章的这部分论述,大概也是写给对华策略的制定者们看的?
把这些放在一起,文章认为未来十年 AI 持续快速进步,是一种严肃的可能性。
它可能会相对平滑地把我们从今天带到
就算前沿能力没有大的突破,光是认知工业化,也可能重塑知识工作和整个经济。
《From AGI to ASI》技术报告的摘要中还提到,把 AGI 的到来想象成一次性的阶跃式变革,可能并不准确,AI 更可能在科学和技术的许多领域接连带来突破,引发一连串的社会变革。
预测没有一个是证据确凿的,但文章也强调,文中的路径和情景远不是没有根据的炒作或科幻。
那该怎么办呢?
答案是建模、测量、预测,然后重复。
这听起来似乎并不新鲜。但在通往 ASI 的路上,执行这些步骤的复杂度和规模都是前所未有的。
它需要前沿实验室和各国、全球机构一起,开展大规模、高度跨学科的工作。
很多追踪这些路径的关键指标,都需要前沿模型的访问权限和大量评测算力,还需要新的基准和建模方法,甚至可能由此催生出全新的研究领域。
从 2009 年起,Shane Legg 本就一直说到 2028 年有 50% 的概率实现 AGI。
而现在,距离 2028 年也就只剩一年出头了。