DeepMind谈AGI之后:人类水平只是起点,ASI还有多远?
机器之心编辑部最近,Google DeepMind Institude 发布了最新博客文章《AGI 之后是什么?》,探讨了人工通用智能(AGI)之后的技术演进方向,以及人类可能通过哪些路径迈向人工超级智能(ASI)。文章链接:https://institute.deepmind.com/essays/what-come
近来,一篇名为《AGI 之后是什么?》的文章讨论了人工通用智能(AGI)之后技术会往哪个方向走,以及人类可能经由哪些路径迈向
文章链接:https://institute.deepmind.com/essays/what-comes-after-agi/
文章提到,AGI 并非人工智能发展的尽头,它或许只是一个
DeepMind 从智能能力的边界、
AGI 不是终点,ASI 还有多远?
几十年来,人工智能研究始终围绕一个核心目标:做出能在人类几乎所有认知任务上达到人类水准的 AGI。
不过 DeepMind 的看法是,AGI 并非人工智能发展的终点。人类水平的智能只是整个
文章将
比方说,一个科研领域要花好几年才能取得的进展,ASI 或许极短时间就能做完;大型科技公司一年才完成的芯片设计与技术研发成果,它也可能用更少资源实现。
其实,现在的 AI 在国际象棋、围棋、蛋白质结构预测以及部分数学证明任务上,已经表现出超过人类的能力。可这些还都是特定领域里的突破,离全面的超级智能差得远。
DeepMind 强调,人类已能从数学和物理学角度研究智能的理论极限,不过从人类水平的 AGI 到这些极限,中间到底有多大的能力空间,眼下仍是一个没被充分探索的问题。
模型自身能力突破之外,DeepMind 还提到,算力持续增长、运行成本快速下降,同样可能成为 AI 走向超级智能的重要推力。
文章由此引出了「
文章指出,过去十年,AI 有效计算能力的增长主要靠三个因素:
硬件性能提升:每美元能买到的计算能力,长期保持每年约 1.5 倍的增长速度。
算法效率提高:达到相同性能所需的训练计算量不断下降,推理算法的效率也在快速改善。
计算基础设施投资增加:AI 硬件投资过去十年高速增长,全球计算资源随之不断扩张。
三者叠加,全球有效计算资源的年增长速度约为 10 倍甚至更高。
DeepMind 进一步推演:如果相关趋势再持续十年,今天要花 10 亿美元 AI 计算成本才能完成的认知工作,将来可能只需约 1000 美元。
当然,这个预测的前提是效率提升的趋势能够延续,并不等于成本一定会按这个速度往下降。
更关键的是,即便 AI 模型的基础能力没有重大突破,只靠更低的运行成本、更快的处理速度和更多的智能体数量,知识工作和社会经济结构也可能被明显改变。
在这种设想下,几十亿个能高速运转、彼此持续配合的 AI 智能体,合起来的生产能力可能远远超过单个人类或者单个 AI 系统。
换句话说,从 AGI 走向 ASI,未必非得等某一次颠覆性的模型突破。智能体数量、运行速度、协作规模一路往上走,同样可能把智能水平推上一个台阶。
二、从 AGI 到 ASI,
DeepMind 提出了四条技术路线
但智能体变多、跑得更快,并不能补上 AI 在所有认知能力上的短板。DeepMind 的判断是,想真正走到 ASI,关键技术上得有所突破。
文章据此梳理出四条可能的发展路径。
第一条:把模型和数据的规模做大。
这是眼下 AI 发展的主线:增加训练数据、扩大模型规模、加大训练算力,再叠加推理阶段的计算投入,以此不断提升系统能力。问题在于,这条路同样受制于高质量数据不够用、模型扩张带来的收益递减,以及能源、芯片等基础设施的约束。
高保真模拟环境、合成数据、强化学习,加上推理阶段的计算,未来或许能成为绕开这些瓶颈的办法。
第二条:推动技术范式发生转变。
目前主流大模型主要建立在
通往 ASI 到底只需在现有技术上不断打磨,还是非得靠全新的模型架构和学习范式,目前仍有争论。
第三条:提升
单打独斗的 AI 能力或许有限,可一旦把大量智能体组织成协作系统,集体智能就有机会被放大。企业、科研机构、市场都能解决单个人类搞不定的问题,未来成千上万个 AGI 智能体同样可能靠任务分工、信息共享与相互配合,去完成更复杂的认知任务。
但多智能体系统并不是规模越大就越灵。通信开销、协调效率、信息失真、群体行为这些麻烦,都会拖住能力的上限。
第四条:实现递归自我改进。这条路径也是文章着墨较多的地方。
递归自我改进(RSI)
AI 的研发能力上去之后,模型架构设计、算法优化、芯片设计与训练数据生成的效率都可能被它继续推高,后面的技术迭代也就跟着加速。这种反馈循环要是能一直转下去,AI 进步的快慢就不再完全看人类研究人员的工作效率了。
DeepMind 进一步指出,这个过程可能分三个层面落地:一是代码与设计优化,改模型架构、训练算法和芯片设计;二是数据驱动改进,借模拟、推理和实验产出质量更高的训练数据,
DeepMind 把这三套机制分别比作生物进化中的
文章也强调,递归自我改进不一定就会滑向失控的指数增长。技术越成熟,找到新的有效改进往往越难;缺少可靠的评估与反馈机制,自我改进还可能停住,甚至倒退。
所以,数学证明这类能自动验证的领域,可能先走到程度更高的递归自我改进;要靠复杂现实判断的任务,进展大概会慢一些。
DeepMind 强调,上面四条路线彼此并不孤立,它们可能互相促进,一起把 AI 能力往上推。哪怕某条路线卡住了,其他路径仍可能继续往前走。
这也就意味着,只去限制模型训练算力这类单一因素,恐怕不足以管住整体 AI 的发展速度。受限的那一环一旦被突破,能力甚至可能突然跳升。未来 AI 治理因此得同时盯住模型规模、算法效率、
三、构建新的衡量与预测体系
文章收尾处,DeepMind 把话题拉回一个更实际的问题:一旦 AI 走到超越人类智能那一步,人该怎么办?
给出的主线是建模、测量、预测,再不断迭代。可超级智能的本事或许会超出人类专家的判断范围,现有的测试手段届时会不够用,所以未来得建起更可靠的评估办法。
在 DeepMind 看来,未来十年 AI 保持快速发展的可能性,值得认真对待。从专家级 AGI 走向超级智能,医学、材料、清洁能源等领域的科学突破可能因此提速。即便超级智能不会很快出现,AGI 也不是人工智能发展的终点;比起只盯着怎么把 AGI 做出来,人们更该提前弄明白 AGI 之后技术会往哪走、跑得多快、对社会影响有多深。