辛顿:AI数学已超多数人类,10年内或创人类难懂新分支?
也有数学家提出质疑,认为数学的核心定义、公理体系由人类建立,AI的成果终究建立在人类数学基础之上,很难诞生完全脱离人类理解的分支。
当地时间11月14日,诺奖得主杰弗里·辛顿谈了自己的判断:眼下AI在数学上的本事,已经压过绝大多数人类数学家。再参考不少数学领域专家的看法,未来10年内概率不小,AI会发展出一套人类根本没法理解的全新数学分支。快科技11月16日消息。
辛顿是深度学习领域的奠基人,靠神经网络相关贡献拿下诺贝尔物理学奖,业界称他为AI教父。人工智能的能力边界是他长期盯着的方向,通用人工智能潜藏的风险,他也多次公开提醒过。
他的看法是,AI已经不只是人类拿来算数、验算数学猜想的工具了。自主发现新的数学规律、推导新定理,甚至生成一套脱离人类认知框架的逻辑体系,它都有能力做到。
这个设想最棘手的地方,在于AI的“黑箱特性”。现在顶尖大模型已经能独立解出高难度纯数学难题,结论也给得对,可它的推导路径,人类很难完整读明白。
往后要是AI自己搭起新的数学体系,这套逻辑可能超出人类大脑的理解上限。好比低等生物弄不懂质数原理,人类能验证结论是对的,推理过程却看不懂。
近几年AI在数学上突破不断,不少菲尔兹奖级别、悬了很久的难题,靠AI拿到了重要进展。AI辅助数学研究,已经从设想变成现实。
辛顿的预判在学界引出讨论。一部分学者认同AI会大幅拓展数学的边界;也有数学家不买账,认为数学的核心定义、公理体系都是人类建立的,AI的成果终究长在人类数学的基础上,想诞生完全脱离人类理解的分支,很难。
这番话再次带出人工智能时代的深层命题:AI产出的知识一旦超出人类的理解能力,这些结论该怎么校验、怎么采信?
