辛顿:AI数学已超多数数学家,10年内或催生人类难懂的新分支?
“AI教父”辛顿:10年内AI或开创人类无法理解的数学分支
当地时间11月14日,诺奖得主杰弗里·辛顿谈了这样一个判断:眼下AI在数学上的本事,已经压过绝大多数人类数学家。再结合多位数学领域专家的看法,未来10年内,AI很有可能长出一套人类根本看不懂的全新数学分支。这一消息由快科技在11月16日带来。
深度学习能有今天,辛顿是奠基者之一。他因神经网络方面的贡献拿到诺贝尔物理学奖,业界称他为AI教父。人工智能的能力边界在哪里,是他长期盯着的方向,通用人工智能潜藏的风险,他也多次公开提醒。
他的看法是,AI已经不只是帮人算数、验算猜想的工具了。发现新的数学规律、推导新定理,甚至生成一套脱离人类认知框架的逻辑体系,它都有能力自己来做。
麻烦出在AI的“黑箱特性”上。现在顶尖的大模型已经能独立解出高难度纯数学难题,结论也给得对,可它的推导路径,人类很难完整读明白。
往后要是AI自己搭起新的数学体系,这套逻辑或许会越过人类大脑的理解上限。打个比方,低等生物弄不懂质数原理,人类也差不多:结论对不对能验证,推理过程却看不透。
这几年AI在数学上接连突破,不少菲尔兹奖级别的长期悬案,靠AI拿到了重要进展。AI辅助数学研究,已经从设想变成现实。
辛顿这番话在学界引起讨论。一些学者认同AI会把数学的边界大幅推开;也有数学家不买账,理由是数学的核心定义和公理体系都是人类立的,AI的成果说到底还扎在人类数学的根基上,想长出完全脱离人类理解的分支,很难。
这次发言又带出人工智能时代的一个深层问题:AI产出的知识一旦超出人类的理解能力,校验和采信这些结论的活,人类该怎么干?
