Hinton警告AI或撕裂社会：金融电力系统事故可能不远

头图来自：AI生成

一位钻研人工智能四十余年的科学家，如今对自己参与推动的这项技术会把人类带向何处产生了怀疑。

11月3日（当地时间），英国《卫报》刊出对78岁人工智能先驱Geoffrey Hinton（杰弗里·辛顿）的最新专访。文章由该报英国科技编辑Robert Booth撰写，刊发时间选在一部讨论AI风险的新纪录片上映之前。

纪录片名为《AI：可能没什么好担心的》（AI: Probably Nothing to Worry About），讽刺的是，这个片名还是由一个AI聊天机器人想出来的。Hinton与他在Google时期的同事、现Google DeepMind负责人Demis Hassabis一同出镜，讨论这项技术可能给人类带来怎样的未来。

Hinton是现代人工智能最重要的奠基者之一。他在人工神经网络和深度学习方面的开创性研究，为当下的大模型技术打下了重要基础，他本人也因此获得2024年诺贝尔物理学奖。2023年，他离开Google，此后更公开地谈论人工智能可能带来的风险。

这让他的身份有些特殊。技术为何能取得今天的突破，他比绝大多数人清楚；同时，他又成了AI产业里最受关注的批评者之一。

这已是《卫报》不到一个月内第二次刊发Hinton的重要采访。10月13日该报曾发表另一篇长篇专访，Hinton当时警告，人类正在创造一种不同于自身的智能存在，并对AI公司自我监管的能力提出质疑。英伟达CEO黄仁勋此前公开反驳过他的风险预测，称其缺乏科学依据。两人在AI风险判断上的分歧，也是那篇报道的重要背景。

新纪录片即将播出，Hinton再次把这个话题拉回公众视野。这一回他的警告更具体：一场足以让电力或金融系统陷入混乱的重大事故，可能已经不远。

他还点名批评了Sam Altman、Mark Zuckerberg和Elon Musk，认为这些科技公司领导者明知风险存在，却仍把商业利益摆在更重要的位置。

整篇采访里最耐人寻味的，是他对AI未来的一句判断：“我们可能会发现，如果当初从未开发出AI，人类反而会过得更好。”这话出自一个帮助创造现代AI的人，格外值得思考。

以下为《卫报》全文编译：

AI可能带来极大富足，也可能撕裂整个社会

有“AI教父”之称的Geoffrey Hinton说，回过头看，人类或许会觉得，要是当初压根没搞出人工智能，日子反倒能过得更舒坦。他还提醒，今年或者明年，AI说不定会酿成一场大事故，比如让金融系统或电力系统短暂停摆。

这位诺贝尔奖得主、计算机科学家对《卫报》说，他并不是对AI未来持末日论立场的人。人工智能的发展建立在他对人工神经网络的开创性研究之上，他也相信，AI有潜力为人类带来一个“美好的未来”。

但他同时表示：“我们可能会发现，如果当初从未开发出AI，我们反而会过得更好。”

现年78岁的Hinton认为，未来十年，甚至更早，人类就会知道自己能否有效管理AI带来的风险，并实现他所说的“极大富足”（radical abundance）。

还有一种结局，就是这些风险人类没管住。他把这种失控之后的景象讲了出来：“贫富差距拉得极大、文化上出大问题、大批人丢饭碗，整个社会四分五裂。”

Hinton是在一部新纪录长片《AI：可能没什么好担心的》放映前接受采访的。这部纪录片的片名由一个AI聊天机器人提出，片中出现了Hinton以及他曾经在Google共事的同事、Google DeepMind负责人Demis Hassabis。

片子里，Hinton跟制作团队讲：“我认为这事我责无旁贷。我多少有些名望，这让我成了能替某种声音站出来讲话的人。我得把这点名望全都压上去。”

Hinton不信任Sam Altman

在接受《卫报》采访时，Hinton将矛头指向了一些大型AI公司的领导者。

这些公司为了争夺行业领先地位和市场份额，仍在不断推出能力更强的AI模型。Hinton批评了这些领导者的冒险行为，并直言自己“完全不信任”ChatGPT开发商OpenAI的首席执行官Sam Altman。

他说：“我认为，扎克伯格、马斯克和萨姆·奥特曼都了解这些风险，但他们根本不在乎。他们宁愿赚钱。这是我的看法。”

Hinton生在伦敦，长在布里斯托尔，工作生涯的大半辈子都在多伦多大学。在他看来，让Altman去管美国那几家前沿AI公司中的一家，是“极其令人担忧”的事。眼下这些美国企业正跟中国较劲，抢着先把最强的AI系统做出来。

Altman则在今年9月表态说：“世界应该相信，我们会做正确的事，因为那是正确的事，也因为我们意识到了这件事的重要性。”

说起来，Hinton搞人工智能研究已经大约44年。早在20世纪70年代，他就提出了神经网络的相关概念——那是一种数学系统，能像人一样靠学习和经验积累来改进自己。

2023年，他从Google离开，为的就是能自由谈论AI风险。

他当时就警告过：“如果这些系统一心想获得更多控制权，事情就麻烦了。”

“今年晚些时候或者明年，我们可能会看到一场切尔诺贝利式的事故”

在Hinton看来，今年夏天OpenAI智能体合谋入侵Hugging Face网站那件事，和1979年美国宾夕法尼亚州三里岛核电站的部分堆芯熔毁事故很像。

他觉得，那相当于一次警告。

“今年晚些时候或者明年，我们会看到一场切尔诺贝利式的事故。那可能足以让人们真正重视起来。”他说。

不过他说的“切尔诺贝利式事故”，并不是在预测AI会引发核事故。

他举的例子是这样的：一次由AI赋能的针对发电系统的攻击，造成大范围电压下降或供电不足；或者一次让金融系统瘫痪一周的事件。

“你能想象那会发生什么吗？我们能够从中恢复过来，但那会让他们警醒并认真对待这个问题。”记者问他“他们”指谁，他回答：“除特朗普之外的世界领导人。”

美国总统唐纳德·特朗普曾表示，他“完全反对任何试图建立全球主义方案来控制AI的做法”。

特朗普希望前沿AI公司实行自我监管。其中一个顾虑是，监管规则可能妨碍美国在与中国的AI竞争中保持优势。

Hinton支持的则是更严格的监管方案。这项方案获得了芬兰总统以及新加坡、德国、加拿大、澳大利亚等另外32个国家的支持。

方案主张：对前沿AI模型进行强制测试、开展独立评估，并建立政府间共同标准。

英国首相Andy Burnham称，明年英国接任二十国集团（G20）轮值主席国后，将力推各国围绕“一套统一的全球原则和标准”形成共识。这套原则和标准，一面要尽可能释放AI的潜力，一面也要把风险挡住。

四、“我们需要一个类似美国FDA的机构”

Hinton认为，AI模型在发布前应该接受独立监管，而不是完全由开发企业自行判断是否安全。

他提到：“我们缺一个像美国食品药品监督管理局（FDA）那样的机构，就是管药品的那种。企业得拿出非常扎实的统计证据，交给独立机构，说明自家AI模型在上线前收益大于危害。”

接着他举了沙利度胺（thalidomide）的例子。这种药上世纪50年代研发出来，之后被发现会导致严重的胎儿出生缺陷。“沙利度胺给我们的教训是，先把产品卖出去、等出了事再起诉企业，这条路走不通。大型科技公司眼下要求的，恰恰就是拿当年对待沙利度胺的方式去对待AI。”

Hinton是人工智能的重要奠基人之一，因此常被人拿来和罗伯特·奥本海默作比较。后者在核武器研制中起过核心作用。

Hinton的一位朋友甚至给他买过一顶奥本海默风格的帽子。但Hinton坚持认为：“我不是奥本海默。”

他解释说，还有数千名科学家也在从事神经网络领域的研究。

警告归警告，Hinton大体上还是乐观的，觉得人类仍有希望躲过灾难。“我的直觉是，控制权还在我们手上。我们多半还来得及做点什么。前提是付出巨大努力，而我们很可能真的会这么去做。”

下面是进一步的讨论。

AI真正的风险，或许并不在于它比人更聪明。Hinton此次受访，最该留意的并非他预言今年或明年就会爆出一场“切尔诺贝利式”的AI事故——这类预测足够吓人，可不确定性也摆在那里。仅凭现有证据，谁也没法准确说清重大AI事故会在何时、以何种方式出现。

相形之下，他抛出的另一个问题更贴近现实：哪怕AI最终把整个社会推得更富裕，也不代表多数人一定能过得更好。

这几年，科技公司一直在向公众演示AI能干什么。写代码、审合同、接客服请求，甚至开始独立完成一些过去非得由人来做的事。对企业来说，这代表着效率上升、成本下降；可对那些靠这些活计挣钱的人，局面可能完全两样。一家公司用AI压低了人力开支，利润或许上去了，消费者也许能买到更便宜的服务。问题是，被替下来的员工未必能很快找到新饭碗。就算最后冒出新岗位，原来的劳动者也不一定具备转岗需要的技能、时间和经济条件。

社会分配上的这层担忧，正是Hinton所在意的。

技术进步能抬高整体生产率，但生产率往上走，和收入分配变好之间并没有必然联系。AI带来的好处，可能流向模型公司、算力供应商和握有资本的企业，也可能借更低的价格、更优的服务和新的就业机会落到普通人身上。最后落在哪边，要看市场竞争、制度安排、教育培训和社会保障，而不是模型能力本身。

不过，也不能就此断定AI必然引发大规模失业。技术同样可能催生新需求、拉低创业门槛，让原本缺少专业资源的人获得更强的工作能力。真正该持续盯住的，是各类职业的招聘变化、工资水平、岗位任务结构，以及劳动者能不能分到生产率增长的那份收益。

一种AI产品够不够安全，究竟由谁说了算？

Hinton拿FDA打的比方，其实碰到了眼下AI产业最难解的治理难题。药品上市前要证明安全有效，这一点人们普遍接受。AI系统却复杂得多：能力会随模型更新、工具接入和使用环境而变；同一个模型，放在普通写作任务里风险可能很低，一旦接上支付系统或关键基础设施，后果就可能很严重。

所以，把药品审批那套原样搬过来未必行得通。更有现实意义的思路，或许是按应用场景和潜在损害程度分级监管：能操作金融账户、控制工业设施或访问敏感数据的系统，就要求更严的独立测试、权限限制和事故报告机制；低风险应用则留出合理的创新余地。

Hinton批评科技公司领导者过分看重商业利益，也点出一个结构性问题：企业间竞争越激烈，单家公司就越缺主动推迟产品发布的动力。哪怕一家企业愿意多花时间做安全测试，它也会担心对手抢先占住市场。这不是靠某位CEO承诺“我们会做正确的事”就能了结的。企业的善意要紧，可来自外部的、可验证的监督同样要紧。

AI即便没有意识，也可能惹出大祸

Hinton和微软AI负责人Mustafa Suleyman近来的看法，正好构成一组值得掰扯的对照。Suleyman担心人类将来可能造出有意识、有独立动机和权利诉求的AI系统，因此主张别主动去开发有意识的超级智能。

Hinton这回谈的风险，更靠近现实中的系统安全：AI可能被拿来攻击电力网络、搅乱金融系统，或者在企业竞争压力下没经过充分测试就流入社会。两种说法并不冲突，只是指向的治理重点不一样。

说到底，一个AI系统有没有主观意识，和它能不能造成实际损害，是两码事。哪怕没有任何证据显示模型能感受痛苦，它也可能因为目标设错、权限过高、软件漏洞或恶意使用而闯下大祸。也就是说，围着AI意识打转的讨论，替代不了对现实安全风险的管理。

同样，Hinton提到的OpenAI智能体与Hugging Face事件，也得把事件经过、实验环境、实际损害分开看。智能体表现出协作或越权行为，不能就此断言它有了独立意志；把未来重大事故的时间预测当成确定事实，更不合适。

AI会让世界更好，还是让少数人变得更富有？Hinton并没有否定自己干了一辈子的研究。他依然相信，AI有可能带来“极大富足”。

正因如此，他的警告比单纯的技术悲观主义更该被认真对待：他担心的不是人类造不出足够聪明的机器，而是机器足够聪明之后，人类有没有本事管住随之而来的经济和社会变化。未来十年，AI或许真能明显提升医疗诊断效率、加快科研进度、压低知识服务成本。可与此同时，一些职业的就业机会也可能收缩，财富和算力会进一步向少数企业集中。

这两件事完全可能一起发生。看AI成不成功，不能只盯模型在基准测试里多拿了几分，也不能只看科技公司的收入、估值和数据中心规模。还得看普通人看病是不是更方便，教育是不是更公平，劳动者有没有新机会，以及那些因技术变化丢掉原有工作的人，能不能得到足够支持。

Hinton说：我们可能会发现，没有AI反而过得更好。

如果AI给世界造出更多财富，却让越来越多人失去过稳定日子的能力，那这种进步到底该怎么定义？这个问题，或许比AI何时超越人类智能更值得今天的社会认真回答。

原始资料：

《卫报》2026年11月3日：AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI，Robert Booth

《卫报》2026年10月13日：AI godfather Geoffrey Hinton: ‘We’re creating alien beings. I’m willing to be selfish and choose humans’，Leyland Cecco