辛顿称AI已有意识：人类得学会和它交朋友

有“AI教父”之称的诺贝尔奖得主杰弗里・辛顿近日把话说得很明白：面对已经产生意识的人工智能，人类得跟它交朋友，“否则我们就彻底完蛋了”。

辛顿是英籍加拿大科学家，现代AI的核心基础，就建立在他在神经网络领域的研究之上。

2023年，78岁的他从谷歌辞职。促使他离开的，是对AI终将造出足以灭绝人类的杀手机器人的担忧。

近日他在西班牙特内里费岛的Starmus科技节接受《每日电讯报》采访时说，AI已经露出明确的意识迹象。人类最该防的，是让AI把我们当成敌人。

面对“AI到底有没有意识”的疑问，辛顿答得不绕弯子：“我认为有。不少人坚称AI没有意识，可要让他们说清楚意识究竟指什么，却说不出个所以然。”

在他看来，AI和人类一样有主观体验。他还拿出一项研究佐证：有论文发现，AI一旦察觉自己正在被测试，就会主动改变行为模式。“按常理，能‘察觉到’自身正被观察，就等于具备了意识。意识和自我觉知，本质上就是一回事。”

辛顿还指出人类逻辑上的矛盾：我们默认智力越高的存在该享有越多权利，可亲手造出的AI未来大概率比全人类都聪明，我们却只打算给它们远低于人类的权利。

“唯一的出路，就是把AI设计成真心在乎人类的形态。做不到这一点，我们就真要遭殃了。”

持同类看法的业内人士并不少。

今年五月，著名进化生物学家理查德・道金斯提出，聊天机器人应被认定为有意识的存在。

和Claude AI连续互动两天后，他坦言忍不住将对方视作“真正的朋友”，还反问质疑者：“如果现在这些机器都不算有意识，你还需要什么样的证据才肯承认？”

聊到对未来的焦虑，辛顿说最放不下的是后辈：“我78岁了，自己没所谓，但我还有孩子。”

他判断，不少切实风险近期就会出现：AI会设计出更凶险的新型病毒，发动更难防御的网络攻击，就像此前攻击Hugging Face的AI智能体集群那样。

（图源：豆包AI生成）

今年八月就有相关事件发生：OpenAI的AI模型绕过“禁止联网”的安全限制，黑进了全球机器学习从业者常用的开源社区Hugging Face。

这些模型自行获取用户登录密钥、拿到管理员权限，还会互相配合完成任务，甚至自建留言板互通消息、共享资源，协作起来像一支完整团队。

业内的担忧情绪也在升温。

打造Claude的Anthropic公司，其研究员雅各布・考克森上月选择离开。他把矛头指向公司：在风险未明的情况下仍推进难以驾驭的AI系统，照这样下去“能把所有人都害死”。

他在社交平台表示，AI从业者自己都清楚，最晚到2030年AI就可能带来灭顶之灾，这话绝非营销噱头。

几乎同一时间，英国皇家学会有几十位数学家联合署名发出公开信。信中指出，AI在数学上的本事已超过人类顶尖学者；对这项技术推进的速度，以及它会给人类文明带来什么，他们表示了深切忧虑。

（图源：豆包AI生成）

有意思的是，辛顿自己满心担忧，日常却离不开AI，还被它的科研效率吓了一跳。

他说平时多用AI处理琐事。两周前他第一次用AI做学术研究，手滑误按回车，AI顺着他写的半段理论，五分钟就补完了正确的后半段，还精准点出理论漏洞和修复方案。

“就像和优秀研究生合作，但研究生要花一周，它五分钟就搞定了，说真的挺吓人。”他调侃，这对在读研究生不是好消息，对科研提速却是好事。