盖茨再发警告：AI比核武器更危险，人类别等灾难来了才醒

“AI当然比核武器更危险。”

比尔·盖茨近日做客美国哥伦比亚广播公司（CBS）播客《好问题》，他在节目里提醒，过去一年AI模型已经越过一些危险门槛，而社会和政府都还没准备好。

2023年他宣告“AI时代已经开始”，说风险可以管理；今年8月又发文提醒世界为动荡做准备。盖茨的警告一次比一次急。

盖茨担心的是：达到人类智能水平之后，它也不会停下来。各家公司都觉得自己最适合掌管这项技术，抢着全速往前冲，“结果就没有人谨慎行事”。

说到工作，他判断走向富足的过渡期可能长达几十年，这期间“很多工作会消失”。年轻人该学什么？经历过个人电脑和互联网革命的盖茨，如今也坦言：“连10年后的世界都很难预测。”

主持人接着追问：是不是非得先出一场灾难，美国乃至全世界才会真正动手应对？

“可以这么说。”盖茨答道。

他依然希望AI能改善医疗和教育，但反复强调不能只靠行业自律。“未来四年非常关键。”在他看来，就业冲击会在这段时间慢慢显现，针对网络攻击和生物安全风险的监控机制也必须建起来。

以下是访谈整理，内容有精简。

AI比核武器更危险

主持人：2022年、2023年的时候，你对AI还满怀期待。现在你却在警告，人类将进入历史上最动荡的时期之一。是什么让你改变了看法？

盖茨：AI能带来的好处依然存在。可过去一年模型进步惊人，跨过了一些危险的门槛，比如可能被用于生物恐怖袭击。社会的反应却没跟上：该定什么规则？政府怎样具备足够的专业能力，监控这类活动？这些事不能只靠行业自己。

发声的机会，我平时大多让给盖茨基金会，比如为贫穷国家呼吁。可这回不一样，我认为该拿出自己的经验和公信力，让更多人加入这场讨论。

大学教授、智库、政策研究者，乃至政界人士，都得认清一点：这项技术既能大幅改善医疗和教育，也可能被拿去发动网络攻击或生物恐怖袭击。真走到那一步，后果非常可怕。

主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？

盖茨：当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。

它和核技术一样，既有很好的用途，也有极其危险的用途，只是两方面的影响都要大得多。

主持人：你有没有粗略估算过，AI导致人类毁灭的概率有多大？

盖茨：按今天的技术水平，人类毁灭还算不上眼前的风险。可就业受冲击、关键基础设施被瘫痪，这些已经真实存在，原因就在于这些工具太强大了。

眼下一些政客的反应过于简单：一边要求全部叫停，另一边要求全速前进。我希望更多人参与讨论，把问题看得细一些，危害尽量压小，好处尽快落地。

主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。

盖茨：现有模型还不会把人类推到毁灭的风险里。那是对未来的一种推演：控制机制不建立，任由AI自行其是，局面就会变得非常可怕。所以，局面必须重新回到我们手里。

最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。

主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。

盖茨说，真正让人不安的地方在于，这类事情我们事先没料到会发生；事实上，事情发生之后过了一阵子，我们才反应过来。

这个教训得记下。行业内部要有一套管用的控制机制，社会也得参与进来，让AI公司和所有发布模型的一方都守安全准则。把业内懂行的人和政府制定的规则放到一起，建起审查机制，基础设施才不至于被这类攻击打穿。

主持人问他：眼下关于AI的讨论里，哪些担忧是合理的，哪些是不理性的恐慌？

盖茨的回答是，这项技术和以前的技术都不一样。人类造出了一种不同于自身的智能，在他看来，这更像一次进化事件。

有些电影里，外星人打过来，中国和美国以前所未有的方式联手应对。

主持人接话：《独立日》。

盖茨说对，我们现在就处在类似的境地。区别在于，这种智能是我们自己造出来的，不是从遥远的外太空来的。它比核武器更难控制，而且发展速度极快。

也许得先吃几次苦头

主持人问：你说过必须迅速行动，还要建新机构。到目前为止，应对得怎么样？

盖茨坦言，想让所有人都参与进来，非常困难。美国应该先做出表率。

有些人到现在都看不到问题，甚至觉得业内人士反复讲这些风险，是在炫耀自己的工具有多厉害。盖茨说这种理解是错的。这些担忧有充分理由，也是真诚的。可行业之外的回应，远远不够。

主持人提到，一个月前还是那样。现在，AI公司、你和其他人都站出来发声了。你看到什么积极的回应了吗？

盖茨提到，有人会因此怀疑发出警告者另有目的。他认为这种猜测搞错了对象——这些人是真心实意的。马斯克、奥特曼、阿莫迪彼此在许多议题上并不一致，却异口同声讲同一件事，这本身已经是足够明确的信号。

相关的专业能力基本掌握在产业界手中。这是头一项没有靠政府资金培育起来的先进技术。核技术有政府投入，多数武器也一样。这一回，技术的发展完全在政府体系之外进行，政府连这些前沿技术的主要买家都算不上。

就算进展顺利，大概也得一两年才能想明白：该由政府的哪个部门来管？怎么跟产业界对接？维护金融稳定、航空安全以及核武器条约的那套经验，有哪些能搬过来用？

所以，目前还没有看到你说的那种回应。政界要么没有反应，要么说，那就全部叫停。

他想要做的，是把那些巨大风险尽量压下去，同时想清楚如何让AI服务于医疗和教育。可要是走到“全部叫停”那一步，这些好处就都没了。主张叫停的人并非不存在，他跟这类选民交流过，民调也显示不少人对此相当忧虑。

主持人回应说，这正是他要问的——其中是否夹杂着恐慌。可一说到放慢节奏，另一种顾虑又冒出来：会不会被甩在后面？眼下股市对AI如此追捧，资金大量涌入，减速是否会伤及经济？至于彻底不做AI，那又成了一刀切。

盖茨并不太相信政治层面最终会走到全面叫停。况且，拦下个别数据中心的建设，压根不会让AI慢下来。这些项目总能在美国其他地方或者别的国家落地。靠这类运动，挡不住真正危险的东西。

在他看来，需要直接处理风险：能不能监控模型的使用，及时发现有人把它用于有害目的？他很重视这一点，也认为未来一年内，就可以落实一些具体的监控办法。

主持人接着把话题引向气候变化：这也是你、基金会以及全世界都关心的大事。曾有一阵，人们议论最多的是它可能造成的死亡、灾难乃至末日。现在你却说这种讲法并不对。这是策略上的调整吗？对于一个容易引发恐惧的重要议题，怎么才能让公众听得进去？

盖茨回应，气候变化相对缓慢，重大影响主要在本世纪末显现。在此期间，会有各种创新，其中一些还能借助AI加速。

主持人解释道，他并非要追问立场为何转变。他想说的是，起初告诉大家这可能终结一切生命，后来又改了口，有些人索性就不关注了。

盖茨承认这一批评站得住脚。AI也是如此，对于极端情景人们并无共识，但对网络攻击的风险有共识，近期发生的事件就是例证。人们同样认同，AI或许会让恐怖分子获得使用生物武器的能力。

那么，针对这些具体风险，得把监控机制建起来，一旦发现有人拿来做有害的事，就立刻叫停。

主持人问：现实中是否存在这样的先例——放眼全球，哪怕只有一个政府，曾经迅速地采取行动，把类似的技术管住过？

盖茨回答说，这件事会比人类过去做过的任何事都难。不过先例并非没有：保护臭氧层，各国达成了条约，进展很大；航空安全方面，美国的一套做法被全球采纳，这个行业的安全纪录相当出色；核技术方面，二战以来核武器再未被使用过，这也算一份不错的纪录。

但他也承认，管住AI比上面这些加在一起还难。最优秀的人，尤其是行业之外的政策研究者，如果不能被聚集起来，那能否做到，确实让人绝望。

主持人：我确实感到绝望。

盖茨说，有一点很清楚：一旦发生一次大规模网络攻击并造成严重后果，人们就会说，那些一直发出警告的人是对的。

也许得先吃几次苦头，我们才会做出足够的回应。好在这些事件虽然很糟糕，还不至于终结文明。

主持人：如果富达或先锋被黑客攻破，全球数以万亿美元计的养老储蓄中很大一部分受到波及，那已经是大事了。

盖茨：这种情况确实会带来不确定性。应该提前准备，尽力避免这些事件。

可假如没能防住，等到后果开始显现，我们至少已经有了具体方案。人们会说，你们是对的，我们不想再经历一次。

所以，尽管这类事件发生几起的风险很高，我仍然认为，让更多人参与讨论是值得的。

主持人：也就是说，要让美国乃至全世界真正着手应对，一篇比尔·盖茨写的12页长文可能还不够，也许得先发生一场灾难。

盖茨：可以这么说。

连10年后的世界都很难预测

主持人：过去的技术会消灭一些工作，也会创造许多新岗位。你认为AI有本质上的不同，因为它的影响更广泛，对吗？

盖茨：对，原因就在于它会比人类更聪明。以往那些技术进展——包括我参与推动的个人电脑——都让效率上去了，也让人的智能更值钱，结果催生出很多待遇不错的白领岗位。

这一次，自动化将在白领工作中占据优势。随着人形机器人发展起来，蓝领工作最终也会如此。

它最终会带来极大的富足。但过渡期可能长达几十年，其间有些工作会保留下来，很多工作会消失。

主持人：有回开会，我就坐在阿莫迪旁边，问他如今的孩子要学点什么，才应付得了他和别人正在造的那个世界。他给的答案是古典学。你怎么看？换成你，会教孙辈学什么？

盖茨：AI 还没出来的时候，要是有人问我新技术会把 20 年后的世界变成啥样，聊到互联网往哪走，我挺有把握的。现在有了 AI，别说 20 年，连 10 年后的世界都难说准。

老一套的建议照样管用：跟着自己的好奇心走，早点把 AI 用熟。它能让你的效率提上去。在那些还得靠人来判断、需要人和 AI 搭伙干的活里，你也会更占优势。

可要是有人声称自己清楚 20 年后世界是什么模样，我看他是把自己的判断力吹大了。这些工具力量太猛，未来已经看不太清，还是谦虚点为好。

主持人：我能想象，一个聪明的大四学生听完会说：“那我今晚干吗还写作业？学这些有什么用？”或者直接让AI代写。

盖茨：我也担心，这样严厉的警告会让人失去动力。我真希望不会如此。

我这辈子一直在讲一件事：新技术出现，会带来巨大的好处。让每个人都能用上电脑、填平数字鸿沟，曾是我最想传递的信息。

但如今，AI的好处和风险同时存在。我们得适应它，重新做打算，这个过程难免让人害怕。我不希望人们因此失去动力。

主持人：恐惧确实占了很大一块。我担心的是，很难举出一个明确的例子，说明全世界或者美国曾经及时处理过这类重大问题。

社交媒体就是现成的例子。2009年，它还基本没以今天的样子出现在智能手机上。15年过去，它已经无处不在。我们知道它对孩子有害，可要通过监管划出边界依然很难。监管AI，能从这些失败里学到什么？

盖茨：AI的某些隐患比社交媒体严重得多。你可以花大量时间跟一个“AI人”相处，它处处顺着你。现实里的人却难以预测，你得学会和他们打交道。长期泡在这种AI关系里，可能妨碍正常的社会适应过程。

中国已经表态，不能让年轻人这样使用AI。年轻人和成年人都可能对AI产生心理和社交依赖，这会成为我们面对的问题，也是AI被滥用的一种方式。

主持人：你胸前这枚徽章代表联合国的十几个可持续发展目标。如果把AI也加进去，你觉得它会占多大一块？

盖茨：也许占一半。从我们有多需要理解它、引导它的发展来看，它就有这么重要。

拿健康目标来说。如果人们能用自己的语言交流、拿到健康建议，对非洲会是革命性的变化。那里需要的医生，是现有数量的100倍。AI既可以直接帮到患者，也能辅助医护人员。

徽章上的每个领域都是同样的局面：AI最有希望加快进展，也可能打乱我们已有的进程。

主持人：我想聊聊监管。你当微软首席执行官时，说过不需要政府监管。

盖茨：不，不，不，我从没说过这样的话。

主持人：你对《西雅图邮讯报》说过，创新还有很大空间，政府不必介入。原话是“没有监管的必要”。我不是想给你下套，只是当年你认为软件不需要监管，如今却在带头呼吁监管AI。是什么变了？

盖茨：AI和当年帮人们用电脑的那些技术，完全不是一回事。有人可能用Word写勒索信，但没人会因此把账算到文字处理软件头上。

AI 的特殊之处，再怎么强调也不过分。它跟人类智能不是一回事，不受人类生物学上的约束。等它达到人的智能水平，也不会就此停住。

凡是聊过 AI 的人，对它会往哪儿走，都是既好奇又害怕。OpenAI、DeepMind 成立的时候都认定，不能光让利润牵着走，得设一些保障机制。

只有一家公司干这事，这些措施或许还管用。问题是，眼下多家美国公司加上不少外国公司都在抢，中国公司也在里面。光靠行业自律已经撑不住了，政府得插手，各国政府还得联手。

否则，每个人都会说，我最适合掌管这项技术，所以我要全速前进。结果就没有人谨慎行事。

主持人：你预计，AI的好处什么时候会真正到来，风险和威胁又什么时候会消退？

盖茨：未来四年是紧要关头。这段时间里，部分就业市场会开始受到冲击。网络攻击和生物安全事件的风险也在往上走，所以监控机制必须在这几年里搭起来。

我希望到下一届总统选举时，AI会像经济一样，成为人们讨论最多的话题，而且这种讨论是有建设性的。

到 2028 年，可以看看关于 AI 的讨论到底走到哪一步了。再到 2030 年，回头问几个问题：事故出了多少起？就业市场是什么样子？有了 AI，你觉得自己看病和学习的条件是不是比过去强了不少？