盖茨再谈AI风险：比核武器更危险，呼吁提前建机制

“AI当然比核武器更危险。”

比尔·盖茨近日做客美国哥伦比亚广播公司（CBS）播客《好问题》，他在节目里发出警告：过去一年，AI模型已经跨过一些危险门槛，社会和政府却没准备好。

盖茨的态度在收紧。2023年他宣告“AI时代已经开始”，强调风险可以管理；今年8月他又发文提醒世界为动荡做准备。警告一次比一次急。

“达到人类的智能水平之后，它也不会停下来。”他担心的是，各家公司都觉得自己最适合掌管这项技术，争着全速前进，“结果就没有人谨慎行事”。

说到工作，他判断走向富足的过渡期可能持续几十年，这期间“很多工作会消失”。那年轻人该学什么？经历过个人电脑和互联网革命的盖茨如今也说：“连10年后的世界都很难预测。”

主持人追问：是不是要先发生一场灾难，美国乃至全世界才会真正动手应对？

“可以这么说。”盖茨答道。

他依然期待AI改善医疗和教育，但反复强调不能只靠行业自律。“未来四年非常关键。”在他看来，就业冲击会在这段时间逐渐显露，针对网络攻击和生物安全风险的监控机制也必须建起来。

以下为访谈整理，内容有所精简。

01

AI比核武器更危险

主持人：2022年、2023年，你对AI还满怀期待。现在你却在警告，人类将进入历史上最动荡的时期之一。是什么让你改变了看法？

盖茨：AI能带来的好处依然在。但过去一年模型进步惊人，跨过了一些危险的门槛，比如可能被用于生物恐怖袭击。社会反应却没跟上：规则该怎么定？政府怎样具备足够的专业能力去监控这类活动？这些事不能只靠行业自己。

过去我通常把公开发言的机会让给盖茨基金会，例如为贫困国家争取援助。这一回情况不同，我认为应该拿出自己的经验和公信力，让更多人加入这场讨论。

大学教授、智库、政策研究者，还有政界人士，都得认识到：这项技术能大幅改善医疗和教育，也能被用来发动网络攻击或生物恐怖袭击。那会非常可怕。

主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？

盖茨：当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。

和核技术一样，它既有很好的用途，也有极其危险的用途，只是两方面的影响都要大得多。

主持人：你有没有粗略估算过，AI导致人类毁灭的概率有多大？

盖茨表示，就当下技术水准而言，人类毁灭尚不构成迫在眉睫的危险。但就业遭受冲击、关键基础设施陷入瘫痪，这些已经成了实实在在的风险，原因就在于这些工具的能力太强。

眼下部分政客的应对过于草率：有人主张一律暂停，有人主张全速推进。他希望有更多人参与讨论，把问题拆得更细，把危害压到最低，同时让好处来得更快。

主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。

盖茨称，当前模型还不会把人类推向毁灭。那只是对将来的一种推演：假如控制机制迟迟建不起来，让AI随心所欲，后果会极其可怕。正因如此，局面必须重新回到我们手中。

最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。

主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。

盖茨说，真正让人不安的是，这种事此前谁都没料到；而且过了好一阵子，大家才反应过来它已经发生。他认为教训必须吸取：行业内部要建起管用的控制机制，社会也得介入，让AI公司和所有对外发布模型的一方都守住安全准则。把业内专业人才和政府制定的规则放在一起，做成审查机制，避免基础设施再遭到这类攻击。

主持人接着问：如今围绕AI的讨论里，哪些是合理的担心，哪些只是没来由的恐慌？

盖茨的回答是，这项技术和此前任何技术都不一样。人类造出了一种不同于自身的智能，在他看来，这更像一次进化层面的事件。

他提到一些电影里的情节：外星人打过来，中国和美国以从未有过的方式联手。主持人接话说，那是《独立日》。盖茨说，对，眼下人类所处的局面与此相似，区别在于这种智能是人类自己造出来的，不是从遥远的外太空来的。他还说，它比核武器更难控制，而且发展速度极快。

02

也许得先吃几次苦头

主持人问：你主张必须赶快行动，还要设立新的机构。到现在为止，应对得如何？

盖茨承认，要让所有人都参与进来，难度非常大。他认为美国应当先做出表率。

他说，有些人到现在都看不出问题所在，甚至以为业内人士反复讲这些风险，是在显摆自己的工具有多强。这种理解并不对。盖茨强调，这些担忧理由充分，也是真诚的；但行业之外的回应，还远远不够。

主持人提到，一个月前还是那样，现在AI公司、盖茨本人以及其他人都站出来说话了，问他有没有看到积极的回应。

盖茨说，有些人的反应是怀疑发出警告的人另有所图，他觉得这个方向找错了。这些人说的是真心话。马斯克、奥特曼、阿莫迪在很多事情上看法并不一致，可他们讲的是同一件事，这本身就该算一个足够清楚的信号。

他还指出，相关专业能力大多握在行业手里。这是第一种没有政府出资推动的先进技术。核技术由政府资助，大多数武器也是；可这回技术发展完全在政府之外发生，政府甚至都不是这些前沿技术的主要客户。

盖茨估计，即便一切顺利，大概也要一两年才能理清几件事：政府该由哪个部门负责，怎么和行业打交道，维护金融稳定、航空安全以及核武器条约的经验里有哪些可以借用。

所以，他说的那种回应目前还没出现。政界的反应要么是没有，要么就是一句“那就全部叫停”。

盖茨说，他想推动的是尽量把那些巨大风险压下去，同时弄明白怎么把AI用在医疗和教育上。一旦走到“全部叫停”，这些好处也就没了。主张叫停的人确实存在，他和这样的选民聊过，民调也显示不少人心存担忧。

主持人说，这正是他问其中有没有恐慌的原因。可一说到放慢速度，另一种担心又冒出来：会不会落后？眼下股市这么看好AI，大量资金投了进去，放慢脚步会不会伤到经济？至于完全不搞AI，那就成了一刀切。

盖茨表示，他不认为政治层面最终会走向全面叫停。而且，拦下个别数据中心的建设，根本不会让AI慢下来。它们总能在美国其他地方，或者别的国家找到落脚点。这样的运动挡不住真正危险的事情。

他的主张是直接处理风险：能不能监控模型的使用情况，及时发现有谁把它用于有害目的？盖茨说他很看重这一点，也认为未来一年之内，一些具体的监控办法就能落地。

主持人：气候变化

盖茨说，气候变化相对缓慢，重大影响主要会在本世纪末显现。在这期间会出现各种创新，其中一些还能靠AI加速。

主持人解释，他并不是要追问盖茨为什么改变立场。他想说的是，一开始告诉大家这可能会终结所有生命，后来又改了口，有些人就干脆不再关注了。

盖茨回应，这个批评有道理。他说AI也一样，人们对那些极端情景并没有共识，但对网络攻击的风险是有共识的，最近发生的事件就是例子。人们同样认同，AI可能让恐怖分子具备使用生物武器的能力。

盖茨认为，针对这些具体风险，得建起监控机制，一旦发现有害用途就及时叫停。

主持人追问：现实中是否存在先例——不管是全球范围还是单个国家政府，曾经足够迅速地出手，把类似技术管住？

盖茨回应，这比以往任何事都难，但先例并非没有。臭氧层保护上，各方达成条约，进展很大；航空安全上，美国的一套做法被全球采用，行业安全纪录相当亮眼；核技术方面，二战以来核武器再未投入使用，也算一份不错的成绩。

不过他坦言，管住AI比上述几件事加在一起还棘手。若不能把最顶尖的人才聚拢起来，尤其是行业之外的政策研究者，能否做到确实让人感到无望。

主持人：我确实感到绝望。

盖茨说，有一点很明确：一旦爆发一次后果严重的大规模网络攻击，人们就会说，那些长期发出警告的人是对的。

也许得先吃几次苦头，才会拿出足够的回应。好在这些事件虽然糟糕，却不至于让文明终结。

主持人提到，假如富达或先锋被黑客攻破，全球数以万亿美元计的养老储蓄中很大一部分受牵连，那已经是大事了。

盖茨承认，这种情况的确会带来不确定性，应当提前准备，尽力避免。

万一没能防住，等后果开始显现，至少具体方案已经摆在桌上。人们会说，你们是对的，我们不想再经历一次。

因此，尽管这类事件发生数起的风险很高，他仍认为让更多人参与讨论是值得的。

主持人：也就是说，要让美国乃至全世界真正动手应对，一篇

盖茨：可以这么说。

03

连10年后的世界都很难预测

主持人问：过去的技术会消灭一些工作，也会创造许多新岗位。你认为AI有本质不同，因为它的影响面更广，对吗？

盖茨答，是的，因为它会超越人类智能。过去的技术进步，包括他有幸参与的个人电脑，提升了生产效率，也让人的智能更值钱，于是催生大量不错的白领岗位。

这一次，自动化会在白领工作中占上风。等人形机器人发展起来，蓝领工作最终也难逃此路。

它最终会带来极大的富足。可过渡期可能长达几十年，其间有些工作会保留，很多工作会消失。

主持人回忆，有一次开会坐在阿莫迪旁边，问他今天的孩子该学什么，才能为他和其他人正在创造的世界做好准备。阿莫迪说，该学古典学。主持人问盖茨怎么看，又会教孙辈什么？

盖茨说，在AI出现之前，若有人问新技术会让20年后的世界变成什么样，谈到互联网的发展，他很有信心。现在有了AI，连10年后的世界都很难预测。

有几点老办法依然奏效：跟着好奇心走，趁早把AI用熟。效率会因此提高。碰上还得靠人拿主意、人和AI搭伙干的活，你也更能站得住脚。

但若有人说自己知道20年后的世界会是什么样，盖茨认为他夸大了自己的判断力。这些工具太强大，未来已经很难看清，人应该谦虚一点。

主持人设想，一个聪明的大四学生听完会说：“那我今晚干吗还写作业？学这些有什么用？”或者干脆让AI代写。

盖茨表示，他也担心这样严厉的警告会让人失去动力，真希望不会如此。

我这辈子一直在讲一件事：新技术出现，会带来巨大好处。让每个人都能用上电脑、填平数字鸿沟，曾是我最想传递的信息。

但今天，AI带来的不只是好处，也有风险。我们得去适应它、重新做打算，这个过程里难免有恐惧。我希望人们不要因此失去动力。

主持人：恐惧确实占了很大一部分。我担心的是，很难举出一个明确的例子，说明全世界或者美国曾经及时应对过这类重大问题。

社交媒体就是例子。2009年，它在智能手机上基本还没有今天这个样子。15年过去，它无处不在。我们知道它对孩子有害，可监管划界依然很难。监管AI，能从这些失败里学到什么？

盖茨：AI的一些隐患，比社交媒体严重得多。你可以花大量时间和一个“AI人”相处，它处处顺着你。可现实中的人难以预测，你得学会和他们打交道。长期沉浸在这种AI关系里，可能妨碍正常的社会适应过程。

中国已经表态，不能让年轻人这样使用AI。年轻人和成年人都可能对AI产生心理和社交依赖，这会成为我们面对的问题，也是AI被滥用的一种方式。

主持人：你胸前这枚徽章代表联合国的十几个可持续发展目标。如果把AI也放进去，你觉得它会占多大一块？

盖茨：也许一半。从我们有多需要理解它、引导它的发展来看，它就是这么重要。

比如健康目标。如果人们能用自己的语言交流、拿到健康建议，对非洲来说会是革命性的变化。那里需要的医生，是现有数量的100倍。AI既能直接帮到患者，也能辅助医护人员。

徽章上的每一个领域都是同样的情况：AI最有希望加快进展，也可能打乱我们已有的进程。

主持人：我想问问监管。你当微软首席执行官时，说过不需要政府监管。

盖茨：不，不，不，我从没说过这样的话。

主持人：你当年对《西雅图邮讯报》讲过，创新余地还很大，政府用不着插手，原话是“没有监管的必要”。我这么问不是要设套，只是那会儿你觉得软件不必管，现在却站出来带头呼吁监管AI，变的是什么？

盖茨：AI和当年帮人们使用电脑的技术，完全不同。有人可能用Word写勒索信，但没人会因此把责任归到文字处理软件头上。

AI特殊到什么程度，我怎么说都不算夸张。它是另一种智能，跟人不一样，不受人类生物学上的限制。到了人类的智能水平，它照样不会停。

凡是聊过AI的人，对它将往哪走，都是又着迷又害怕。OpenAI和DeepMind刚创立时都认定，不能光让利润牵着走，必须有一些保障措施。

这些措施，一家公司自己做，或许还管用。可眼下美国有多家公司、国外也有许多公司在竞争，中国公司也在其中。靠行业自律不够了，得政府出面，还得各国政府一起合作。

否则，每个人都会说，我最适合掌管这项技术，所以我要全速前进。结果就没有人谨慎行事。

主持人：你预计，AI的好处什么时候会真正到来，风险和威胁又什么时候会消退？

盖茨：接下来四年很关键。这段时间里，部分就业市场会开始受到冲击。网络攻击和生物安全事件的风险也在往上走，所以监控机制必须在这几年里建起来。

我希望到下一届总统选举时，AI会像经济一样，成为人们讨论最多的话题，而且这种讨论是有建设性的。

到2028年，可以看看关于AI的讨论到了什么水平。再到2030年，回头问几个问题：事故出了多少起？就业市场怎么样？有了AI，你觉得自己的医疗服务和学习能力是不是比过去好多了？