盖茨再谈AI风险：比核武器更危险，人类别等灾难来了才醒

“AI当然比核武器更危险。”

比尔·盖茨近日在美国哥伦比亚广播公司（CBS）的播客《好问题》中发出警告：过去一年，AI模型已经跨过一些危险门槛，社会和政府却还没做好准备。

2023年，他还宣告“AI时代已经开始”、强调风险可以管理；今年8月，他又发文提醒世界为动荡做准备。盖茨的警告正变得越来越急迫。

盖茨担心，达到人类的智能水平之后，它也不会停下来。各家公司都觉得自己最适合掌管这项技术，于是争着全速前进，“结果就没有人谨慎行事”。

聊到工作，他的判断是：这段走向富足的过渡期可能拉得很长，几十年都说不定，期间“很多工作会消失”。那年轻人该学点什么呢？这位亲历过个人电脑和互联网革命的人，眼下给出的回答是：“连10年后的世界都很难预测。”

主持人追问：是不是要先发生一场灾难，美国乃至全世界才会真正着手应对？

“可以这么说。”盖茨回答。

医疗和教育能被AI改好，他仍抱着这份期待；但他反复讲，光靠行业自己管自己不行。“未来四年非常关键。”按他的看法，就业方面的冲击会在这几年里一点点显出来，针对网络攻击和生物安全风险的监控机制也得在这段时间搭起来。

以下为访谈整理，内容有所精简。

AI比核武器更危险

主持人：2022年、2023年那会儿，你对AI还是满怀期待的。可如今你却在发出警告，说人类要进入历史上最动荡的时期之一。你的看法为什么变了？

盖茨：AI的好处并没有消失。问题是过去一年模型进步太猛，已经跨过了一些危险的门槛，比如被拿去搞生物恐怖袭击这种可能。社会这边却没跟上：规则该怎么定？政府要有多强的专业能力，才能盯住这类活动？这些事靠行业自己办不到。

平日里，发声的机会我尽量留给盖茨基金会，比如为贫穷国家呼吁。但这回不一样，我觉得该拿出自己的经验和公信力，让更多人加入这场讨论。

大学教授、智库、政策研究者，还有政界人士，都该看明白一件事：这项技术既能大幅改善医疗和教育，也可能被拿来发动网络攻击或生物恐怖袭击。真到那一步，会非常可怕。

主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？

盖茨：当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。

它和核技术一样，既有很好的用途，也有极其危险的用途，只是两方面的影响都要大得多。

主持人：你有没有粗略估算过，AI导致人类毁灭的概率有多大？

盖茨：就今天的技术水平而言，人类毁灭还不是眼下的风险。可就业受冲击、关键基础设施被搞瘫，这些已经是实打实的风险了，原因就在于这些工具太强大。

眼下有些政客的反应太简单：一拨人喊着全部叫停，另一拨人主张全速前进。我更希望有更多人参与讨论，把问题掰细了看，把危害压到最小，也让好处早点落地。

主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。

盖茨：现有模型还不足以让人类面临毁灭风险。那只是对未来的一种推演：要是控制机制建不起来，让AI自己乱跑，局面会变得非常可怕。所以，重新掌控局面是必须的。

最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。

主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。

盖茨：真正让人担心的地方在于，这种事此前没人料到会发生。其实我们也是过了一阵子才反应过来，它已经发生了。

教训得从这件事里吸取。行业内部要有一套管用的控制机制，社会也得参与进来，逼着搞AI的公司和发布模型的人守住安全准则。懂行的从业者和政府定下的规矩要拧到一起，把审查机制建起来，别让基础设施再挨这类攻击。

主持人：眼下关于AI的种种议论，哪些是合理的担心，哪些又是没来由的恐慌？

盖茨：这项技术和以前的技术都不一样。我们造出了一种非人类的智能，说它更像一次进化事件也不为过。

有些电影里演过这样的情节：外星人打过来，中美两国以前所未有的方式联手应对。

主持人：《独立日》。

盖茨：没错，我们现在差不多就是那个处境。区别在于，这种智能是我们自己造出来的，不是从外太空飞来的。它比核武器还难控制，而且发展速度极快。

也许得先吃几次苦头

主持人：你说我们必须赶快行动，还要建新的机构。到目前为止，这一步走得怎么样？

盖茨：要让所有人都参与进来，太难了。美国应该先带个头。

有些人到现在也没看到问题所在，甚至觉得业内人士反复念叨这些风险，是在显摆自己的工具有多强。这种理解不对。那些担忧是有充分依据的，也是真心实意的。可行业之外的回应，还差得远。

主持人：一个月前还是那样。现在AI公司、你和其他人都站出来说话了。你看到什么积极的回应了吗？

盖茨：有些人的反应，是怀疑发出警告的人另有所图。我觉得这是搞错了方向。这些人是真诚的。马斯克、奥特曼、阿莫迪在很多事情上意见不一致，可他们说的却是同一件事，这本身就该是一个足够清楚的信号。

相关的专业能力，大部分攥在行业手里。这是头一种没有政府掏钱推动的先进技术。核技术是政府资助的，大多数武器也是。可这回，技术发展完全在政府之外进行，政府甚至都算不上这些前沿技术的主要客户。

就算一切顺利，恐怕也得花上一两年，我们才能理清：政府该由哪个部门来管？怎么跟行业打交道？维护金融稳定、航空安全和核武器条约的那些经验，哪些能借鉴？

所以，你说的那种回应，目前还没看到。政界要么没反应，要么就说，那干脆全叫停。

我想推动的，是把那些巨大的风险尽量压下去，同时搞清楚怎么把AI用到医疗和教育里。可一旦走到“全部叫停”那一步，这些好处也就没了。主张叫停的人确实有，我跟这样的选民聊过，民调也显示很多人很担心。

主持人：所以我才问，这里面有没有恐慌。但一说到放慢速度，另一种担心又冒出来了：我们会不会落后？现在股市这么看好AI，大量资金投了进去，放慢脚步会不会伤到经济？至于完全不搞AI，那就是一刀切了。

盖茨：我不太认为，政治上最终会走到全面叫停。而且，拦住个别数据中心的建设，根本不会让AI慢下来。它们总能在美国别的地方，或者其他国家找到落脚点。这样的运动挡不住真正危险的事情。

我们需要直接处理风险：能不能监控模型的使用情况，及时发现有人拿它干有害的事？我很看重这一点，也认为未来一年内，就能落实一些具体的监控办法。

主持人：气候变化这件事，你、你的基金会乃至全球都在盯着。曾经有段时间，最热的讨论是它会不会带来死亡、灾难乃至世界末日。如今你的说法变了，认为那种讲法站不住脚。这算不算策略上的调整？面对一个足以激起恐惧的议题，怎么才能让公众真正听进去？

盖茨：气候变化相对来说比较缓慢，重大影响主要在本世纪末才会显现。在此期间，会有各种创新出现，其中一些还能借助AI加速。

主持人：我并非要追着你问立场为何转变。我想说的是，最初对外说这可能让所有生命走到尽头，之后又换了口径，于是有些人索性不再关心了。

盖茨：这个批评我接受。AI也是同样的情形，那些极端设想大家并没有一致看法，可对网络攻击的风险是有共识的，近期发生的事件就是例证。人们同样认可一点：AI或许会让恐怖分子获得使用生物武器的能力。

盖茨认为，针对这些具体风险得建立监控机制，一旦发现有害用途就及时叫停。

主持人追问：现实中可有过先例——不论全球范围还是单个国家政府，曾经足够迅速地出手，把类似技术管住？

盖茨的回答是，这比过去做过的任何事都难，但先例确实存在。保护臭氧层方面，各方达成条约，进展很大；航空安全上，美国那套做法被全球采用，行业安全纪录相当出色；核技术领域，二战以来核武器再未被使用，也算一份不错的纪录。

不过他承认，管住AI比上述几件事加在一起还难。若不能把最优秀的人才聚拢起来，尤其是行业之外的政策研究者，能否做到确实令人绝望。

主持人：我确实感到绝望。

盖茨说，有一点很清楚：一旦发生一次后果严重的大规模网络攻击，人们就会说，那些一直发出警告的人是对的。

也许得先吃几次苦头，才会做出足够回应。幸运的是，这类事件虽然糟糕，但还不至于终结文明。

主持人提到，假如富达或先锋遭到黑客攻击，全球数以万亿美元计的养老储蓄中很大一部分受波及，那就已经是大事。

盖茨回应，这种情况确实会造成不确定性，应该提前准备，尽力避免。

可万一没防住，等后果开始显现，至少已有具体方案在手。人们会说，你们是对的，我们不想再经历一次。

所以，尽管这类事件发生几起的风险很高，他仍认为让更多人参与讨论是值得的。

主持人总结：要让美国乃至全世界真正着手应对，一篇比尔·盖茨写的12页长文可能还不够，也许得先发生一场灾难。

盖茨：可以这么说。

连10年后的世界都很难预测

主持人问：过去的技术会消灭一些工作，也会创造许多新岗位。你认为AI有本质不同，因为它的影响更广泛，对吗？

盖茨说是的，因为它会超越人类智能。过去的技术进步，包括他有幸参与的个人电脑，提高了生产效率，也让人的智能更有价值，因此创造出大量不错的白领岗位。

这一次，自动化将在白领工作中占据优势；随着人形机器人发展起来，蓝领工作最终也会如此。

它最终会带来极大的富足。但过渡期可能长达几十年，其间有些工作会保留下来，很多工作会消失。

主持人回忆，有一次开会他坐在阿莫迪旁边，问今天的孩子该学什么，才能为阿莫迪和其他人正在创造的世界做好准备。对方说应该学古典学。他问盖茨怎么看，又会教孙辈什么。

盖茨说，在AI出现之前，若有人问新技术会让20年后的世界变成什么样，谈到互联网的发展，他很有信心。现在有了AI，连10年后的世界都很难预测。

还有几条老生常谈的建议依然成立：保持好奇心，尽量早一点把AI用熟，效率会明显提高；碰到那些还得靠人来拿主意、人和AI配合才能干完的活儿，你的优势也会更大。

但若有人说自己知道20年后的世界会是什么样，盖茨认为他夸大了自己的判断力。这些工具太强大，人们已经很难看清未来，应该谦虚一点。

主持人设想，一个聪明的大四学生听完会说：“那我今晚干吗还写作业？学这些有什么用？”或者干脆让AI代写。

盖茨表示，他也担心这样严厉的警告会让人失去动力，真希望不会如此。

让每个人都用上电脑、填平数字鸿沟，这曾是我最想传递的信息。我这一辈子都在讲一件事：新技术出现，会带来巨大的好处。

但如今AI不一样，好处和风险同时到来。我们得适应它、重新做打算，这个过程难免让人害怕。我希望大家不会因此失去动力。

主持人：恐惧确实占了很大一部分。我担心的是，很难找出一个明确的例子，说明全世界或者美国曾经及时应对过这类重大问题。

社交媒体就是现成的例子。2009年，它基本还没以今天这样的形态出现在智能手机上。15年过去，它已经无处不在。我们都知道它对孩子的危害，可监管划界依然很难推进。监管AI，能从这些失败里学到什么？

盖茨：AI的一些隐患比社交媒体严重得多。你可以花大量时间和一个“AI人”相处，它事事顺着你。可现实中的人难以预测，你得学会和他们打交道。长期泡在这种AI关系里，正常的社会适应过程可能受到妨碍。

中国方面已经表示，不能让年轻人这样使用AI。年轻人和成年人都可能对AI产生心理和社交上的依赖，这会成为我们面临的问题，也是AI被滥用的一种方式。

主持人：你胸前的徽章代表联合国十几个可持续发展目标。要是把AI也加进去，你觉得它会占多大一块？

盖茨：也许能占一半。从我们有多需要理解它、引导它的发展来看，它就有这么重要。

比如健康目标。人们如果能用自己的语言交流、拿到健康建议，对非洲来说将是革命性的变化。那里需要的医生数量，是现在的100倍。AI既能直接帮到患者，也能给医护人员搭把手。

徽章上每一个领域都是同样的局面：AI最有希望加快进展，也可能把我们已有的进程打乱。

主持人：我想聊聊监管。你当微软首席执行官的时候，说过不需要政府监管。

盖茨：不不不，我从没说过这种话。

主持人：你对《西雅图邮讯报》说过，创新还有很大空间，政府不必介入。原话是“没有监管的必要”。我不是想给你下套，只是当年你认为软件不需要监管，如今却在带头呼吁监管AI。是什么变了？

盖茨：AI和当年帮人们用电脑的那些技术，完全是两回事。有人可能拿Word写勒索信，但没人会因此把账算到文字处理软件头上。

AI的特殊之处，再怎么强调都不算多。它的智能跟人类不是一回事，也不受人类生物学条件的约束。即便智能水平追上了人，它也不会就此止步。

凡是聊过AI的人，一谈到它可能往哪儿走，都是既被吸引又心里发怵。OpenAI和DeepMind刚创办的时候都认定，不能光靠利润来驱动，必须配上一些保障措施。

假如做这件事的只有一家公司，那些措施或许能起作用。可眼下的情况是，美国有多家公司、国外也有不少公司在互相较劲，中国公司同样在其中。光靠行业自己管自己已经不够了，政府得出手，各国政府之间也得合作。

否则，每个人都会说，我最适合掌管这项技术，所以我要全速前进。结果就没有人谨慎行事。

主持人：你预计，AI的好处什么时候会真正到来，风险和威胁又什么时候会消退？

盖茨表示，接下来这四年极为关键。在这段时间里，部分就业市场会开始受到冲击，这一点会逐渐显现出来。同时，网络攻击和生物安全事件的风险一直在往上走，所以监控机制必须在这几年里建起来。

我希望到下一届总统选举时，AI会像经济一样，成为人们讨论最多的话题，而且这种讨论是有建设性的。

到2028年，可以看看围绕AI的讨论到底发展到了哪一步。再到2030年，不妨回头追问几件事：事故出了多少起？就业市场是什么状况？有了AI之后，你看病就医和学习新东西，是不是比过去强了太多？