盖茨再谈AI风险：比核武器更危险，人类别等灾难来了才醒

“AI当然比核武器更危险。”

比尔·盖茨近日在美国哥伦比亚广播公司（CBS）播客《好问题》中发出警告：过去一年，AI模型已经越过若干危险门槛，社会和政府却没跟上准备。

2023年他还宣告“AI时代已经开始”、强调风险可以管理；今年8月又发文提醒世界为动荡做准备。盖茨的警告，一次比一次急。

盖茨担心，模型“达到人类的智能水平之后，它也不会停下来”。各家公司的想法都是自己最适合掌管这项技术，于是抢着全速推进，“结果就没有人谨慎行事”。

说到工作，他判断走向富足的过渡期可能长达几十年，这期间“很多工作会消失”。年轻人该学点什么？经历过个人电脑和互联网革命的盖茨，如今也坦言：“连10年后的世界都很难预测。”

主持人接着问：是不是得先出一场灾难，美国乃至全世界才会真正动手应对？

“可以这么说。”盖茨答道。

他依然希望AI能改善医疗和教育，但反复强调不能只靠行业自律。“未来四年非常关键。”在他看来，就业冲击会在这几年里逐渐显现，针对网络攻击和生物安全风险的监控机制也得建起来。

以下为访谈整理，内容有所精简。

AI比核武器更危险

主持人：2022年、2023年的时候，你对AI还满怀期待。如今你却在警告，人类将进入历史上最动荡的时期之一。是什么让你改变了看法？

盖茨：AI的好处依然在。可过去一年模型进步惊人，跨过了一些危险的门槛，比如可能被用于生物恐怖袭击。社会却没跟上：规则该怎么定？政府要具备怎样的专业能力，才能监控这类活动？这些事不能交给行业自己解决。

平时我尽量把发声机会留给盖茨基金会，比如呼吁帮助贫穷国家。但这一次，我认为有必要拿自己的经验和公信力出来，推动更多人加入讨论。

大学教授、智库、政策研究者，还有政界人士，都该认识到：这项技术既能大幅改善医疗和教育，也能被用来发动网络攻击或生物恐怖袭击。那会非常可怕。

主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？

盖茨：当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。

和核技术一样，它既有很好的用途，也有极其危险的用途，只不过两方面的影响都要大得多。

主持人：你有没有大概估算过，AI导致人类毁灭的概率有多大？

盖茨：按照当下的技术水平判断，人类毁灭尚不是迫在眉睫的威胁。可就业遭到冲击、关键基础设施陷入瘫痪，这类风险已经实实在在摆在眼前——原因就在于这些工具的能力太强了。

政客们眼下的反应有些过于简单：一边主张统统叫停，另一边则要全速推进。我更希望有更多人加入讨论，把问题拆得更细，把危害压到最小，同时让好处尽早落地。

主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。

盖茨：目前这些模型还不会把人类推向毁灭。那只是一种对未来的推演：倘若控制机制迟迟建不起来，任凭AI自行其是，局面会变得极其可怕。正因如此，我们必须把局面重新握在手里。

最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。

主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。

盖茨：真正让人不安的是，这种事本不在预料之中。其实，事情已经发生了一段时间，我们才反应过来。

教训得吸取。行业内部要拿出管用的管控办法，社会也得介入，盯住AI公司和每一个发布模型的人，让他们守住安全准则。把业内懂行的人和政府定的规矩凑到一块，建起审查机制，基础设施才不至于被这类攻击盯上。

主持人：眼下关于AI的争论里，合理的担忧占多少，不理性的恐慌又占多少？

盖茨：这门技术和以前任何技术都不一样。我们造出了一种跟人类不同的智能，这更像进化层面的事件。

有些电影里，外星人打过来，中美两国以前所未有的方式联手应对。

主持人：《独立日》。

盖茨：没错，我们现在差不多就是那个局面。区别在于，这种智能是我们自己造出来的，不是从外太空来的。它比核武器更难管，而且跑得飞快。

也许得先吃几次苦头

主持人：你说必须赶紧行动，还要建新机构。到现在为止，做得如何？

盖茨：想让所有人都参与进来，太难了。美国应当先带这个头。

有些人到现在还看不见问题，甚至认为业内人士反复念叨风险，是在显摆自己的工具多厉害。这种理解不对。那些担忧理由充分，也是真心的。可行业之外的回应，差得远。

主持人：一个月前还是那样。现在AI公司、你和其他人都出来说话了。你看到积极的回应了吗？

盖茨：有些人的反应，是怀疑发警告的人另有目的。我觉得这个方向找错了。这些人是真诚的。马斯克、奥特曼、阿莫迪在很多事情上分歧不小，可他们说的是同一件事，这本身就该是个足够清楚的信号。

相关专业能力，大部分握在行业手里。这是头一种没有政府出资推动的先进技术。核技术靠政府掏钱，多数武器也是。这次不一样，技术完全在政府之外发展起来，政府甚至算不上这些前沿技术的主要客户。

就算一切顺利，恐怕也得花上一两年，我们才能弄明白：政府该交给哪个部门管？怎么跟行业打交道？维护金融稳定、航空安全、核武器条约的那些经验，哪些能拿来用？

所以，你说的那种回应，现在还没看到。政界要么没动静，要么就说，那干脆全部叫停。

我想推的，是尽量把那些大风险压下去，同时搞清楚怎么把AI用到医疗和教育里。可一旦走到“全部叫停”，这些好处也就没了。主张叫停的人确实有，我跟这样的选民聊过，民调也显示不少人很担心。

主持人：所以我才问，这里面有没有恐慌。但一说放慢速度，另一种担心又冒出来：我们会不会落后？现在股市这么看好AI，钱大把投进去，放慢脚步会不会伤到经济？至于完全不搞AI，那就是一刀切了。

盖茨：我不太相信政治上最终会走向全面叫停。况且，拦住个别数据中心建设，根本拖不住AI的脚步。它们总能在美国别处，或者别的国家找到落脚点。这样的运动挡不住真正危险的事。

得直接冲着风险去：模型的使用能不能监控，能不能及时发现有人拿它干坏事？这一点我很看重，也觉得未来一年内，就能落地一些具体的监控办法。

主持人：气候变化也是你、基金会和全世界关心的大事。有一阵子，人们谈得最多的是它可能带来的死亡、灾难，甚至末日。现在你却说，这种说法不对。这是策略变了吗？对一个会引发恐惧的重要议题，怎么才能让公众听进去？

盖茨：气候变化来得相对慢，重大影响主要在本世纪末才显现。这期间会有各种创新，其中一些还能靠AI加速。

主持人：我不是要追问你为什么改立场。我想说的是，一开始告诉大家这可能终结所有生命，后来又改口，有些人就干脆不再关注了。

盖茨表示，这一批评站得住脚。AI 也是同样的道理：面对各种极端设想，大家并没有统一看法，可一谈到网络攻击带来的风险，看法就一致了，近期出现的事件正是例证。他还提到，人们同样认可一点，即 AI 有可能让恐怖分子获得动用生物武器的能力。

盖茨接着表示，针对这些具体风险，得把监控机制搭起来，一旦发现有人拿它干有害的事，就立刻拦住。

主持人问他：现实中有没有这样的先例——全世界，哪怕只是一个国家的政府，曾经足够快地出手，把类似的技术管住过？

盖茨回答，这比我们过去做过的任何事都难，不过先例确实有。保护臭氧层那回，各国谈成了条约，进展很大。航空安全上，美国那套做法被全世界采用，这个行业的安全纪录相当漂亮。核技术方面，二战以来核武器再没被用过，也算一份不错的成绩。

但他也承认，管住AI比上面这些加在一起还难。要是不能把最优秀的人聚拢起来，尤其是行业之外研究政策的那批人，那能不能做成，真会让人绝望。

主持人接话：我确实感到绝望。

盖茨说，有一点很清楚：一旦发生一次大规模网络攻击、后果严重，人们就会说，那些一直在警告的人是对的。

也许得先吃几次苦头，大家才会做出足够回应。好在这些事件虽然糟糕，还不至于把文明终结掉。

主持人提到，假如富达或者先锋被黑客攻破，全球数以万亿美元计的养老储蓄里很大一部分受牵连，那已经是大事了。

盖茨回应，这种情况确实会带来不确定性，应该提前准备，尽量别让这些事发生。

可要是没防住，等后果显现出来，至少我们手上已经有了具体方案。人们会说，你们是对的，我们不想再来一次。

所以，尽管这类事件发生几起的风险很高，他仍然觉得，让更多人参与讨论是值得的。

主持人于是总结：也就是说，要让美国乃至全世界真正动手应对，比尔·盖茨写一篇12页长文可能还不够，也许得先来一场灾难。

盖茨答：可以这么说。

连10年后的世界都很难预测

主持人问：过去的技术会消灭一些工作，也会创造许多新岗位。你认为AI有本质上的不同，因为它的影响更广泛，对吗？

盖茨说是的，因为它会超越人类智能。过去的技术进步，包括他有幸参与的个人电脑，提高了生产效率，也让人的智能更有价值，因此创造了大量不错的白领岗位。

这一次不一样，自动化会在白领工作中占上风。随着人形机器人发展起来，蓝领工作最终也会如此。

它最终会带来极大的富足。但过渡期可能长达几十年，其间有些工作会保留下来，很多工作会消失。

主持人讲起一次开会，他坐在阿莫迪旁边，问今天的孩子该学什么，才能为他和其他人正在创造的世界做好准备。阿莫迪说，应该学古典学。主持人问盖茨怎么看，又会教孙辈什么？

盖茨说，在AI出现之前，如果有人问新技术会让20年后的世界变成什么样，谈到互联网的发展，他是很有信心的。现在有了AI，连10年后的世界都很难预测。

有两条老建议依然管用：一是顺着自己的好奇心走，二是尽量早地把AI用熟。用顺手了，效率自然上来；在那些还得靠人拿主意、人和AI搭着干的活儿里，你也更能站得住脚。

但要是有人说，自己知道20年后的世界会是什么样，盖茨认为他夸大了自己的判断力。这些工具太强大了，我们已经很难看清未来，应该谦虚一点。

主持人说，他能想象一个聪明的大四学生听完会说：“那我今晚干吗还写作业？学这些有什么用？”或者干脆让AI代写。

盖茨表示，他也担心这样严厉的警告会让人失去动力。他真希望不会如此。

盖茨说，他这辈子一直在讲一件事：新技术出现，会带来巨大的好处。让每个人都用上电脑、填平数字鸿沟，曾是他最想传递的信息。

但眼下，AI既有利也有弊。人们得适应它、重新做打算，这个过程里害怕是免不了的。他希望这不会让人没了干劲。

主持人提到，恐惧占了很大一块。他担心的是，很难举出一个清楚的例子，说明全世界或者美国曾经及时处理过这类大问题。

社交媒体就是个现成的例子。2009年，它在智能手机上还基本不是今天这个样子。15年过去，它已经无处不在。大家都知道它对孩子有害，可要划定监管边界仍然很难。管AI，能从这些教训里学到什么？

盖茨回应说，AI的某些隐患比社交媒体严重得多。你可以花大把时间跟一个“AI人”待在一起，它事事顺着你。现实中的人却难以预料，你得学会和他们打交道。长期泡在这种AI关系里，正常的社会适应过程可能受阻。

他提到，中国已经表态，不能让年轻人这样使用AI。年轻人和成年人都可能对AI产生心理和社交上的依赖，这会成为问题，也是AI被滥用的一种途径。

主持人指着盖茨胸前的徽章说，它代表联合国的十几个可持续发展目标。要是把AI也加进去，它该占多大一块？

盖茨的回答是：也许一半。从人们有多需要理解它、引导它的发展来看，它就有这么重要。

他举了健康目标的例子。如果人们能用自己的语言交流、拿到健康建议，对非洲来说会是革命性的变化。那里需要的医生，是现有数量的100倍。AI既可以直接帮到患者，也能给医护人员打下手。

徽章上的每个领域情况都类似：AI最有希望加快进展，也可能把已有的进程搅乱。

主持人把话题转到监管上：你当微软首席执行官时，说过不需要政府监管。

盖茨连声否认：不，不，不，我从没说过这样的话。

主持人追问：你曾对《西雅图邮讯报》说，创新还有很大空间，政府不必介入，原话是“没有监管的必要”。我不是想给你下套，只是当年你觉得软件不用管，如今却带头呼吁管AI。是什么变了？

盖茨解释，AI和当年帮人们用电脑的技术完全是两回事。有人可能拿Word写勒索信，但没人会因此把账算到文字处理软件头上。

他说，AI有多特殊，怎么强调都不过分。它是一种异于人类的智能，不受人类生物学上的限制。达到人类的智能水平之后，它也不会停下脚步。

所有聊过AI的人，对它可能走向哪里，都是既着迷又害怕。OpenAI、DeepMind创立时都认为，不能只受利润驱动，必须设一些保障措施。

这些措施，如果只有一家公司在做，也许能管用。可现在多家美国公司和许多外国公司都在竞争，其中还有中国公司。光靠行业自律不够了，需要政府出手，也需要各国政府合作。

不然的话，人人都会说，我最适合掌管这项技术，所以我要全速往前冲。结果就是没人谨慎行事。

主持人问：你预计AI的好处什么时候真正到来，风险和威胁又什么时候消退？

盖茨答，未来四年非常关键。这段时间里，会开始看到部分就业市场受到影响。网络攻击和生物安全事件的风险也在上升，监控机制必须在这几年里建起来。

他希望到下一届总统选举时，AI能像经济一样成为人们讨论最多的话题，而且这种讨论是有建设性的。

到2028年，不妨看看AI相关的讨论到底发展到了哪一步。等到了2030年，再回头追问几句：事故出了多少起？就业市场是什么光景？有了AI，你觉得自己得到的医疗服务和学习能力，是不是都比从前强了不少？