盖茨再警告：AI风险超核武，人类应对准备不足

“AI当然比核武器更危险。”

比尔·盖茨近日做客美国哥伦比亚广播公司（CBS）播客《好问题》时发出警告：过去一年，AI模型已经跨过若干危险门槛，而社会和政府尚未做好应对准备。

2023年他宣告“AI时代已经开始”，并强调风险可以管理；到今年8月，他又发文提醒世界为动荡做准备。盖茨的警告一次比一次急迫。

“达到人类的智能水平之后，它也不会停下来。”盖茨的担忧在于，各家公司都认为自己是掌管这项技术的最佳人选，因而争相全速推进，“结果就没有人谨慎行事”。

说到工作，他判断走向富足的过渡期或许会持续几十年，这期间“很多工作会消失”。年轻人该学点什么？这位经历过个人电脑和互联网革命的人，如今也坦言：“连10年后的世界都很难预测。”

主持人接着追问：是不是非得先出一场灾难，美国乃至全球才会真正动手应对？

“可以这么说。”盖茨答道。

对AI改善医疗和教育，他依然抱有期待，但反复强调行业自律靠不住。“未来四年非常关键。”在盖茨看来，就业冲击会在这段时间里逐步显现，针对网络攻击和生物安全风险的监控机制也必须同步建起来。

以下是访谈整理，内容有所精简。

AI比核武器更危险

主持人：2022年、2023年的时候，你对AI还满怀期待。如今你却在警告，人类将迎来历史上最动荡的时期之一。是什么让你改变了看法？

盖茨：AI的好处依然摆在那里。可过去一年模型进步惊人，跨过了一些危险的门槛，比如可能被用于生物恐怖袭击。社会却没跟上：规则该怎么定？政府要具备怎样的专业能力，才能监控这类活动？这些事不能只靠行业自己。

平时我尽量把发声机会留给盖茨基金会，比如呼吁帮助贫穷国家。但这次，我认为有必要借助自己的经验和公信力，推动更多人参与讨论。

大学教授、智库、政策研究者，还有政界人士，都该认识到：这项技术既能大幅改善医疗和教育，也能被用来发动网络攻击或生物恐怖袭击。那会非常可怕。

主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？

盖茨：当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。

和核技术一样，它既有很好的用途，也有极其危险的用途，只是两方面的影响都要大得多。

主持人：你有没有粗略估算过，AI导致人类毁灭的概率有多大？

盖茨表示，人类毁灭眼下还谈不上，以现有技术看并不是迫在眉睫的威胁。可就业受冲击、关键基础设施陷于瘫痪，这些已经实实在在发生了——原因就在于这些工具强大得过头。

政客们当下的反应，有些过于简单：一边嚷着全部叫停，另一边催着全速推进。他更希望有更多人加入讨论，把问题掰开来看得更细，把危害压到最低，也让好处早点落地。

主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。

盖茨认为，当前这些模型尚不足以把人类推向毁灭。那更像是对将来的一种推演：倘若控制机制迟迟不建，任凭AI自行其是，局面会变得极其可怕。说到底，得把主导权重新拿回来。

最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。

主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。

盖茨表示，真正让人担心的是，这类事情此前根本不在预料之中。事实上，大家过了好一阵才反应过来它已经发生了。

在他看来，这件事应当带来教训。行业内部得把有效的管控机制建起来，社会同样要介入，督促AI企业以及所有发布模型的一方守住安全准则。把业内懂行的人和政府定的规矩凑到一起，形成审查机制，避免基础设施再遭到这类攻击。

主持人问：眼下关于AI的讨论里，哪些担忧是站得住脚的，哪些又属于没来由的恐慌？

盖茨回答，这项技术和过去任何技术都不一样。人类造出了一种不同于自身的智能，它更像一场进化层面的事件。

他提到有些电影里的情节：外星人打过来，中美两国以前所未有的方式携起手来。

主持人接话：《独立日》。

盖茨说对，眼下就类似这种情况。区别在于，这种智能是人类自己造出来的，不是从遥远的外太空来的。它比核武器还难控制，而且发展速度极快。

也许得先吃几次苦头。

主持人问：你讲我们必须尽快行动，还要设立新机构。到目前为止，应对得如何？

盖茨承认，要让所有人都参与进来，难度非常大。他认为美国应当先做出表率。

有些人到现在都看不到问题所在，甚至觉得业内人士老讲这些风险，是在显摆自己的工具多厉害。盖茨说这种理解不对。这些担忧理由充分，也是发自真心的。可行业之外的回应，远远不够。

主持人说：一个月前还是那样。现在AI公司、你和其他人都站出来说话了。你看到什么积极的回应了吗？

盖茨提到，有些人的反应是怀疑发出警告的人另有所图。他认为这找错了方向，这些人是真诚的。马斯克、奥特曼、阿莫迪在很多事情上看法不一，可他们讲的是同一件事，这本身就该是个足够清楚的信号。

相关的专业能力，大多握在行业手里。盖茨指出，这是第一种没有政府出资推动的先进技术。核技术靠政府资助，大多数武器也是。但这次，技术发展完全发生在政府之外，政府甚至算不上这些前沿技术的主要客户。

就算一切顺利，恐怕也得花上一两年，才能理清几件事：政府该由哪个部门来管？怎么和行业打交道？维护金融稳定、航空安全以及核武器条约的经验，哪些能借鉴？

所以，目前还没看到前面说的那种回应。政界的表现，要么是没反应，要么就是一句“全部叫停”。

盖茨说，他想推动的是尽量压低那些巨大风险，同时搞清怎么把AI用在医疗和教育上。可一旦走到“全部叫停”那一步，这些好处也就没了。主张叫停的人确实存在，他和这样的选民聊过，民调也显示不少人很担心。

主持人说：所以我才问里面有没有恐慌。可一谈到放慢速度，另一种担忧又冒出来：我们会不会落后？现在股市这么看好AI，大量资金投了进去，放慢脚步会不会伤到经济？至于完全不搞AI，那就是一刀切了。

盖茨不太认为政治上最终会走向全面叫停。他还说，阻止个别数据中心建设，根本不会让AI慢下来。它们总能在美国其他地方，或者别的国家找到落脚点。这样的运动挡不住真正危险的事情。

他认为需要直接处理风险：能不能监控模型的使用，及时发现有人拿它干有害的事？盖茨很看重这一点，也觉得未来一年内就能落实一些具体的监控办法。

气候变化同样是盖茨、基金会以及全球都在紧盯的议题，主持人也提到了这一点。过去一阵子，被讨论最多的往往是它可能造成的死亡、灾难乃至末日景象。可盖茨如今表示，这种讲法并不正确。这算不算策略上的调整？面对一个足以激起恐惧的重要话题，公众怎么才听得进去？

盖茨回答，气候变化相对缓慢，重大影响主要在本世纪末显现。这期间会有各种创新，其中一些还能靠AI加速。

主持人表示：我并非要追问你为何改弦更张。我想说的只是，起初对外宣称这或许会终结所有生命，后来又说不是，有些人便索性不再关心了。

盖茨认为这一批评有道理。AI也是同样情形：对极端情景，大家没有共识；但对网络攻击的风险，人们是有共识的，近期发生的事件就是例证。另外，人们也同意，AI或许会让恐怖分子获得使用生物武器的能力。

所以，针对这些具体风险得建起监控机制，一旦发现有害用途就及时叫停。

主持人问：现实里有没有这样的例子——全世界，或者哪怕只有一个国家的政府，曾经足够快地出手，把类似的技术管住过？

盖茨回答说，这比我们过去做过的任何事都难。不过先例是有的：保护臭氧层，我们签了条约，进展很大；航空安全上，美国那套做法被全球采用，这个行业的安全纪录相当出色；核技术方面，二战以来核武器再没被使用过，这也算不错的纪录。

但他也承认，管住AI比这些事加在一起还难。要是不能把最优秀的人聚起来，特别是行业之外的政策研究者，那确实会让人对能不能做到感到绝望。

主持人：我确实感到绝望。

盖茨说，有一点很清楚：一旦发生一次后果严重的大规模网络攻击，人们就会说，那些一直发出警告的人是对的。

也许得先吃几次苦头，我们才会做出足够的回应。幸运的是，这类事件虽然很糟，但还不至于终结文明。

主持人接话：如果富达或者先锋被黑客攻破，全球数以万亿美元计的养老储蓄里很大一部分受到波及，那已经是大事了。

盖茨认为，这种情况确实会带来不确定性，应该提前准备，尽力避免这类事件。

可假如没能防住，等到后果开始显现，我们至少已经有了具体方案。人们会说，你们是对的，我们不想再经历一次。

所以，尽管这类事件发生几起的风险很高，他仍然认为，让更多人参与讨论是值得的。

主持人追问：也就是说，要让美国乃至全世界真正动手应对，一篇比尔·盖茨写的12页长文可能还不够，也许得先来一场灾难？

盖茨：可以这么说。

连10年后的世界都很难预测。

主持人问：过去的技术会消灭一些工作，也会创造许多新岗位。你觉得AI有本质上的不同，因为它的影响更广泛，对吗？

盖茨说是的，因为它会超越人类智能。过去的技术进步，包括他有幸参与的个人电脑，提高了生产效率，也让人的智能更有价值，因此创造了大量不错的白领岗位。

这一次，自动化将在白领工作中占据优势。随着人形机器人发展起来，蓝领工作最终也会如此。

它最终会带来极大的富足。但过渡期可能长达几十年，其间有些工作会保留下来，很多工作会消失。

主持人提到，有一次开会他坐在阿莫迪旁边，问他今天的孩子该学什么，才能为他和其他人正在创造的世界做好准备。阿莫迪说，应该学古典学。主持人问盖茨怎么看，会教孙辈什么。

盖茨说，在AI出现之前，如果有人问新技术会让20年后的世界变成什么样，谈到互联网的发展，他是很有信心的。现在有了AI，连10年后的世界都很难预测。

老话依然管用：好奇心别丢，AI 也得趁早用熟。这东西能提高效率；碰上还得靠人拿主意、人机一起干的活儿，你的优势也更明显。

但要是有人说，自己知道20年后的世界会是什么样，他认为对方夸大了自己的判断力。这些工具太强大了，我们已经很难看清未来，应该谦虚一点。

主持人说，他能想象一个聪明的大四学生听完会说：“那我今晚干吗还写作业？学这些有什么用？”或者干脆让AI代写。

盖茨：我也担心，这样严厉的警告会让人失去动力。我真希望不会如此。

让每个人都用上电脑、把数字鸿沟填平，曾是我最想传递的信息。这一辈子我都在讲一件事：新技术来了，会带来很大的好处。

但眼下AI不一样，好处和风险同时存在。我们得适应它，重新做打算，这个过程难免伴随恐惧。我希望人们不会因此丧失动力。

主持人：恐惧占了很大一部分。我担心的是，很难找到一个明确的例子，证明全世界或美国曾经及时应对过这样的重大问题。

拿社交媒体来说。2009年那会儿，它在智能手机上几乎还不是今天这副样子。15年过去，它已经铺得到处都是。明知道它对小孩不好，监管要划条线却还是很难。管AI这件事，能从这些栽过跟头的地方学到什么？

盖茨：AI有些风险比社交媒体大得多。跟一个“AI人”待在一起，时间可以大把大把花进去，它还事事顺着你。现实里的人不一样，猜不透，你得学着跟他们打交道。长期泡在这种AI关系里，正常的社会适应恐怕会受影响。

中国方面已经表态，年轻人不能这样用AI。不管是年轻人还是成年人，都可能对AI在心理和社交上形成依赖。这会变成我们要面对的问题，也算是AI被滥用的一种路子。

主持人：你胸前的徽章代表联合国的十几个可持续发展目标。如果把AI也放进去，你觉得它会占多大一块？

盖茨：也许是一半。从我们有多需要理解它、引导它的发展来看，它就是这么重要。

健康目标就是一例。要是人们能用自己的话交流、拿到健康方面的建议，对非洲会是翻天覆地的变化。那边缺的医生，是现在人数的100倍。AI一边能直接帮到病人，一边也能给医护人员搭把手。

徽章上的每一个领域都面临同样的情况：AI最有希望加快进展，也可能打乱我们已有的进程。

主持人：我想问问监管。你担任微软首席执行官时，曾说过不需要政府监管。

盖茨：不，不，不，我从没说过这样的话。

主持人：你当年对《西雅图邮讯报》讲过，创新余地还很大，政府不用插手。原话是“没有监管的必要”。这不是要给你挖坑，只是那时候你觉得软件不用管，现在你却走在前面呼吁监管AI。到底什么变了？

盖茨：AI和当年帮助人们使用电脑的技术，完全不同。有人可能用Word写勒索信，但没人会因此把责任归到文字处理软件头上。

AI到底有多特殊，怎么说都不够。它是一种跟人不一样的智能，不受人类生物学那套限制。就算到了人的智能水平，它也不会停在那儿。

凡是聊过AI的人，对它可能往哪儿走，都是又着迷又害怕。OpenAI、DeepMind刚创立的时候都认定，不能光让利润牵着走，必须有些保障措施。

要是只有一家公司在做，这些措施没准管用。可眼下，美国好几家公司、国外也有一大堆公司在抢，其中就有中国公司。光靠行业自律不够了，得政府出面，还得各国政府一起合作。

否则，每个人都会说，我最适合掌管这项技术，所以我要全速前进。结果就没有人谨慎行事。

主持人：你预计，AI的好处什么时候会真正到来，风险和威胁又什么时候会消退？

盖茨：接下来四年很关键。这段时间里，部分就业市场会开始受到冲击。网络攻击和生物安全事件的风险也在往上涨，所以监控机制得在这几年里建起来。

我希望到下一届总统选举时，AI会像经济一样，成为人们讨论最多的话题，而且这种讨论是有建设性的。

到2028年，可以看看AI的讨论到底到了哪个份上。再到2030年，回头问几个问题：事故出了多少起？就业市场是什么光景？有了AI，你觉得自己的医疗服务和学习能力是不是都比从前强了不少？