盖茨再发警告：AI危险超核武，人类应对尚未就位

“AI当然比核武器更危险。”

比尔·盖茨近日在美国哥伦比亚广播公司（CBS）的播客《好问题》中发出警告：过去一年，AI模型已经跨过一些危险门槛，但社会和政府还没做好应对准备。

盖茨的态度在一步步收紧。2023年他宣告“AI时代已经开始”，强调风险可以管理；今年8月他又发文提醒世界为动荡做准备。警告一次比一次急迫。

盖茨担心的是，各家公司都觉得自己最适合掌管这项技术，于是争着全速前进，“结果就没有人谨慎行事”。他还说：“达到人类的智能水平之后，它也不会停下来。”

聊到工作，他的判断是：走向富足这段过渡期或许要几十年，期间“很多工作会消失”。年轻人该学点什么？这位经历过个人电脑和互联网革命的人，眼下给出的回答是：“连10年后的世界都很难预测。”

主持人追问：是不是要先发生一场灾难，美国乃至全世界才会真正着手应对？

“可以这么说。”盖茨回答。

AI能改善医疗和教育，这点他仍抱有期待。但他反复强调，光靠行业自律不够。“未来四年非常关键。”按他的说法，就业冲击会在这几年里慢慢显出来；针对网络攻击和生物安全风险的监控机制，也到了必须建起来的时候。

以下为访谈整理，内容有所精简。

AI比核武器更危险

主持人：2022年、2023年那会儿，你对AI还满是期待。如今你却在发出警告，说人类要进入史上最动荡的时期之一。你的看法为什么变了？

盖茨：AI的好处并没有消失。可这一年里模型进步太猛，已经跨过几条危险的门槛，比如被拿去做生物恐怖袭击的可能。社会这边却没跟上：规则该怎么定？政府要具备怎样的专业能力，才能盯住这类活动？这些事靠行业自己办不到。

平时我尽量把发声机会留给盖茨基金会，比如为贫穷国家呼吁。这回不一样，我认为该用自己的经验和公信力，让更多人加入这场讨论。

大学教授、智库、政策研究者，还有政界人士，都该认清一点：这项技术既能大幅改善医疗和教育，也可能被用来发动网络攻击或生物恐怖袭击。真到那一步会非常可怕。

主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？

盖茨：当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。

它和核技术一样，既有很好的用途，也有极其危险的用途，只是两方面的影响都要大得多。

主持人：你有没有粗略估算过，AI导致人类毁灭的概率有多大？

盖茨：就眼下的技术而言，人类毁灭还不是迫在眉睫的风险。可就业受冲击、关键基础设施被搞瘫，这些风险已经实实在在，原因是这些工具实在太强。

一些政客现在的反应太粗糙：一边喊着全部叫停，一边嚷着全速推进。我希望能有更多人参与讨论，把问题拆得细一点，把危害压到最小，也让好处早点落地。

主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。

盖茨：现有模型还不足以把人类推向毁灭。那只是对将来的一种推演：假如控制机制建不起来，让AI自己乱跑，局面会变得极其可怕。所以，得把主导权重新拿回手里。

最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。

主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。

盖茨提到，让人担心的地方在于，这类事件本来不在预料之中。实际上，事情已经发生了一段时间，人们才反应过来。

他认为应当从中吸取教训。行业内部得有一套管用的控制机制，社会同样要参与进来，逼着AI公司和所有发布模型的一方守住安全准则。把行业里的专业人才与政府制定的规则对接起来，建立审查机制，避免基础设施被这类攻击盯上。

主持人接着问：眼下围绕AI的讨论，哪些属于合理的担忧，哪些又是不理性的恐慌？

在盖茨看来，这项技术和以前任何技术都不一样。人类造出了一种异于自身的智能，这更像是一次进化事件。

他举了电影里的例子：外星人打过来，中国和美国以前所未有的方式联手应对。

主持人接话：《独立日》。

盖茨说，对，眼下的处境和那部电影类似。差别在于，这种智能是人类自己造出来的，不是从遥远的外太空来的。它比核武器更难控制，而且发展速度飞快。

也许得先吃几次苦头

主持人问：你讲过必须迅速行动，还要设立新的机构。到目前为止，应对得怎么样？

盖茨的回答是，让所有人都参与进来非常困难。美国应该先做出表率。

有些人到现在还看不到问题，甚至觉得业内人士反复讲这些风险，是在炫耀自己的工具有多厉害。盖茨说这种理解是错的。这些担忧有充分理由，也是真诚的。可行业之外的回应，远远不够。

主持人提到：一个月前还是那样。现在AI公司、你和其他人都站出来发声了。你看到什么积极的回应了吗？

盖茨提到，有人因此怀疑发出警告者动机不纯。他认为这种看法搞错了对象——那些人说的是真心话。马斯克、奥特曼、阿莫迪在许多议题上立场相左，却异口同声讲同一件事，这本身就该算一个够清楚的信号。

盖茨指出，这类专业能力基本握在产业界手里。这还是头一回出现并非由政府出资推动的先进技术。核技术有政府掏钱，多数武器也是。这一回，技术演进整个发生在政府之外，连这些前沿技术的主要买家都算不上政府。

即便一切顺利，恐怕也要花一两年，才能理清几件事：政府该由哪个部门负责？怎样与行业打交道？维护金融稳定、航空安全和核武器条约的经验，哪些可以借鉴？

所以，目前还没有看到主持人说的那种回应。政界要么没有反应，要么说，那就全部叫停。

盖茨想做的，是把那些大风险压到最低，同时搞明白怎么让AI服务于医疗和教育。可要是一路走到“全部叫停”，这些好处就都没了。主张叫停的人确实存在，他跟这类选民交谈过，民调也显示不少人忧心忡忡。

主持人回应说，这正是要问其中是否存在恐慌的原因。但一说到放慢脚步，另一种顾虑又冒出来：会不会被人甩在后面？眼下股市对AI如此看好，钱大把大把投进去，减速会不会拖累经济？至于干脆不碰AI，那便是一刀切。

盖茨并不太相信政治层面最终会全面叫停。况且，拦下个别数据中心的建设，压根不会让AI慢下来。它们总能在美国其他地方，或者别的国家找到落脚点。这样的运动挡不住真正危险的东西。

他强调要直接处理风险：能不能监控模型的使用，及时发现有人把它用于有害目的？盖茨很重视这一点，也认为未来一年内，就可以落实一些具体的监控办法。

主持人把话题转到另一边：气候变化同样是你、基金会和全世界关心的大事。有一阵子，人们议论最多的是它可能带来的死亡、灾难，乃至末日。如今你却说，这种讲法不对。这是策略上的调整吗？面对一个会引发恐惧的重要议题，怎么才能让公众听得进去？

盖茨回答说，气候变化相对缓慢，重大影响主要在本世纪末显现。在此期间，会有各种创新，其中一些还能借助AI加速。

主持人解释，并不是要追问盖茨为什么改变立场。他想说的是，一开始告诉大家，这可能终结所有生命，后来又改口，有些人就干脆不再关注了。

盖茨承认这个批评站得住脚。AI也是如此：对那些极端情景人们没有共识，但对网络攻击的风险有共识，最近发生的事件就是例证。人们同样认同，AI或许会让恐怖分子获得使用生物武器的能力。

盖茨认为，针对这些具体风险得建起监控机制，一旦发现有人拿AI干有害的事，就及时拦下来。

主持人追问：现实中是否存在这样的先例——哪怕只是某一个国家的政府，曾经足够快地出手，把类似的技术管住过？

盖茨承认这比过去做过的任何事都难，但先例并非没有。保护臭氧层时各国达成了条约，进展很大；航空安全上，美国那套做法被全球采用，这个行业的安全纪录相当出色；核技术方面，二战以来核武器再没被使用过，也算一份不错的纪录。

不过他必须承认，管住AI比这些事加在一起还难。要是不能把最优秀的人聚起来，特别是行业之外的政策研究者，确实会让人对能不能做到感到绝望。

主持人接话：我确实感到绝望。

盖茨说，有一点很清楚：一旦发生一次后果严重的大规模网络攻击，人们就会说，那些一直发出警告的人是对的。

也许得先吃几次苦头，才会做出足够的回应。幸运的是，这类事件虽然很糟糕，但还不至于终结文明。

主持人举例：如果富达或先锋遭到黑客攻击，全球数以万亿美元计的养老储蓄中很大一部分受到波及，那就已经是大事了。

盖茨回应，这种情况确实会造成不确定性，应该提前准备，尽力避免这些事件。

但假如没能防住，等到后果开始显现时，至少已经有了具体方案。人们会说，你们是对的，我们不想再经历一次。

所以，尽管这类事件发生几起的风险很高，他仍然认为，让更多人参与讨论是值得的。

主持人总结：也就是说，要让美国乃至全世界真正着手应对，一篇比尔·盖茨写的12页长文可能还不够，也许得先发生一场灾难。

盖茨答：可以这么说。

连10年后的世界都很难预测

主持人提到，过去的技术会消灭一些工作，也会创造许多新岗位，而盖茨认为AI有本质上的不同，因为它的影响更广泛，对吗？

盖茨说是的，因为它会超越人类智能。过去的技术进步，包括他有幸参与的个人电脑，提高了生产效率，也让人的智能更有价值，因此创造了大量不错的白领岗位。

这一次，自动化将在白领工作中占据优势。随着人形机器人发展起来，蓝领工作最终也会如此。

它最终会带来极大的富足。但过渡期可能长达几十年，其间有些工作会保留下来，很多工作会消失。

主持人回忆，有一次开会他坐在阿莫迪旁边，问今天的孩子该学什么，才能为阿莫迪和其他人正在创造的世界做好准备。阿莫迪说应该学古典学。主持人问盖茨怎么看，又会教孙辈什么。

盖茨说，在AI出现之前，如果有人问新技术会让20年后的世界变成什么样，谈到互联网的发展，他是很有信心的。现在有了AI，连10年后的世界都很难预测。

追随好奇心、尽早把AI用熟，这两条老建议依然成立。效率会因此提高；在那些仍要靠人来判断、需要人和AI配合完成的事情上，你的竞争力也会更强。

但如果有人说，自己知道20年后的世界会是什么样，盖茨认为他夸大了自己的判断力。这些工具太强大了，我们已经很难看清未来，应该谦虚一点。

主持人设想，一个聪明的大四学生听完会说：“那我今晚干吗还写作业？学这些有什么用？”或者直接让AI代写。

盖茨说，他也担心这样严厉的警告会让人失去动力，真希望不会如此。

我这辈子一直在讲一件事：新技术出现，会带来巨大的好处。让每个人都用上电脑、填平数字鸿沟，曾是我最想传递的信息。

但如今，AI带来好处的同时也带来了风险。我们得适应它、重新做打算，这个过程里难免有恐惧。我希望人们不会因此丢掉动力。

主持人：恐惧占了很大一部分。我担心的是，很难找到一个明确的例子，证明全世界或美国曾经及时应对过这样的重大问题。

社交媒体就是例子。2009年，它在智能手机上基本还不是今天这个样子。15年后，它无处不在。我们知道它对孩子有害，却仍然很难通过监管划定边界。监管AI，能从这些失败中吸取什么教训？

盖茨说，AI 的某些风险比社交媒体严重得多。跟一个“AI人”待在一起，时间很容易大把大把地花掉，而它事事顺着你。现实里的人却没法预判，你得学着跟他们打交道。长时间沉在这种 AI 关系里，正常的社会适应过程可能受阻。

中方已经表态，年轻人不能这样用 AI。无论是年轻人还是成年人，都可能对 AI 产生心理和社交上的依赖，这会成为我们面对的问题，也是 AI 被滥用的一种可能方式。

主持人：你胸前的徽章代表联合国的十几个可持续发展目标。如果把AI也放进去，你觉得它会占多大一块？

盖茨：也许是一半。从我们有多需要理解它、引导它的发展来看，它就是这么重要。

健康目标就是一例。假如人们能用自己的语言交流、拿到健康建议，这对非洲而言会是革命性的改变。当地需要的医生数量，是现在的 100 倍。AI 既能直接帮到患者，也能给医护人员打下手。

徽章上的每一个领域都面临同样的情况：AI最有希望加快进展，也可能打乱我们已有的进程。

主持人：我想问问监管。你担任微软首席执行官时，曾说过不需要政府监管。

盖茨：不，不，不，我从没说过这样的话。

主持人：你当年对《西雅图邮讯报》说过，创新空间还很大，政府不用插手，原话是“没有监管的必要”。我不是要给你下套，只是那时你觉得软件不用监管，现在却带头呼吁监管 AI。变的是什么？

盖茨：AI和当年帮助人们使用电脑的技术，完全不同。有人可能用Word写勒索信，但没人会因此把责任归到文字处理软件头上。

AI 的特殊程度，怎么强调都不过分。它是一种跟人类不同的智能，不受人类生物学限制。到了人类的智能水平，它也不会停步。

凡是谈过 AI 的人，对它的走向都是又着迷又害怕。OpenAI、DeepMind 创办时就认定，不能只盯着利润，必须设一些保障措施。

这些措施，只有一家公司做的话或许还管用。可如今多家美国公司在争，许多外国公司也在争，中国公司同样在内。光靠行业自律不够了，政府得介入，各国政府还得合作。

否则，每个人都会说，我最适合掌管这项技术，所以我要全速前进。结果就没有人谨慎行事。

主持人：你预计，AI的好处什么时候会真正到来，风险和威胁又什么时候会消退？

盖茨：接下来四年很关键。这期间，部分就业市场会开始受到冲击。网络攻击和生物安全事件的风险也在往上走，监控机制必须在这几年里建起来。

我希望到下一届总统选举时，AI会像经济一样，成为人们讨论最多的话题，而且这种讨论是有建设性的。

到 2028 年，可以看看关于 AI 的讨论到了什么水平。再到 2030 年，回头问几个问题：事故出了多少起？就业市场如何？有了 AI，你觉得自己的医疗服务和学习能力是不是比过去强了不少？