盖茨批特朗普政府AI监管不作为：模型可造生物武器，风险或超新冠

盖茨

11月5日北京时间消息，据《金融时报》报道，微软联合创始人比尔·盖茨(Bill Gates)把矛头指向特朗普政府，称其拖了防范AI风险的后腿。他发出警告，这项技术有可能被用来制造一场“比新冠疫情严重得多”的大流行病。

周三，盖茨在《金融时报》AI未来峰会上发言。他说，AI模型展现出的能力“惊人”，这意味着“无论是其造福人类的潜力，还是造成危害的潜力，都不容低估”。

在他看来，最紧迫的风险来自恶意行为者：他们可能用AI工具制造生物武器，也可能攻击社会各领域的网络安全漏洞。尤其让人警惕的是，部分“开放”模型可以免费供开发者使用，其安全防护机制和监控措施还能被移除。盖茨警告说，涉及AI的生物安全事件一旦发生，造成的“损害规模”可能“比新冠严重得多”。

不过，盖茨也表示，尽管有这些担忧，国际社会在监管和监测AI及其影响上的努力，却因为白宫的不作为而受阻。

盖茨表示，如果没有美国加入，单方面出手的作用有限，事情如今就卡在这里；他还反问，究竟还要再出多少起恶性事件，对方才肯改主意。

发出AI警告的科技领袖不止盖茨一个。他们指出，AI的发展方式可能导致技术被滥用，甚至脱离人类控制，带来灾难性后果。这位亿万富翁慈善家此前就警告过，AI可能造成10亿人死亡，还会引发大范围就业动荡。

最近几个月，围绕这项新兴技术安全性的担忧持续升温。Anthropic在上周的IPO招股书中警告，AI可能带来“灾难性或生存性风险”。盖茨对这家前沿实验室在AI危险问题上的坦诚表示赞赏：“他们一直非常公开透明，这是又一个例证。”

技术发展速度惊人，但美国总统特朗普拒绝加强政府AI监管的呼吁，把制定G20 AI指导方针的努力斥为“全球主义者的阴谋”，转而主张由科技行业自我监管。

自我监管行不通

盖茨认为，自我监管这条路走不通，“一旦涉及多家公司，解决这个问题的唯一途径就落到政府身上”。他敦促美国政府考虑一件事：为AI模型的内部安全防护机制和监控措施制定统一的评估基准。此外，政府还应牵头开展全球合作，修复网络安全漏洞，并建立大规模监测体系，在“空气、污水和血液”等领域开展监测，以便尽早发现可能由AI助长的传染病疫情。

盖茨还预计，OpenAI和Anthropic今年可能都会发布新模型，2027年会有“两次重大发布”。在他看来，这是AI技术持续快速发展的一个例证。

他同时表示，“模型本身失控”将在不久的将来成为一个严重担忧，或许就与这些即将发布的模型有关。盖茨认为，在保障措施和对新模型进行第三方审计方面，政府需要做更多工作。

盖茨呼吁加快行动，把AI的潜在益处充分释放出来，比如推动药物研发、缓解医院候诊名单过长的问题。他说：“这些好事不会自然而然地发生。”

盖茨还表态支持“对亿万富翁和超级富豪征税”。AI正在深刻改变社会，这一背景下，他的表态似乎意味着支持加州提出的“亿万富翁税”提案。该提案是一项加州公投议案，但根据周二美国中期选举的初步计票结果，它似乎即将遭到否决。

对于OpenAI和Anthropic联合创始人在慈善事业方面作出的承诺，盖茨表示赞赏。他说自己正在与他们商谈合作事宜，“确保这些资金能够在全球健康等多个领域产生巨大影响”。