10位专家谈AI安全：核误判与生物漏洞比“天网”更紧迫

编者按：这几年聊AI安全，话题总被“超级智能灭绝论”带着跑。可真正决定风险高低的，常常是那些早就存在、不过被自动化踩了油门的老毛病。下面这些内容整理自WIRED的专家访谈，想把视线从科幻片拉回现实。

过去几年，公共讨论里几乎只剩一种声音：某天机器会突然“醒来”，人类的终结者时刻随之到来。这故事够戏剧，也适合搬上银幕，拿来指导政策却越来越不合适。它把风险想成一个远在天边、只发生一次的事件，可现实中的风险是一串正在发生、互相叠加的故障。

《连线》（WIRED）记者劳伦·古德（Lauren Goode）就这个问题走访了10位专家，他们分别来自安全研究、地缘政治、生物风险和关键基础设施领域。答案有点反直觉：风险清单上打头阵的不是“天网”，而是核误判、生物安全漏洞、大国竞争中的情报渗透、脆弱的电网与金融系统，还有发生得慢却很难掉头的认知与权力失衡。

多位受访专家有一个共同判断：“最危险的场景往往不需要一个超级智能。它只需要一个已经存在的系统，再加上一点自动化。”

一、核风险：AI是加速器，不是起因

核灾难总被反复提起，原因在于它是典型的“低概率、高后果”风险。专家并不担心AI去按发射按钮，他们担心的是决策时间被压到人没法审慎判断的地步：预警系统、卫星情报、指挥链路里一旦接进自动化环节，误报和误读的窗口就缩短到几分钟。回看历史，人类的犹豫和怀疑不止一次拦下灾难；可追求效率的系统，偏偏倾向于把这种“犹豫”抹掉。

二、生物安全：门槛正在被拉低

技术人员更不安的其实是生物领域，这一点比核还甚。模型在蛋白质设计、实验方案生成上的本事见长，过去要经过专业训练才能跨过的门槛，如今一段提示词就够了。问题不出在模型身上，关键在于DNA合成筛查、实验室准入、论文与数据发布这些配套治理跟不跟得上。技术能力扩散的速度，把安全规范的更新速度远远甩在后头。

三、中美竞赛：间谍、算力与供应链

摘要里那句“（嗨，间谍们）”不是玩笑。专家把中美主导权竞争看成现实的风险源：模型权重和研究成果成了情报目标，芯片与算力供应链被当成武器，出口管制推着技术体系走向分裂。竞争还有个副作用，就是安全合作的空间被压缩——各国都把最强的模型当战略资产，共享风险信息、共建评测标准就变得格外难，可AI风险偏偏是跨国界的。

四、基础设施：攻击面在扩大

电网、水务、医院、金融清算系统，共同点是“不能停”。AI把攻击门槛压低、速度提快，防守方也不得不依赖同样自动化、却未必靠谱的工具。专家提醒，真正的危机常常不是某次精妙的黑客行动，而是一连串小故障在高度耦合的系统里连锁放大。

五、认知与权力：最安静的噩梦

前面几项算是“爆炸型”风险，信息生态的污染和权力的集中则是“慢性病”。合成内容让公共讨论的事实基础变得昂贵，前沿模型的训练成本又把能力拢到少数公司和国家手里。专家认为，这种不对称本身就是安全风险：谁能定义什么叫“安全”，谁又能免受审查，都由它说了算。

六、为什么“末日叙事”反而有害

把AI安全等同于“阻止天网”，会带来两个后果。第一，讨论脱离具体的工程与制度问题，变成关于意识与意图的哲学争论；第二，它给人虚假的安慰——好像只要盯住那个终极风险，别的毛病就会自己好起来。受访专家有个共识：真正的安全来自枯燥的工作，评测基准、事故上报、责任划分、红队演练和国际对话机制，一样都不能少。

这不等于说超级智能的风险可以不管，而是说它不该成为唯一的叙事。公众和政策制定者的注意力一旦被科幻占满，那些最该修补的接口、协议与制度，就会继续敞着口。

风险不是即将降临的怪物，而是我们已经建好、却还没检查过的房间。