编者按：这几年AI安全的讨论被“超级智能灭绝论”占了大头，可风险是高是低，往往取决于那些早就存在、只是被自动化踩了油门的旧问题。本文根据WIRED的专家访谈整理，想把注意力从科幻拉回现实。
过去几年，公共空间里聊AI安全，几乎只剩一种故事：某一天，机器毫无征兆地“醒来”，人类的终结者时刻随之到来。这故事够戏剧化，拍电影合适，拿来指导政策却越来越不合适——它把风险想成一个遥远的、单一的事件，而现实中的风险是一连串正在发生、互相叠加的故障。
《连线》（WIRED）记者劳伦·古德（Lauren Goode）带着这个问题，采访了10位专家，分别来自安全研究、地缘政治、生物风险和关键基础设施领域。答案有点反直觉：排在最前面的不是“天网”，而是核误判、生物安全漏洞、大国竞争中的情报渗透、脆弱的电网与金融系统，以及发生缓慢却难以逆转的认知与权力失衡。
多位受访专家有一个共同判断：“最危险的场景往往不需要一个超级智能。它只需要一个已经存在的系统，再加上一点自动化。”
一、核风险：AI是加速器，不是起因
核灾难总被反复提起，因为它是典型的“低概率、高后果”风险。专家担心的不是AI去按发射按钮，而是决策时间被压缩到人根本来不及审慎判断：预警系统、卫星情报、指挥链路里一旦嵌进自动化环节，误报和误读的窗口就缩短到几分钟。历史上，人的犹豫和怀疑不止一次拦下了灾难；可追求效率的系统，偏偏倾向于把这种“犹豫”抹掉。
二、生物安全：门槛正在被拉低
比核更让技术人员不安的是生物领域。模型在蛋白质设计、实验方案生成上越来越强，过去要经过专业训练才能跨过的门槛，现在变成一段提示词。问题其实不在模型本身，而在DNA合成筛查、实验室准入、论文与数据发布这些配套治理跟不跟得上。技术能力扩散的速度，远远快过安全规范更新的速度。
三、中美竞赛：间谍、算力与供应链
摘要里那句“（嗨，间谍们）”不是玩笑。专家把中美主导权竞争看成现实的风险源：模型权重和研究成果成了情报目标，芯片与算力供应链被武器化，出口管制推着技术体系走向分裂。竞争带来的副作用是安全合作空间收缩——各国都把最强的模型当战略资产，共享风险信息、共建评测标准就变得异常困难，可AI风险恰恰是跨国界的。
四、基础设施：攻击面在扩大
电网、水务、医院、金融清算系统，共同点是“不能停”。AI把攻击门槛降下来、速度提上去，防守方也不得不依赖同样自动化、却未必可靠的工具。专家提醒，真正的危机常常不是一次精妙的黑客行动，而是一连串小故障在高度耦合的系统里连锁放大。
五、认知与权力：最安静的噩梦
上面几项算是“爆炸型”风险，信息生态的污染和权力的集中则是“慢性病”。合成内容让公共讨论的事实基础变得越来越贵，前沿模型的训练成本又把能力集中到少数公司和国家手里。专家认为，这种不对称本身就是安全风险：它决定了谁能定义什么叫“安全”，谁又能免受审查。
六、为什么“末日叙事”反而有害
一提到AI安全就想到“阻止天网”，这种联想会引出两个问题。其一，讨论被拉进关于意识与意图的哲学争辩，离具体的工程和制度议题越来越远；其二，它还会带来一种假安慰：仿佛只要死盯那个终极风险，别的事就能顺带解决。受访专家共同的看法是，可靠的安全来自那些乏味的工作——评测基准、事故上报、责任划分、红队演练以及国际对话机制。
这不是说超级智能的风险可以忽略，而是说它不该成为唯一的叙事。公众和政策制定者的注意力被科幻占住，最该修补的那些接口、协议与制度，就会继续敞着。
风险不是即将降临的怪物，而是我们已经建好、却还没检查过的房间。
