安全界对“AI能否自主入侵网络”这个问题的答案感到不安。据WIRED报道,研究人员在模拟网络环境中让多个AI模型寻找漏洞、规划攻击路径并尝试完成入侵。结果显示,来自中国的免费模型DeepSeek与GLM在黑客技能上已逼近OpenAI最先进的网络安全模型,而后者至今没有公开。
靶场实验:免费模型表现超出预期
报道称,实验的核心思路是把当下主流的大模型放进一个模拟网络“靶场”,看它们能不能像人类渗透测试人员那样,自主完成侦察、发现弱点、串联攻击步骤。过去AI只能生成零散的恶意代码,新一代模型则展现出更强的多步推理与工具调用能力,能把一次入侵拆解成可执行的计划。
真正让研究者意外的,是“谁”做到了这个程度,而非AI能入侵。DeepSeek出自中国AI公司深度求索,GLM来自智谱AI,两者均可免费获取。实验中它们的表现,与OpenAI内部那套用于网络安全的先进模型相比,差距有限。OpenAI的对应模型没有公开,访问控制也很严。这一对比说明一个现实:前沿网络攻击能力正借开源和免费渠道迅速外溢。
开源与免费:能力扩散的另一面
DeepSeek与GLM分别以开放权重或免费接口的方式向公众提供。与闭源模型不同,这类模型可以下载到本地服务器运行,企业和个人无需经过云端审核即可使用。开放性推动了技术普及,也让能力监管变得异常困难。
最近一年,AI在网络安全上的“攻防双用”越来越清楚:企业能用模型自动扫漏洞、分析恶意代码;同样的本事,也能拿来写钓鱼邮件、编漏洞利用程序、规划多步渗透路径。问题是,这种能力一旦装进一个可以无限次调用、又不受平台约束的免费模型里,风险就成倍放大。
与OpenAI的对照为何重要
OpenAI一向对具备强网络攻击能力的模型很谨慎,最先进的网络安全模型只在内部或特定合作伙伴范围内使用,外界调不到。能力越强、开放越少,这套做法被看作一种安全缓冲。中国厂商走的是另一条路:靠开放权重或免费接口,把用户规模迅速做大。
两条路径都有自己的道理。闭源可控性更强,可能力集中在少数公司手里;开源利于创新和普及,但监管者很难追踪模型被谁用、怎么用。免费模型的黑客能力一旦逼近闭源前沿模型,原先靠“访问门槛”撑起的安全假设就站不住了。
安全研究者常说,攻击者只需要成功一次,防御者却必须每次都成功。AI正在让这句话变得更残酷。
编者按:能力评估应跑在扩散之前
这起实验的意义,不是渲染“AI黑客”的恐慌,而是提醒业界:模型能力的评估和分级,得跑在能力扩散前头。眼下多数国家对大模型的安全测试仍以自愿为主,针对“网络攻防能力”的专项红队评测也没有统一标准。免费模型轻易就能拿到接近前沿的攻击辅助能力,只靠厂商自律显然不够。
防御方其实也需要这些工具。把能力流动卡死,中小企业与公共机构可能就失去用AI加固系统的机会。更现实的做法是:建立分级的模型能力披露机制,推动攻防双方共享威胁情报,对明显越界的使用场景做可追溯的滥用监测。开源本身不是问题,缺了治理的开源才是。