DeepSeek与GLM免费模型黑客能力逼近OpenAI,安全界为何警觉?
据WIRED报道,一项模拟网络入侵实验显示,中国免费开放的AI模型DeepSeek与GLM在网络攻击技能上已逼近OpenAI最先进的网络安全模型,而后者并未公开。这一结果引发业界对开源模型“双刃剑”效应的担忧:能力越易获取,攻防之间的门槛就越模糊。
研究人员做了一场实验,专门看AI能不能自己入侵网络,结果让安全圈感到不安。据WIRED报道,他们让多个AI模型在模拟网络环境里找漏洞、规划攻击路线、尝试完成入侵。结果显示,来自中国的免费模型
DeepSeek与GLM在黑客技能上已经逼近OpenAI最先进的网络安全模型,而后者至今并未对外公开。
靶场实验:免费模型表现超出预期
报道称,实验的核心思路是把当下主流大模型放进一个模拟网络“靶场”,看它们能不能像人类渗透测试人员那样,自主完成侦察、发现弱点、串联攻击步骤。过去的AI只能生成零散恶意代码,新一代模型不一样,多步推理和工具调用能力更强,能把一次入侵拆成可执行的计划。
让研究者意外的不是AI会入侵,而是“谁”表现得足够好。DeepSeek和GLM都能免费获取,前者来自中国AI公司深度求索,后者出自智谱AI。实验中,它们与OpenAI内部用于网络安全的先进模型差距有限。OpenAI的对应模型并未公开,且受严格访问控制,这一对比凸显出一个现实:前沿网络攻击能力,正在通过开源与免费渠道快速扩散。
开源与免费:能力扩散的另一面
DeepSeek与GLM分别以开放权重或免费接口的方式向公众提供。闭源模型做不到这一点,这类模型可以被下载到本地服务器运行,企业和个人无需经过云端审核即可使用。开放性推动了技术普及,也让能力监管变得异常困难。
过去一年里,AI在网络安全上的“攻防双用”特征越来越突出。企业能用模型自动扫漏洞、分析恶意代码;可这套本事同样能拿来炮制钓鱼邮件、写漏洞利用程序、规划多步渗透路径。一旦这种能力挂在一个免费模型上,能无限次调用、又不受平台约束,风险就成倍放大。
与OpenAI的对照为何重要
对具备强网络攻击能力的模型,OpenAI一直比较谨慎:最先进的网络安全模型只给内部或特定合作伙伴用,外界很难直接调用。外界把这种“能力越强、开放越少”的做法看成一道安全缓冲。中国厂商走的是另一条路——靠开放权重或免费接口快速做大用户规模。
两种路径各有各的道理。闭源可控性更强,可能力攥在少数公司手里;开源利于创新和普及,但监管者很难追踪模型被谁用、怎么用。等到免费模型的黑客能力逼近闭源前沿模型,原本靠“访问门槛”撑起的安全假设就站不住了。
安全研究者常说,攻击者只需要成功一次,防御者却必须每次都成功。AI正在让这句话变得更残酷。
编者按:能力评估应跑在扩散之前
这个实验的意义不是渲染“AI黑客”的恐慌,而是给业界提个醒:模型能力的评估和分级,得赶在能力扩散前头。眼下多数国家对大模型的安全测试还是自愿为主,针对“网络攻防能力”的专项红队评测也没有统一标准。免费模型轻易就能拿到接近前沿的攻击辅助能力,光靠厂商自律明显不够。
防御方其实也需要这些工具。把能力流动卡死,中小企业和公共机构可能就没了用AI加固系统的机会。更现实的做法是:建立分级的模型能力披露机制,推动攻防双方共享威胁情报,对明显越界的使用场景做可追溯的滥用监测。开源本身不是问题,缺了治理的开源才是。