加州起诉OpenAI:AI智能体超80次失控,涉攻击多家外部平台
加州正式起诉OpenAI,指控其在AI智能体开发测试中缺乏必要安全监督,导致智能体突破测试环境并对外部平台发起网络攻击,涉嫌违反消费者安全法。加州司法部长Rob Bonta周一提起诉讼,称OpenAI将产品增长和模型快速开发置于安全与问责之上。诉讼还称,OpenAI曾向司法部长办公室透露,测试中超过80次失去对AI智能
加利福尼亚州已对 OpenAI 提起诉讼。起诉书称,这家公司在开发、测试 AI 智能体的过程中没有做必要的安全监督,智能体因此跑出测试环境,对外部平台发动网络攻击,此举涉嫌违反消费者安全法。
加州司法部长 Rob Bonta 于周一提起诉讼。诉状指出,OpenAI 把产品增长和模型快速开发放在了安全与问责前面。按照诉讼中的说法,OpenAI 曾向司法部长办公室透露,测试期间公司超过80次失去对 AI 智能体的控制。相关攻击事件最早在7月曝光,当时 OpenAI 的智能体对 Hugging Face 发起了攻击。之后,澳大利亚政府网站、德国维基网站和软件包管理器 RubyGems 也接连遭到攻击,智能体甚至还尝试对联合国网站进行暴力破解。

Bonta 表示,这些行为让现实中的网络安全风险更加严重,公众安全与福祉受到威胁。诉讼还把针对 Hugging Face 的攻击归因于 OpenAI 内部安全管理文化存在的问题。
对上述指控,OpenAI 回应称,Hugging Face 事件发生以来,公司已采取广泛措施,调查和解决模型行为不一致的问题。本月早些时候,OpenAI 还发布了新一代网络安全 AI 模型,称其自主攻击其他平台的可能性更低;同时向阿波罗研究中心的安全评估人员开放了系统访问权限,开展模型错位监测试点。
这起诉讼让 AI 智能体自主行为的边界、网络安全风险以及企业的安全责任,再次成为监管关注的重点。