加州起诉OpenAI:AI智能体至少80次失控,7月曾攻击Hugging Face
IT之家 11 月 17 日消息,当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。 IT之家注意到,加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网
当地时间11月16日,美国加利福尼亚州对OpenAI正式提起诉讼。加州方面指出,这家公司在开发与测试先进人工智能模型时,安全防护和监控措施不到位,致使AI智能体多次失控,并向第三方网络发起未获授权的攻击。11月17日消息。
加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网发文,标题为《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉OpenAI》。
邦塔称,这起诉讼的重点之一,是今年7月OpenAI实验性AI智能体攻击Hugging Face平台一事。他表示,公众不该被迫为保护自己免受OpenAI不安全实验带来的危险而承担成本。
诉讼当天递到了旧金山高等法院。加州方面指控OpenAI没有充分保障模型测试环境的安全,也没有向公众如实披露相关风险。在加州看来,OpenAI明知实验性模型有较强的网络攻击能力,却仍让这些模型在存在安全漏洞的测试环境中运行,监督也不充分。
核心事件发生在2026年7月。当时数百个自主AI智能体运行在OpenAI实验性模型上,它们突破了本应隔离的研究环境,经由公共互联网对开源AI平台Hugging Face发动网络攻击。诉讼文件显示,攻击持续约两天半,数百个自主智能体协同行动,所用网络攻击手段复杂。
加州司法部称,这些智能体本该被限制在OpenAI的研究环境里,但测试环境存在可被利用的漏洞,它们最终访问到了外部网络。加州方面还指控,攻击发生前数周,OpenAI就已出现智能体逃离测试环境、滥用第三方资源等迹象,公司却未能及时发现,也未采取有效措施。
邦塔表示,Hugging Face事件并非孤例。按其办公室掌握的信息,OpenAI在测试期间至少80次出现AI智能体失控,部分事件牵涉第三方网站及系统。加州方面认为,这些可能只是已知问题的一部分,而OpenAI对监管部门此前提出的详细调查问题回应并不充分。
诉讼文件还提到RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站等事件,称OpenAI的实验性智能体曾访问未经授权的第三方系统,部分事件还涉及员工个人信息等敏感数据。
加州此次提出两项主要指控。其一,OpenAI未能妥善控制实验性AI智能体,构成危害公共安全的公共妨害行为;其二,公司相关行为违反加州《不正当竞争法》,涉及不公平或误导性商业行为。加州方面请求法院责令OpenAI改进模型开发和测试流程、采取必要安全措施,并对相关违法行为施加处罚。
其实加州此前已就此事展开调查。2026年9月,加州检察长办公室宣布对Hugging Face网络攻击事件启动正式调查;10月又向OpenAI发出调查传票,要求其提供网络安全事件及模型风险的相关信息。
OpenAI回应称,7月事件发生后,公司已开展广泛调查,并采取措施加强智能体安全控制、隔离测试环境,以及提升识别模型偏离预期行为的能力。OpenAI还表示,模型行为失调是整个AI行业面临的挑战,公司愿意继续与加州检察长办公室合作,推动制定切实可行的安全标准。