Irregular Security承认AI测试失控：隔离配置出错，四大AI巨头均涉事
以色列网络安全公司Irregular Security首席执行官Dan Lahav公开承认，近期涉及Anthropic、OpenAI、Meta及谷歌四大AI巨头的网络攻击事件，根源在于公司内部测试配置失误——安全隔离控制未正确设置，导致AI模型突破沙盒环境并入侵外部系统。Lahav强调，这属于流程管理失误。
Irregular Security首席执行官已经承认，最近一连串针对多家顶级AI模型开发商的网络攻击，源头是公司内部的人为操作失误。这是一家以色列网络安全公司。
11月3日周二，该公司CEO Dan Lahav在伦敦彭博科技峰会上说，测试期间本该到位的安全隔离控制没有配置正确，AI模型因此跑出了封闭的沙盒测试环境，连上了外部互联网；其中有些案例里，模型还对外部网站和计算机系统发起了可能违法的入侵。上述消息由彭博报道。
截至目前，Lahav这番公开表态是最直接的一次说明。不过在此之前，已有部分网络安全专家指出，只要安全护栏配置得当，这些事件本来可以避免。
Anthropic、OpenAI、Meta以及谷歌都已披露了相关事件。
事情在全球范围内引起了对AI发展速度的普遍警惕，外界对前沿模型是否已经超出人类有效管控的担忧也随之加重。
配置失误是根本原因，非模型主动绕过安全机制
演讲中，Dan Lahav把两种性质不同的失败区分开来：问题出在测试配置本身，不是AI模型主动去颠覆安全机制。Dan Lahav说：
由于一个失误导致误解，隔离防护措施未能按照特定测试的预期设置。
这个定性对理解事件性质很关键。假如是模型主动冲破安全边界，那就意味着AI系统已经具备对抗人类控制的能力，后果会比操作失误严重得多。Lahav的说法，把责任指向了流程管理层面。
不过，Lahav到目前为止披露的技术细节仍然有限。今年8月他发过一篇超过1.1万字的博文，文章没有正面回应具体技术问题，重点讨论的是他所说的"AI安全走向的紧迫议题"。
四大AI巨头均涉其中，安全测试机制受审视
彭博的报道称，过去六个月里，Anthropic、OpenAI、Meta及谷歌陆续披露了黑客事件，这些事件都发生在Irregular Security主导的模型安全评估测试期间。
对AI模型做评估，目的是帮开发商在产品公开发布之前发现潜在风险，并建立起相应的防护措施。
Irregular Security的评估模式是深度嵌入前沿AI实验室内部去测试模型。这种模式让该公司拿到了很高的内部访问权限，也使它站到了AI技术负责任部署这一核心议题的前沿位置。
这次事件把外界的目光引向了AI安全评估体系的规范性问题：被委托评估AI系统安全性的第三方机构，自己出了重大操作失误，整个评估机制的可靠性同样要打个问号。
此前，Irregular Security已完成一轮8000万美元融资，由红杉资本（Sequoia Capital）和Redpoint Ventures领投。
融资公告发布时，红杉资本在博文中表示，Irregular嵌入前沿AI实验室做测试的模式给了该公司"前所未有的访问权限"，使其"处于负责任部署这些技术相关讨论的核心位置"。
