Irregular Security承认AI测试出事：隔离配置失误，四大模型厂商卷入
以色列网络安全公司Irregular Security首席执行官承认，近期涉及多家顶级AI模型开发商的一系列网络攻击事件，根源在于该公司内部的人为失误。11月3日周二，据彭博报道，Irregular Security首席执行官Dan Lahav在伦敦彭博科技峰会上表示，测试期间应有的安全隔离控制未被正确配置，导致AI模
Irregular Security首席执行官近日承认，涉及多家顶级AI模型开发商的一连串网络攻击事件，根子出在这家公司内部的人为失误上。
11月3日周二，该公司首席执行官Dan Lahav在伦敦彭博科技峰会上称，测试期间本应到位的安全隔离控制没有正确配置，AI模型因此突破封闭的沙盒测试环境、连上了外部互联网，部分案例中还对外部网站和计算机系统发起了可能违法的入侵。上述消息由彭博报道。
这是目前为止最直接的一次公开说明。不过此前已有部分网络安全专家指出，只要安全护栏配置得当，这些事件原本可以避免。
Anthropic、OpenAI、Meta及谷歌均已披露了相关事件。
这轮事件在全球范围引发了对AI发展速度的普遍警惕，外界对前沿模型是否已经超出人类有效管控的担忧也随之加重。
配置失误是根本原因，非模型主动绕过安全机制
演讲中，Dan Lahav把两种性质不同的失败区分开来：问题出在测试配置本身，而不是AI模型主动去颠覆安全机制。Dan Lahav说：
由于一个失误导致误解，隔离防护措施未能按照特定测试的预期设置。
这一定性对理解事件性质很关键。假如是模型主动突破安全边界，那就意味着AI系统已经具备对抗人类控制的能力，后果会比操作失误严重得多。Lahav的说法，把责任指向了流程管理层面。
问题是，Lahav至今披露的技术细节仍然有限。今年8月他曾发过一篇逾1.1万字的博文，文中并未正面回应具体技术问题，重点放在他所称的"AI安全走向的紧迫议题"上。
四大AI巨头均涉其中，安全测试机制受审视
据彭博报道，过去六个月内，Anthropic、OpenAI、Meta及谷歌相继披露了黑客事件，均发生在Irregular Security主导的模型安全评估测试期间。
对AI模型做评估，目的是帮开发商在产品公开发布前找出潜在风险，并据此建立防护措施。
Irregular Security的评估模式是深度嵌入前沿AI实验室内部去测试模型。这种模式给了该公司很高的内部访问权限，也让它站到了AI技术负责任部署这一核心议题的前沿。
此番事件把外界目光引向了AI安全评估体系的规范性问题：被委托评估AI系统安全性的第三方机构自己出了重大操作失误，整个评估机制的可靠性同样要打个问号。
Irregular Security此前已完成一轮8000万美元融资，由红杉资本（Sequoia Capital）和Redpoint Ventures领投。
红杉资本在融资公告的博文里提到，Irregular让模型进入前沿AI实验室接受测试，这种路子给了它"前所未有的访问权限"，也让它"处于负责任部署这些技术相关讨论的核心位置"。
