Anthropic 内部系统被 AI Agent 12 小时攻破！会议记录、员工薪酬、内部模型讨论遭访问

《华盛顿邮报》查阅的一份 Cathedral 报告草稿称，研究人员运行 AI Agent 不到 12 小时，就找到了进入 Anthropic 内部系统的路径。Anthropic 随后确认，Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的部分数据；公司称，客户与 Claude 的对话、模型回复、源代码和模型权重均未被访问。

不到 12 小时，研究人员通过商业软件漏洞进入 Anthropic 系统

据《华盛顿邮报》查阅的报告草稿，Cathedral 近日向 Claude 聊天机器人的开发商 Anthropic 通报，其研究人员发现了进入这家 AI 公司内部数据和消息系统的路径。

Cathedral 由美国政府效率部（DOGE）的前成员创立，为美国政府和企业客户提供 AI 驱动的网络安全工具。报告称，研究人员利用了 Anthropic 和许多其他公司用于行政及销售工作的商业软件漏洞。

运行 AI Agent 不到 12 小时后，研究人员便找到了访问 Anthropic 内部数据的路径。Cathedral 的报告称，这些数据包括会议记录、薪酬和工作邀请详情，以及讨论 Anthropic 先进 AI 模型的 Slack 消息。Cathedral 是通过 Anthropic 的一项安全测试计划开展测试的；该计划允许外部网络安全专家测试公司的系统。

Anthropic 在声明中确认，Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的“有限数据”。公司称，研究人员接触到的内容包括部分客户和合作伙伴的商业联系信息，以及一些基础用户账户记录。

Anthropic 同时表示，研究人员无法访问客户发给 AI 模型的消息、模型返回的回复，也无法访问公司 AI 系统背后的代码或“模型权重”。因此，Cathedral 报告中提到的会议记录、薪酬信息和 Slack 消息，与 Anthropic 对实际访问范围的描述并不完全相同。

Anthropic 称，公司监控系统在 Cathedral 报告之前就发现了部分活动，并在当天关闭了相关访问权限。公司还表示，没有证据显示 Cathedral 以外的人员利用了这些漏洞。

漏洞来自第三方软件，双方对披露过程说法不同

Cathedral 通过 Anthropic 的网络安全测试计划披露了相关发现。该计划会向报告漏洞的安全研究人员提供奖励。报告草稿称，Cathedral 也通知了相关商业软件供应商，但出于安全考虑，没有公开这些公司的身份。

Anthropic 表示，公司禁用了涉及的商业软件，直到供应商确认漏洞已经修复后才重新启用。Cathedral 报告则称，研究人员“依照安全研究最佳实践，将数据访问量控制在绝对最低限度”。

双方对测试过程是否符合计划规则也有不同说法。Anthropic 认为，Cathedral 夸大了这些发现所“暗示的国家安全影响”，并称这家初创公司没有完整披露其在 Anthropic 系统中的全部活动，因此没有完全遵守漏洞奖励计划的规则。

一名 Cathedral 发言人拒绝置评。接近该公司的消息人士称，研究人员尝试访问 Anthropic 系统，是为了揭示美国领先 AI 开发商面临的安全挑战。由于发现涉及敏感信息，这名人士要求匿名。

AI 编程初创公司 Cognition 的首席信息安全官 Alex Stamos 应《华盛顿邮报》请求审阅了 Cathedral 的发现。他说：“他们发现了一个很严重的问题。”Stamos 曾任斯坦福大学网络政策中心下属斯坦福互联网观察站主任。

Stamos 认为，将第三方应用连接到公司系统所带来的风险，是“所有人都面临的巨大问题”。他说，Cathedral 的发现暴露出 Anthropic 管理外部软件供应商使用方式上的“漏洞”，“这是一个非常难解决的问题，但 Anthropic 本可以做得好得多”。Cognition 使用 Anthropic 及其他 AI 公司的模型。

事件引发对 AI 公司安全防护的担忧

Cathedral 的发现，让外界再次关注 AI 公司依赖第三方企业软件所带来的安全风险。普通商业软件一旦出现漏洞，可能成为攻击者进入大型科技公司内部系统的入口。Cathedral 在报告草稿中称，这一事件“揭示了一个严重差距：新兴的攻击能力正在增强，而防御体系没有跟上”。

报告还写道：“普通企业软件中的弱点竟能危及最先进组织的基础设施，这一事实应当为每一家企业敲响警钟。”

本月早些时候，联邦调查局逮捕了一名 ChatGPT 开发商 OpenAI 的员工。该员工涉嫌在一间高管会议室里放置录音设备。上个月，曾借助 Anthropic 的 Claude 聊天机器人侵入 OpenAI 系统的黑客警告称，AI 行业尚未准备好应对自身技术带来的安全风险。

Cathedral 由 DOGE 前成员创立，正寻求政府合同和私营部门机会。投资者对这家公司的估值为 14 亿美元。Cathedral 联合创始人 Gavin Kliger 在 DOGE 任职后，曾担任五角大楼首席数据官。

据数据公司 PitchBook，Cathedral 已从投资者处融资 1.6 亿美元。知名投资人 Marc Andreessen、Shaun Maguire 均在该公司董事会任职。

Anthropic 员工 Jacob Coxon 上个月公开辞职。他表示，自己担心 Anthropic 在处理危险 AI 技术时不够负责，其中包括依赖传统商业软件。他在 X 上发文称，公司押下了“一场傲慢的赌局，而这不该从一家私营公司的 Slack 上发起”。Slack 是 Anthropic 和许多其他科技公司使用的商业消息工具。

消息来源：