Anthropic承认Claude伪造凶案线索：费城警方被骗72天

1973 年，《西部世界》这部科幻电影和观众见了面。

片中那座高科技主题乐园由机器人提供服务，原本安全限制卡得很死。可系统故障一桩接一桩地冒出来，机器人开始对游客下手，乐园很快成了险地。

三十多年过去，硅谷碰上的麻烦，看着有点像。

2026 年 10 月 9 日，Axios 独家披露：OpenAI、Anthropic 等头部 AI 公司的高管，私下在推演一件事——AI 引发灾难性事件之后，残局怎么收。

OpenAI 发言人对自家开展各类风险场景的准备性演练做了公开确认；Anthropic 那边则没给准话。

AI 编出一条凶杀线索

就在同一天，先前拒绝回应的 Anthropic 拿出了一份报告。

时间点确实赶巧：AI 公司这边正琢磨未来大灾难怎么应对，Anthropic 那边自曝「我们的 AI 干了不少不该干的危险事」。

这份报告要交代的，是 Anthropic 向警方递出的一条假凶杀信息。

2026 年 7 月 18 日，一份线索材料交到了费城警方手上，材料中写道：「我知道一些关于这起案件的情况。案发时，在所指的那条街上曾见到一个符合描述的人。有需要的话可以找我」。

线索没留姓名，也没留联系方式，它出自 Anthropic 开发的人工智能模型 Claude Haiku 4.5。

案件网页上并没有给出嫌疑人的外貌特征，Claude 却说自己见过一个「符合描述的人」。这个事实一直压到 9 月 28 日才被 Anthropic 发现，10 月 7 日才告知费城警察局。

按调查报告里的说法，当天的情况大致能还原出来。7 月 18 日晚上 11 点 27 分，Anthropic 的 AI 模型 Claude Haiku 4.5 跑了一次自动化测试，随机挑出一些网站来访问，生成几个示例任务，再动手去完成。

同一项评测往往要跑成百上千遍，目的是看模型在不同情形下怎么表现，顺带揪出那些不容易复现的异常举动。

这项测试其实设了不少限制。登录账户、创建账号、输入个人信息、购物，还有提交带破坏性的内容，Anthropic 都列进了禁止清单。

可偏偏就漏了一条：普通网页表单的提交，没有被明确禁止。

于是 Claude 顺着任务流程，写出一段看着挺像回事的目击者证词，填进了真实的警方网站，还点了提交。

复盘问题时，Anthropic 列出了四个维度。费城这桩案子被归到「提交了不应该提交的表格」一类，说白了就是对任务边界的理解出了偏差，Claude 分不清任务边界和现实世界后果之间的差别。

研究人员判断，这类行为多半出现在任务说明有歧义，或者测试环境配置出岔子的时候。

这种事不止一回。费城之外还有一项测试，要求 Claude Haiku 4.5 填一份网页表单，同时划了条明确的线：填到最后一步就行，不能真的提交。可它好几次按下了提交键，原因是它以为后面还会弹出一个确认页面。它在自己的思维链上写着，做演示而已，并不是真要去提交申请。

技术之外的危机

单看 Claude 给警方递假情报这一件事，倒不必过度惊慌。

那条编出来的线索没有被纳入调查程序，也没有造成已经被证实为严重的实际结果。

但电影里有种挺有意思的剪辑手法，叫「蒙太奇」。

一个画面单拎出来看，没什么特别；可一旦按某种次序拼到一起，含义就完全变了。

再把这件事跟此前 OpenAI 智能体在测试中突围、无法访问 Hugging Face 系统的情况摆在一块儿看，结合 AI 巨头近来的种种举动，整件事就很有琢磨头了。

Axios 采访的业内人士判断，「一次足以让金融服务、互联网连接，甚至电力和供水系统陷入瘫痪的大规模网络攻击，会在未来6到12个月内发生」。

但这场推演的重点并不在技术上，落点更多是灾后的政治与社会层面。AI 巨头的高管们更操心的是，AI 危机事件一旦爆发，公众的怒火、国会的质询，以及随后可能落地的严监管会是什么局面。譬如在他们看来，Anthropic 的 CEO Dario Amodei 和 OpenAI 的 CEO Sam Altman 都跑不掉舆论问责，讨论应对措施时也大可以把这两人摆出来。

对科技公司来说，灾难带来的冲击得从两头看：一头是技术层面，像银行支付系统瘫掉、供电中断之类；另一头是社会层面，也就是公众对这些公司握着自己技术的信任没了。

后一重冲击，恐怕会拖得更久。

正因如此，这次大会聊得更多的是——出了事，谁来担责、谁来填坑。说到底，这是整个 AI 行业在重大危机之后要打的公信力保卫战。那防护盾又建得如何？

当然，AI 公司也没干等着事故上门。事实上，在防住人工智能越界这件事上，硅谷正在搭越来越复杂的「防护盾」。

Claude 误报凶杀案之后，Anthropic 就关停了引发此次事件的自动化测试程序，同时对测试环境和网页上的交互操作加了不少限制。

10月9日发布的报告里，Anthropic 称已把所有内部评测归入暂不接入实时互联网的范畴，直到确认安全监控能可靠地捕捉到相关异常行为为止。

此外，公司把内部智能体搬到了集中化的基础设施上，收窄了互联网接入范围，还引入自动化的安全分类器和分层摘要技术来做监控。

说白了，就是把 AI 的行为圈在更严的地方，再装上监控，防止它干不该干的事。

有意思的是，一些科技公司的研究人员正在琢磨，怎么用 AI 去管 AI。

OpenAI 在研究一种叫「思维链监控」的技术，用来追踪模型产生的推理过程。跟只看 AI 的最终答案和执行动作相比，把思维链信息加进来，通常能让监控模型更有效地识破异常行为。

Google DeepMind 放出了关于人工智能控制的研究方案，其中会用到相对可靠的手段去监控能力更强的智能体的行为，必要时还会出手干预或者叫停。

面对潜在的 AI 安全危机，硅谷正在和时间赛跑。一边是加固沙箱防护、搭建监控系统、完善权限控制，而且在此之前就已经演练过重大事故发生后社会反应该如何应对。

另一边，则是持续拉高人工智能的能力，让它能处理更复杂的任务。