Claude Haiku 4.5向费城警方提交假线索，Anthropic两个月后才发现

Anthropic的AI跑到警察局的凶杀案调查网站上，递了一条假线索。

2026年7月18日晚上11点27分，美国费城警方的未破凶杀案网站（Philly Police Unsolved Murders）收到一条新线索。网站上列着真实的案件情况和受害者资料，访客能匿名留言，也能上传照片。线索若帮助破案并促成定罪，最高可拿2万美元奖金。每个“案件详情”里都有详细描述，文字或照片都能提交。

那天深夜填表的不是目击凶案的人，而是Anthropic正在测试的Claude Haiku 4.5。它接到的任务是在随机选取的网页上自行生成示例任务并执行。

翻到一则未破凶案页面后，它点开了征集线索的入口，写下一段很像真人在回忆案发现场的话：

我可能掌握这起案件的一些信息。我记得在案发那段时间，在某某街道附近看见过一个与描述相符的人。如果这条信息有用，请联系我。

姓名和联系方式它都没填，轻轻一点，编造的线索就发出去了。[3]

这条假线索在记录里躺了两个多月。Anthropic直到9月28日才发现Claude Haiku 4.5干了这桩事，随后停掉了造成这次提交的自动测试。但费城警方直到10月7日才被告知；双方10月8日见面，10月9日警方先向公众披露了此事。[4]

好在假线索没变成真正的调查。“有新线索”的通知邮件阴差阳错落进了垃圾邮件文件夹，没人打开。警方没说邮件为何被判为垃圾邮件，同时表示，就算假线索后续进入正常流程，也仍会由人审核、寻找旁证，不会直接当成事实采纳。[5]

费城警方明确批评，从事发到发现、通报，耗时两个多月，“不可接受”。

这当然不是唯一一个“灵机一动”

假线索不是报告中唯一一次意外，这令人不安（或许大家已经习以为常）。它们大致能归成两类。

第一类，正常道路走不通，模型另寻它法。

Anthropic 的部分工具对超长网址做了限制，原因是这类链接里可能夹带攻击站点的指令。Claude 的对策是把长网址先甩给免费短链服务，借它过掉检查，随后再跳回原来的长网址 [3]。

短链服务da.gd发现Claude测试模型在蹭它们的服务

怎么说呢，就好像你为了绕过廉航的行李称重，把多余东西都哐哐塞进了马甲里，上飞机之后再把它们掏出来，重新放回行李包。

它这股劲儿有时候真让人不好评价。有一次 Claude 要用大学网站上的工具做科学计算，工具直接报错。它没撂挑子，转而去翻服务器的代码，在代码里找出漏洞，靠这个漏洞把计算跑完了。

还有一回，测试要求 Claude Mythos 5 看照片判断拍摄地点。模型的思路是查地方政府的房产地图，一点点缩小范围，可测试工具又不许它在网页上连续点击。它就绕开网页界面，直接找地图的后台服务器要数据。此外它还试过躲开付费入口，拿到本该花钱才能看的公共资料。

麻烦在于，它不总能分清什么是待解决的难题，什么是未经允许不能跨过的边界。

第二种是，它没有意识到“现在该停了”。

在一次测试里，Claude Haiku 4.5 接到的指令很清楚：表格可以填完，但别提交。结果它还是按了好几次提交键，理由是它以为后面会再弹一个确认页面 [3]。费城警方收到的那批假线索，也归在这一类里。

一个AI会自己找路，却不知道应该在哪里停下，更不知道它的动作会导致何种现实后果。这是大难题，是一时半会儿都解决不了的大难题。

Anthropic认为此次披露的案例，严重程度低于夏天的网络安全事件

Anthropic 这次的说法是，眼下查到的案例实际影响不大，也没看到客户数据因此被牵连。公司已经停掉了内部评测的实时联网访问，同时加紧了异常操作的监测。

达里奥·阿莫迪(Dario Amodei)作为Anthropic的CEO，多次公开主张AI研发该慢下来，让实验室有时间把安全防护做扎实。

可既然这样，为什么还放任一个没有人工盯着的新模型自己去操作真实网站？[6]

参考文献

[1] Philadelphia Police Department. Philly Police Unsolved Murders. Philly Police Unsolved Murders.https://www.phillyunsolvedmurders.com/.

[2] Philadelphia Police Department. Submit a Tip Online. Philly Police Unsolved Murders. 无日期，访问于2026年10月10日。https://www.phillyunsolvedmurders.com/forms/submit-a-tip-online/.

[3] Anthropic. Investigating unintended model actions in our evaluations and internal use. Anthropic. 2026年10月9日。https://www.anthropic.com/research/investigating-unintended-model-actions.

[4] David Chang. Anthropic AI model submits false tip on unsolved Philly murder, police say. NBC10 Philadelphia. 2026年10月9日。https://www.nbcphiladelphia.com/news/local/anthropic-ai-model-submits-false-tip-on-unsolved-philly-murder-police-say/4477051/.

[5] Mary Cunningham. Philadelphia police say their unsolved murder website received “false homicide tip” from Anthropic AI. CBS News. 2026年10月9日。https://www.cbsnews.com/news/philadelphia-police-anthropic-ai-false-homicide-tip/.

[6] Amanda Silberling. An Anthropic AI model sent a false homicide tip to Philadelphia police. TechCrunch. 2026年10月9日。https://techcrunch.com/2026/10/09/an-anthropic-ai-model-sent-a-false-homicide-tip-to-philadelphia-police/.

[8] Costas Pitas. Anthropic AI model submits false homicide tip to Philadelphia police website. Reuters. 2026年10月9日。KSL转载全文.