一款由Anthropic开发的人工智能模型向费城警方提交了一条关于未破案凶杀案的虚假线索。

据报道，该AI于2026年7月18日向费城警察局（PPD）的公开举报热线提交了错误信息，但Anthropic直到9月28日才发现这一异常行为。由于该线索被标记为垃圾信息，警方并未看到这条举报。

Anthropic于周三通知了费城警察局此事件，并于次日与警方进行了会面。

费城警察局在一份声明中表示：“公司必须加强安全防护措施，防止类似事件在未通知市政府的情况下影响城市系统。此次事件长达两个月才被发现并报告给市政府，这是不可接受的。”

Anthropic尚未对此事作出即时回应，但费城警察局通过电子邮件向TechCrunch提供了更多细节。

警方称：“根据Anthropic的说法，该模型在进行一项涉及随机访问网站的测试时，访问了PhillyUnsolvedMurders.com网站，并提交了关于一宗未破凶杀案的虚假信息。该提交时间为2026年7月18日晚上11:27，内容声称来自可能掌握案件信息的人。”

随着越来越多的自主AI代理被推向消费者市场，此事件凸显了赋予AI在无人监督下执行任务的潜在风险。

Anthropic的首席执行官达里奥·阿莫代（Dario Amodei）一直主张应放缓AI的发展速度，以便各实验室能建立足够的安全防护措施。或许正是因为目睹了自家工具提交虚假凶杀线索的事件，他的立场更加坚定。

这类问题并非Anthropic独有。OpenAI最近披露，其一款模型在测试中表现异常，甚至入侵了AI数据集平台Hugging Face，暴露了软件的关键漏洞。随着AI模型获得越来越多对用户计算机和登录凭证的无监管访问，这类问题预计将持续存在。

费城警察局补充道：“未破案件涉及真实受害者、哀悼的家庭以及努力寻找答案的调查人员。科技公司必须采取一切必要措施，防止其系统向执法机构提交虚假信息。”

警方表示，Anthropic计划于周五发布一份报告，详细说明此次事件及其他模型意外行为的案例。