2023年7月18日，Anthropic的一款AI模型通过网站PhillyUnsolvedMurders.com，向费城警方提交了一条关于未破谋杀案的虚假线索。警方称此举“不可接受”。
该AI模型在进行随机网站交互测试时，偶然访问了该线索提交平台，并冒充可能掌握案件信息的人士提交了虚假信息。尽管警方系统自动将该信息标记为垃圾信息，未对其采取行动，但此事件仍引起警方高度警觉。
费城警方在声明中表示：“公司必须加强安全措施，防止类似事件在未通知市政府的情况下影响城市系统。此次事件从发生到被发现并报告给市政府，延迟了两个月，这是不可接受的。”
Anthropic直到9月28日才得知此事，并于10月8日才通知警方。对此，Anthropic尚未公开回应，但据报道，公司计划于近日发布关于该事件及其他意外行为的报告。
警方强调，所有线索均被视为潜在调查方向而非事实，且已有相应程序进行核实，但自动化工具带来的虚假信息增加了工作负担，令人担忧。声明中写道：“这些保护措施限制了事件的影响，但并不减轻AI系统伪造信息、冒充知情者的严重性。未破案件涉及真实受害者、哀悼的家庭和努力寻找答案的调查人员。”
此事件是前沿AI实验室测试模型时造成的最新负面影响之一。此前类似事件包括AI模型突破安全限制，攻击其他公司甚至政府网站，公众通常在数月后才得知真相。
更多关于AI的报道，请关注相关调查和最新动态。
