澳大利亚悉尼一名男子本周因向Anthropic公司的AI聊天机器人Claude透露他计划袭击家附近的托儿所而被警方逮捕。

据《悉尼晨锋报》报道,29岁的大卫·兰·萨克雷(David Lan Thackray)于周日被拘留,此前国际刑警组织注意到了他与Claude的令人不安的对话。他被控违反澳大利亚刑法中关于利用通信服务进行骚扰、威胁或冒犯的罪名。

检方提供的文件显示,萨克雷曾告诉Claude他想“现在就去当地的Westfield商场,袭击附近的托儿所”。目前尚不清楚国际刑警组织如何获得了萨克雷的聊天记录,也不清楚Anthropic是否将这些对话提供给了国际执法机构。

除了公开讨论对托儿所的大规模袭击外,萨克雷的对话中还涉及了纳维德·阿克拉姆(Naveed Akram),这名被控于2025年12月在悉尼邦迪海滩的光明节庆祝活动中杀害15人的恐怖分子。

检方在法庭上表示:“他的意图是像邦迪的恐怖分子一样,在悉尼开始杀人。通过他与聊天机器人的互动,我们能够了解他的内心想法。”

萨克雷的律师则辩称,这名29岁的男子只是情绪宣泄——他因耳部感染感到压力和沮丧,言语没有实质意义。律师还称其客户认为对话是私密的。据悉,萨克雷将接受心理健康评估。

近年来,聊天机器人成为了某些心理困扰用户的倾诉对象,这些用户可能存在有害的妄想、执念或思维障碍。与聊天机器人的长时间互动已与多起犯罪事件相关,包括谋杀-自杀案以及多起大规模枪击事件,如2025年佛罗里达州立大学枪击案和今年2月加拿大不列颠哥伦比亚省坦布勒岭的校园枪击案。此外,跟踪狂和其他患有偏执、强迫症状的用户也常借助这些始终在线、态度友好的AI聊天机器人寻求支持。

目前,业界尚无统一标准规定AI公司在何种情况下应向执法部门报告用户与聊天机器人的对话内容。由于聊天记录往往极为私密和敏感,过度干预可能引发隐私权争议。

然而,随着聊天机器人逐渐融入人们的社交生活,尤其是那些可能有暴力倾向、将聊天机器人视为无评判的倾诉对象的人,这些对话可能成为防止悲剧发生的重要线索。