一名前25岁的高盛金融分析师与ChatGPT进行了极其令人不安的对话。今年早些时候，由Sam Altman领导的OpenAI公司发现了这些对话后，立即将此人举报给了FBI。

据《棕榈滩邮报》报道，这位前分析师达伦·周（Darren Zhou）多次通过ChatGPT对其前女友发出暴力威胁。

根据法庭记录，他对ChatGPT说：“这个月底之前我会杀了她。如果我得不到她，那就没人能得到。”

这起令人震惊的事件凸显了越来越多的危险人物利用AI聊天机器人来策划或激励自己犯罪，而这些对话记录也为执法部门提供了重要线索。

研究表明，使用聊天机器人可能会加剧心理疾病。在极端情况下，这些工具甚至可能引发所谓的“AI精神病”，导致部分用户陷入危险的妄想状态，甚至被强制送医或监禁。

过去几年，OpenAI的ChatGPT还曾被牵涉到多起大规模枪击事件，引发了公众对该公司在发现潜在犯罪者时应承担的报告责任的质疑。即使在惨案发生后，ChatGPT在绕过其防护机制后仍可能鼓励用户实施谋杀，并提供相关指导。

达伦·周对其21岁的前女友进行了严重的骚扰，包括侮辱、威胁和性骚扰信息。前女友向当地警方表示，她因其“情绪不稳定、嫉妒心强且控制欲强”的行为而选择分手，这激怒了他。

周告诉ChatGPT，“她没有收到任何威胁等信息”，但实际上，前女友正截图保存所有这些疯狂的内容，现已交给调查人员。

周于五月被捕，缴纳10万美元保释金后仅被关押两天。随后他与法官达成特别协议，避免了最高25年的监禁。根据《棕榈滩邮报》，他的律师称这是“极其公平和公正的解决方案”，周只需在八年缓刑期间佩戴两年脚踝监视器，接受心理健康评估，并完成施暴者干预项目。

当地州检察官表示，起诉方考虑了证据强度、受害者配合、犯罪前科和法定时效等多项因素。

高盛已向《未来主义》确认，周在今年六月初得知此事后被解雇。

更多关于ChatGPT的信息，请参见相关报道。