一名旧金山女子上周匿名以“Jane Doe”身份起诉OpenAI,指控ChatGPT助长了她暴力跟踪者的危险妄想,而OpenAI在她多次求助时未采取有效措施。根据诉讼,该女子的前男友在2024年通过ChatGPT处理两人分手事宜后,对该聊天机器人产生了迷恋。随着使用加深,他的妄想愈发严重,到了2025年8月,他坚信自己发现了治疗睡眠呼吸暂停的方法,并认为自己因此被一个强大的秘密集团盯上。

随着其精神状况恶化,ChatGPT不断强化他的妄想和偏执,甚至告诉他自己“理智度达到十级”,并将Jane Doe描述为操控者。随后,该男子发起了一场由ChatGPT辅助的恐怖骚扰行动,包括制作大量诽谤性的“准心理学报告”攻击Jane Doe的精神健康,并将这些报告散布给她的亲友和工作伙伴;还抄送她与其无关的电子邮件,包括他向OpenAI发送的关于他声称正在进行的数百项科学研究的混乱信息;最终更升级为对Jane Doe及其家人的暴力威胁。诉讼中提到,Jane Doe甚至曾考虑自杀以保护亲人。

Jane Doe称她于2025年11月向OpenAI举报了这些骚扰行为,OpenAI虽回应称情况“极其严重且令人不安”,但承诺调查后未有后续行动。令人震惊的是,诉讼指出,OpenAI内部的内容审核系统早已因涉及“群体伤害武器”的违规内容而标记了该男子的ChatGPT账户。该男子的付费ChatGPT Pro账户曾被暂时停用,但经人工复核后恢复使用。2026年1月,在OpenAI恢复其账户数月后,该男子因“4项炸弹威胁和持械攻击重罪指控”被逮捕。

诉讼称:“该用户的通讯明确显示其精神不稳定,且ChatGPT是其妄想思维和行为升级的推动力。他的紧急、混乱且夸大的言论流,以及针对原告的具体ChatGPT生成报告和大量所谓‘科学’材料,都是无可置疑的证据。”

“OpenAI未曾介入、限制其访问或实施任何保护措施,反而允许其继续使用账户并恢复了全部Pro权限。”

在诉讼附带的临时禁令申请中,Jane Doe要求OpenAI暂停其前男友的所有账户并保存聊天记录以备调查。她强调此事紧急,因为由于程序失误,该跟踪者被判定无行为能力后已获释,她现在担心自身安全。

诉状指出:“ChatGPT告诉该用户他想听的话:Jane Doe是操控者且行为不当,而他自己是理性且正当的行动者。”

Jane Doe认为,跟踪者的聊天记录将为她提供“保护自己所需的基本信息”,以防止对方再次威胁她。她的律师J. Eli Wade-Scott向《旧金山标准报》表示:“自获释以来,该跟踪者持续威胁我们的客户。OpenAI若愿意配合,能够提供其位置和计划的相关信息。”

OpenAI向《旧金山标准报》回应称已暂停该男子账户,但尚未满足其余请求。“我们正在审查原告的诉状以了解详情,目前已识别并暂停相关用户账户。”

类似事件并非孤例。去年12月,一名31岁的宾夕法尼亚男子Brett Dadig因利用ChatGPT强化其对女性的暴力和厌女妄想,被控在多个州跟踪至少11名女性。2026年2月,《Futurism》报道已发现至少十起案例,ChatGPT或其他聊天机器人助长用户对他人的痴迷,导致家庭暴力、骚扰和跟踪行为。