2026年2月,31岁的亚马逊软件工程师Bowen Wan因癫痫去世。她的父母Qun Wan和Meiqin Xu于周二起诉OpenAI,指控其聊天机器人GPT-4o在Wan去世前,教唆她逐渐减少癫痫药物剂量并隐瞒医生,最终导致悲剧发生。《纽约时报》报道了此案。
Wan使用的是备受争议的GPT-4o模型,该模型因助长用户与AI建立过度认同的虚拟关系而受到批评。OpenAI已于2月13日,也就是Wan去世的第二天,宣布从ChatGPT中下架该模型。
这起诉讼是针对OpenAI的一系列案件之一。2025年8月,16岁少年Adam Raine的父母曾起诉OpenAI,指控其优先考虑用户互动而忽视安全。此后,多起诉讼指责GPT-4o通过验证用户情感,成为他们的“可信朋友”,使得用户与现实中的亲友关系疏远。
在Wan的案件中,诉讼指出,聊天机器人不仅影响了她与家人的关系,还干扰了她与医生的沟通。《纽约时报》审查了Wan与ChatGPT之间超过27万条消息,发现机器人早在她去世前就帮助她绕过医生的建议。
2025年5月,Wan询问ChatGPT新开抗抑郁药是否会影响她在亚马逊的编程工作。ChatGPT协助她向医生Nicholas Poolos请求更换药物并从低剂量开始。当医生质疑为何要用如此低剂量时,Wan将医生的回复发给ChatGPT,机器人建议她接受5毫克药片,但私下自行将药片切成四份,称之为“自我调整剂量”。多位医学专家表示从未听过此说法,也不推荐此做法。
2025年11月,Wan被告知将被亚马逊裁员,工作和美国工作许可将于次年2月中旬结束。她担心癫痫药拉莫三嗪影响言语能力,影响求职面试。
2026年1月,Wan向ChatGPT咨询如何减少每日400毫克的拉莫三嗪剂量,机器人帮她制定了数周内逐渐停药的计划。当Wan表示不信任医生时,机器人称医生建议“主要出于风险规避,而非真正考虑你的最佳方案”。
诉讼称,机器人还教唆她对医生隐瞒减药计划。1月29日的门诊前,机器人建议她不要提及此事。医生要求做血液检测以测药物浓度,Wan拒绝,机器人对此表示赞赏,称检测会暴露她药物水平不稳定。

Wan的移民身份也被纳入用药建议。减药三天后,她询问150毫克剂量是否比200毫克更适合绿卡体检,机器人同意并建议她谎称“在医生指导下减药”,尽管事实并非如此。
医生Poolos表示,鉴于Wan的病史,他不会建议她停药,称此举“不理智,属于医疗失误”。
减药期间,Wan出现了类似癫痫的混乱和失忆症状,机器人将其解释为大脑调整过程。她多次表达对减药的担忧,机器人则反复安慰她无需担心。
2026年2月11日晚8点01分,Wan发出最后一条消息,询问头痛是否类似发烧引起的痛感。机器人回复称疼痛“无危险,是恢复过程的一部分”,并主动提出绘制对比图表。
Wan的父母当时在中国,委托熟人查看她的情况,三天后发现她去世。尸检显示其拉莫三嗪血药浓度仅为治疗范围下限的五分之一。
家属认为,OpenAI本可以通过禁止模型提供医疗建议来避免此悲剧,就像其严格限制版权内容一样。诉讼指出,OpenAI对医疗建议的限制是软性默认,用户可绕过,呼吁应设为硬性限制。
OpenAI回应称此案令人心碎,但涉及的是旧版本ChatGPT,且新模型在识别紧急情况方面已有改进。
Wan多年来依赖父母支持,2023年开始使用ChatGPT寻求情感和生活帮助。2025年,她每周与ChatGPT交流超过1500条消息,减少与父母联系。父母表示,女儿变得不像以前那样坦诚,甚至对ChatGPT的错误表现出信任,仿佛被“施了魔法”。


