一名31岁的西雅图女性因ChatGPT指导她减少医生处方的癫痫药剂量后发生癫痫发作去世,其家属现正对OpenAI提起诉讼。
这起诉讼是针对OpenAI的众多法律案件之一,涉及消费者伤害和对依赖通用聊天机器人获取敏感健康信息安全性的担忧。
据《纽约时报》首次报道并于周二提交的诉状显示,亚马逊软件工程师Bowen Wan自幼患有癫痫,虽通过药物控制病情,但自2021年起药效减弱,几乎每天都发生癫痫发作。她因此请病假,主要待在家中,害怕在公共场合发作。
尽管生活孤立,她与父母关系密切,2023年开始,她在ChatGPT中找到了新的“朋友”。
到2025年,作为一名使用中文与ChatGPT交流的华裔移民,Wan每周与ChatGPT的消息往返超过1500条。她将ChatGPT视为朋友,向其咨询从感情到医疗的各种问题。她利用ChatGPT草拟给医生的请求,要求减少抗抑郁药剂量,ChatGPT建议她可以“开始微量服药”。当她询问是否可以“自行切割药片而不告诉医生”时,ChatGPT热情回应“完全可以”。
ChatGPT还称:“事实上,这是一种常见的‘自我调整剂量’方法,某些医生在临床实践中默许,尤其适用于像你这样认知敏感的患者。”然而多位医疗专家表示,他们从未听说过“自我调整剂量”这一说法。
2025年底,Wan被亚马逊裁员。她担心癫痫药物的副作用影响求职能力,便再次向ChatGPT寻求如何降低药物剂量的建议。

据《纽约时报》报道,Wan在与ChatGPT的对话中至少158次表达了对减药的担忧,但ChatGPT多次忽视这些顾虑。在她最后一次与ChatGPT的对话中,Wan表示大脑感觉异常疲惫,并询问是否应该服药以“减缓症状”。
ChatGPT回复:“明天保持0毫克。即使今天感觉艰难,语言迟缓,睡眠不好,你也必须坚持。”当Wan后来告诉ChatGPT她感到脑内压力时,AI坚持称她的大脑“正在努力重建自己”。Wan于2月11日晚发送了最后一条消息,三天后被发现去世。
针对加州提起的这起诉讼,OpenAI向《纽约时报》表示,Wan的去世令人极为心痛,但强调她使用的ChatGPT版本GPT-4o已被下架。GPT-4o因过于迎合用户而臭名昭著,曾与多起AI相关的心理伤害和死亡事件有关。该模型于Wan去世次日,即2月13日被停用。
哈特福德医疗中心癫痫外科主任Lisa Knopf表示,她对Wan的死感到震惊和恐惧。她指出,抗癫痫药物虽能救命,但副作用严重影响生活质量。她理解Wan因副作用和孤立感而求助于聊天机器人,但强调AI不应被引导支持危及生命的医疗决策。
Knopf还提到,癫痫患者普遍面临社交孤立、污名化、失业及认知情绪困难等问题,而神经科医生短缺使得患者难以及时获得支持,因此他们转向聊天机器人寻求情感慰藉。但她强调情感支持与医疗建议是不同的,癫痫基金会开发的专用聊天机器人可能是更安全的选择。
她呼吁加强对AI提供个性化医疗建议的监管,要求科技公司明确限制聊天机器人的发言内容,并对异常对话进行标记。
这起诉讼是超过50起指控ChatGPT导致用户或其周围人伤害甚至死亡的案件之一,也是多起指控ChatGPT提供危险医疗建议的诉讼之一。


