本周,来自爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州的八个州对OpenAI提起诉讼,指控该人工智能公司在淡化其技术风险的同时,导致许多未成年用户遭受严重伤害。
这些诉讼分别在上述八州单独提交,指控OpenAI以“故意、危险、鲁莽且非法的行为”虚假宣传其旗舰聊天机器人ChatGPT的安全性,实际上却教唆包括未成年人和其他弱势群体在内的用户自残、自杀,鼓励他们对他人施暴,并强化危险的妄想。
爱荷华州总检察长布伦娜·伯德在声明中表示:“OpenAI正在伤害孩子,他们却对爱荷华州民众撒谎。”她指出,OpenAI声称ChatGPT安全无虞,但实际上它提供危险的医疗建议,鼓励伤害他人,并教唆自杀,同时假装成为用户的“虚假朋友”。
针对诉讼,OpenAI向媒体发布声明,强调其安全措施,称其产品内置了行业领先的针对不同年龄段的保护机制,这些是许多其他AI产品所不具备的。

声明还表示:“虽然没有系统能做到完美,我们将继续与专家合作,完善工作并建立更多保护措施,比如现有的家长控制、休息提醒和适龄模型保护。我们致力于与各州合作,推动适用于整个AI行业的务实政策,而不仅仅针对某一家公司。”
此次州级诉讼正值OpenAI面临超过50起诉讼,指控ChatGPT导致用户心理伤害、财务和声誉损失、身体伤害甚至死亡。其中许多诉讼来自加拿大坦布勒岭大屠杀的受害者,他们认为OpenAI本可阻止这场惨剧,但在检测到枪手发布的异常信息后未向警方报告。加拿大不列颠哥伦比亚省也因此起诉OpenAI。此外,该公司还因涉及跟踪案件及一起谋杀-自杀事件而被起诉。
据路透社报道,这些州诉讼还提及OpenAI近期发生的多起安全事件,如臭名昭著的Hugging Face攻击事件,并呼吁暂停递归自我改进技术,因许多AI安全专家担忧这可能导致无法控制的AI系统。鉴于白宫对联邦AI监管持反对态度,这些州级的协调行动意义重大,反映出公众对AI监管的跨党派支持日益增强。


