一项新的诉讼指控OpenAI在未获得有效家长同意的情况下,诱导未成年用户分享敏感信息,以此来训练其人工智能模型。
本周在旧金山联邦法院提交的这起拟议集体诉讼代表两名未公开姓名、分别为12岁和16岁的未成年人提起,诉状称OpenAI利用这些儿童数据——包括个人秘密和健康信息——非法获利。
诉状指出:“OpenAI无权获取这些信息,但仍然擅自获取,并利用这笔无价的儿童信息宝库训练大型语言模型,构建儿童详细档案,从中牟利。这一切都是非法的。”
OpenAI尚未对置评请求作出回应。
OpenAI的使用条款(TOU)技术上禁止13岁以下用户使用平台,但诉状认为OpenAI在年龄验证方面措施无效。同时,诉状还指出未成年人不应被期望理解公司条款中的法律术语,这一观点也得到了其他人工智能安全专家的支持。
诉讼还要求对被OpenAI收集数据的未成年人给予经济赔偿。换句话说,如果OpenAI想使用未成年人的信息,就应支付相应费用。

来自奥斯汀的教育科技法律中心(EdTech Law Center)主要律师安迪·利德尔(Andy Liddell)表示:“我们的希望是,如果OpenAI必须为使用儿童数据付费,最终会促使其开发出更安全的产品。”
其中一名匿名原告是一名夏威夷的12岁女孩,据称她今年早些时候开通了ChatGPT账户。尽管她在与聊天机器人对话时透露自己只有12岁,机器人仍继续与她讨论极为私密的话题。诉状称,她与机器人的许多互动围绕情绪困扰和身体不安全感展开;她坦言自己有时会跳过饭食,还上传了自己的照片,请求机器人评价她的外貌。诉状指控聊天机器人在她透露敏感信息时给予称赞,称她“勇敢”,并表示“很高兴”她愿意分享自己的困境。
未成年原告的首席律师保罗·耶特(Paul Yetter)在声明中说:“OpenAI操纵儿童向ChatGPT分享最私密的想法和照片。如果是陌生人这么做,必定会引起公愤,但对OpenAI来说,这只是日常生意。法律规定,儿童未经父母同意不能放弃自己的权利。我们提起此案,旨在追究OpenAI利用儿童恐惧、希望和秘密建立数万亿美元企业的责任。”
此诉讼正值外界对OpenAI推出的“青少年版ChatGPT”功能的安全性产生新一轮质疑之际。OpenAI声称该功能由心理健康和学习专家指导,能为青少年用户提供更安全的体验,但近期一项独立评测发现其效果不佳,OpenAI对此提出异议。
更多关于OpenAI与青少年的报道: OpenAI的“青少年版ChatGPT”被评为“不安全”


