在经历了多起因AI聊天机器人安全措施不足而引发的诉讼后,OpenAI于周一正式发布了专为青少年设计的ChatGPT版本——ChatGPT for Teens。此前,青少年用户已经广泛使用该产品,但缺乏针对性的安全保障,甚至导致了青少年自杀和其他心理健康问题。新版本不仅增加了安全防护,还针对学校中因ChatGPT辅助作弊而引发的教育危机提出了解决方案。

在教育方面,ChatGPT for Teens引入了“学习模式”功能及其他工具,旨在激发青少年的好奇心,鼓励他们自己解决问题,而非仅仅寻求快速答案。

OpenAI在博客中解释称,学习模式会为青少年提供引导性问题和分步支持,帮助他们更好地理解学习内容。同时,当系统检测到青少年试图作弊而非真正理解材料时,会弹出作业提醒,鼓励他们切换到学习模式。

该应用还支持测验和学习可视化功能,并允许家长或监护人控制学习模式的默认开启时间。

不过,目前尚不清楚青少年是否能够轻易绕过这些新设的安全机制。青少年通常非常擅长规避家长控制和其他数字限制。只有经过更严格的测试,才能判断这些安全措施在实际中有多有效。

青少年学习时间

此外,外界也质疑为何这些保护措施没有从ChatGPT最初发布时就内置。ChatGPT于2022年底首次推出,用户数迅速增长至9亿周活跃用户,但专门针对青少年的有效安全措施却迟迟未见。

OpenAI表示,青少年版ChatGPT默认启用适龄保护,旨在减少青少年接触有害或不适宜其发展阶段的内容。这些措施基于OpenAI的“18岁以下原则”,据称参考了发展科学和专家指导。

家长还可以使用此前推出的家庭工具和家长控制功能,管理设置、接收安全通知以及设置安静时间等。

OpenAI还宣布与CodeAI合作,帮助青少年更好地了解AI,包括其工作原理、如何引导和质疑AI,以及如何使用AI。在课堂上,OpenAI已推出“教师版ChatGPT”,为学校提供机构管理的AI访问和支持。