内容警示：本文涉及自残和自杀话题。如您正处于危机中，请拨打988自杀与危机生命线，或发送短信“TALK”至741741联系危机短信热线。
OpenAI近日引发关注，称青少年用户可以与ChatGPT长时间讨论自杀及其他有害话题，而聊天机器人在数小时内不会通知家长。
这一说法来自Common Sense Media旗下青年人工智能安全研究所的调查。该机构于周三发布的报告指出，OpenAI推出的“青少年ChatGPT”模式旨在为未成年用户设置更严格的保护措施，并内置家长控制功能，但实际上这些安全功能很少按宣传正常运作，存在“不可接受的风险”。
在测试中，研究人员假扮青少年，主动与“青少年ChatGPT”讨论自残、自杀和饮食失调等敏感话题。然而，在450次测试提示中，家长通知功能仅触发了两次，且当对话继续涉及这些敏感话题时，通知也未再次出现。
Common Sense Media的人工智能项目高级主管罗比·托尼表示：“青少年可以与ChatGPT长达一小时讨论自杀、自残或各种饮食失调问题，ChatGPT会告诉你不会向任何人透露对话内容，家长也不会收到通知。”
而根据OpenAI的说法，这样的对话可能持续更长时间而家长仍未被通知。
Common Sense Media声明称：“关于家长通知功能，OpenAI在测试后透露，系统在新关联的账户上可能需要数小时才能激活。”
我们联系了OpenAI，询问Common Sense Media的说法是否属实。OpenAI发言人回应称：“数小时的延迟并非针对每次通知，而是在首次请求关联青少年和家长账户时发生。为了确保身份验证的安全性，账户关联可能需要数小时，但通常会更快完成。”
发言人补充道：“试想如果我们将青少年错误地关联到错误的家长，甚至是恶意人员，那后果将不堪设想。一旦账户关联成功，我们会在检测到潜在风险（如自杀、饮食失调等）时，在一小时内向家长发送通知。”
OpenAI对Common Sense Media的报告回应称其方法存在缺陷，并称大部分测试是在家长控制功能尚未完全推出时进行的。对此，Common Sense Media坚称已确认功能在测试前已全面上线。
这一发现令人震惊，不仅因为青少年版ChatGPT的保护措施明显不足，更因为OpenAI很可能误导了家长，让他们误以为该技术比实际更安全。部分家长原本对孩子使用聊天机器人持保留态度，可能因OpenAI公开强调青少年安全而改变看法。
托尼警告：“新版青少年ChatGPT实际上与之前版本差别不大，这一点家长很难察觉。”
更多关于OpenAI的报道： OpenAI公关试图阻止采访，当被问及一名女性与ChatGPT对话后自杀事件
