2023年10月，ChatGPT的开发者OpenAI宣布将开放“成熟应用”功能。CEO萨姆·奥特曼当时在推特上表示：“随着我们能够缓解严重的心理健康问题并拥有新工具，我们将在大多数情况下安全地放宽限制。”他补充说，作为“把成年用户当成成年人对待”原则的一部分，未来将允许更多内容，比如为经过验证的成年人提供情色内容。

然而，五个月过去了，这款能够触及此前ChatGPT禁区话题的“成人模式”聊天机器人仍未面世。批评者认为，这一举措可能是为了应对OpenAI面临的财务压力而推动的营收增长策略。

据《华尔街日报》报道，公司内部顾问对这一话题仍感到忧虑，担心让已经沉迷的用户参与带有亲密性质的对话可能带来诸多风险。事实上，许多员工和高管对奥特曼的承诺感到措手不及，短期内推出“成人模式”几乎不可能。

尽管存在用户情感依赖和强迫使用等风险的内部争论，OpenAI仍在推进该项目。公司本月早些时候承认，由于优先处理其他产品，“成人模式”的发布将被推迟。

安全问题依然突出。内部消息称，其新的年龄识别系统有12%的误判率，将未成年人误判为成年人。考虑到ChatGPT庞大的用户基数，这意味着数百万未成年人可能接触到不适当内容。

为防止平台出现非自愿的性图像——这是竞争对手Elon Musk的xAI一直难以解决的问题——OpenAI选择限制“成人模式”中的敏感对话仅限于文本内容。公司发言人向《华尔街日报》表示，其情色聊天更接近“情色小说”而非色情内容，并鼓励用户在现实生活中寻求真实关系。

不过，鉴于OpenAI在实施有效防护措施和内容审核方面的记录并不理想——尽管奥特曼声称“严重的心理健康问题”已不再是问题，但大量数据表明情况并非如此——“成人模式”的实际效果仍有待观察。

以xAI的Grok为例，用户曾利用该聊天机器人生成真实人物的裸体图像，导致大量非自愿色情内容在该平台泛滥。该平台因涉及儿童性虐待材料（CSAM）问题，近日在加州北区被三名青少年（包括两名未成年人）提起诉讼，指控xAI助长了CSAM的传播。

此外，用户与AI聊天机器人建立强烈情感联系的案例屡见不鲜，未成年用户尤其脆弱，常在家长不知情的情况下形成依赖关系。极端情况下，这种现象甚至与多起青少年自杀事件有关，导致针对OpenAI及其竞争对手的多起高调诉讼。

总的来说，OpenAI深知推出“成人模式”所面临的风险。据《华尔街日报》透露，公司计划在一个月左右推出该功能，但强调“我们仍然坚持把成年人当成成年人对待的原则，但要打造合适的体验还需要更多时间。”