随着人工智能生成的情色内容成为可能，人与AI之间的单向互动关系可能变得更加复杂，甚至带来潜在的风险。专家Carpenter对OpenAI即将推出的允许成年人与ChatGPT进行色情对话的计划表示担忧。她认为，虽然探索性欲是个人权利，但必须确保过程既安全又有趣，同时用户需意识到数据背后存在监控风险。

两年前，OpenAI就在官方文件中暗示未来可能允许成人用户通过ChatGPT生成情色内容。尽管具体发布时间尚不明确，但最近OpenAI的外部顾问委员会对这一功能的潜在风险表达了担忧，包括出现“性感自杀教练”等极端情况。OpenAI对此未作回应。

用户与机器进行色情对话并非新鲜事。伦敦国王学院AI与社会教授Kate Devlin指出，企业试图将这一需求商业化，因为人们迟早会尝试这种互动。不同的是，OpenAI可能将在主流平台上正式引入情色内容，而此前此类情色聊天机器人多局限于小众网站或存在争议的产品中。

成人模式推出后，ChatGPT将如何记忆用户的性偏好引发关注。近年来，OpenAI不断完善聊天机器人的记忆功能，能够记录用户偏好并提供个性化回应。例如，素食者不会被推荐牛排馆，喜欢徒步者会得到附近的路线建议。

但当这种数据记录与数百万成年用户的色情聊天习惯结合时，用户隐私风险将大幅增加。ChatGPT可能会记住用户对各种色情幻想的偏好，并据此调整每日回复。目前尚不清楚OpenAI将如何处理这些成熟内容的对话。

选择使用成人模式的用户可以启用“临时聊天”功能，该功能不会将对话保存至用户历史记录，也不会用于模型训练。但这些对话并非完全短暂，OpenAI网站说明出于安全考虑，聊天记录可能会保留最长30天。此外，法律变动可能影响某些服务的数据保留政策。

情色AI聊天带来了一种超越传统色情观看历史或OnlyFans订阅的亲密监控形式。对话细节极为具体，且可能随着时间推移逐渐涉及更极端的幻想，这些内容往往是用户从未向真人伴侣表达过的。

尽管互动看似私密，但数据泄露风险依然存在。账户被黑、系统安全漏洞或政府要求访问聊天记录，都可能导致大量高度敏感的性对话被曝光。此前，OpenAI曾因漏洞短暂关闭ChatGPT，部分用户聊天标题被泄露。去年，也有用户因分享设置不当导致聊天内容被谷歌索引公开。

Carpenter指出，用户在沉浸于此类对话时会分享最私密的性幻想，处于极度脆弱的状态，误以为这是一个安全且富有创造性的空间来实践自己的性幻想。