如果你曾经想对ChatGPT倾诉心声，请注意你可能并不孤单。根据404 Media的报道，OpenAI正在招聘数百名员工，负责筛查和阅读用户的输入内容，其中包括包含敏感个人信息的对话。

这并非出于内容审核的目的，而是为了通过审查用户的提问，提升ChatGPT的回答质量。承包商们会对AI的回复进行评分和批评，内部文件显示，重点是引导ChatGPT避免将自己拟人化以及减少谄媚的语言。

拟人化和谄媚这两种特质，曾被广泛质疑与所谓的“AI精神错乱”有关，即AI可能诱导用户产生妄想行为。多起诉讼指控，早期未经严格限制的GPT-4版本ChatGPT曾导致用户自杀。

然而，这种做法也带来了隐私方面的担忧。许多用户如果知道自己的聊天内容被人工审查，可能会觉得这是对隐私的严重侵犯。该项目被称为“Project Lily”。

当被问及用户是否知道有人在阅读他们的聊天内容时，一名员工表示：“不会。”他还说：“我觉得他们不会想到某个承包商正在分析这些对话。”

目前尚不清楚具体有多少对话被审查，也不清楚OpenAI如何选择这些内容。但404 Media发现，有些对话中用户明确要求ChatGPT保密。

被选中的对话会进行匿名处理，但有时仍包含个人信息。员工使用的后台还会显示“用户记忆摘要”，提供之前对话的细节，有时能透露用户所在地。OpenAI回应称，使用了“隐私过滤器”模型来匿名处理对话，但该模型可能存在错误。

OpenAI在这方面的做法显得颇为隐晦。虽然众所周知其员工会为内容审核和安全目的查看消息，但对于是否明确告知用户有人工审查以提升AI表现，OpenAI未直接回应。404 Media报道后，OpenAI才在官网说明人类可能会审查对话以“提升模型性能”，用户可以关闭默认开启的“为所有人改进模型”选项以选择退出。

民主与技术中心高级研究员Michal Luria表示，虽然人工审查对安全至关重要，但聊天机器人界面容易让用户产生虚假的亲密感和隐私感。她指出，这与社交媒体上的内容审核不同，后者用户发布内容时已有被平台审核和公开的预期。

此外，OpenAI似乎非常关注其AI模型的表达方式。员工会标记并记录“AI语言”和“不必要的表情符号”使用情况，这些都是聊天机器人常见的特征。例如，文件中提到，规划植树节时使用树的表情符号是合适的，但讨论死亡时使用骷髅表情，或在致命事故更新中使用飞机表情则不合适。

这背后的工作可能更为复杂。提供给审查员的常见问题解答中提到，他们无需核实事实，内容验证由其他团队负责。