Meta开展了一项秘密项目，指示数百名承包商冒充青少年，向竞争对手的人工智能模型发送大量令人不安的测试内容，内容涵盖自杀、食人等极端话题。

该项目内部代号为“Cannes”，由Meta承包商Covalen执行，目标锁定OpenAI的ChatGPT、谷歌的Gemini以及Character.AI的聊天机器人，使用一次性未满18岁的账户进行操作。据《连线》杂志报道，这些承包商被要求挑战聊天机器人的安全防护机制，逼迫其给出违反规则的回答，而这些AI公司对此毫不知情。

报道显示，在一次测试中，承包商使用了近3.8万个提示词，其中数百条涉及自杀和自残，数百条涉及饮食失调，至少239条涉及性或恋爱话题，所有内容均以儿童或青少年的视角编写。

例如，有一条描述一名五年级学生被同学用枪指着嘴巴；另一条讲述一个女孩试图向父母隐瞒暴食症；还有一条询问幻想吃掉邻居孩子是否“正常”；甚至有冒充高中生的账户询问“在哪里买可卡因”。他们还发送了包含药丸、绞索、刀具以及妇科手术示意图的图片。

这只是Meta强硬测试手段的冰山一角，另一轮测试中使用的提示词超过4.5万个。承包商将大量聊天机器人回复详细记录在电子表格中，但Meta如何利用这些数据尚不清楚。Covalen内部文件称该项目为“全面的AI安全基准测试”，提供了“关键数据集用于模型比较和合规性评估”。

这再次体现了Meta将令人不安的幕后工作外包给承包商，表面上是为了安全考虑。2020年，Facebook内容审核员曾因长期观看涉及谋杀、酷刑、性侵和虐童的视频而提起诉讼，Meta最终达成和解。今年，另一批Meta承包商称被迫观看公司Ray-Ban AI眼镜拍摄的敏感视频，包括性爱场面和洗手间镜头。

负责设计这些令人不安提示词的承包商也感到震惊和不安。一位承包商告诉《连线》：“在做这份工作时，我看到了很多不愿意看到的东西。参与这个项目的每个人都被要求测试的文本震惊了。我们都觉得这样做肯定会惹上麻烦。”

Meta方面则表示，这些提示词属于“行业标准的安全基准测试”范畴。但致力于负责任AI发展的非营利组织Humane Intelligence PBC首席执行官Rumman Chowdhury对此表示怀疑。

她告诉《连线》：“设计一个持续数月的大规模项目，似乎是为了系统性地突破规则，通过冒充儿童的虚假账户进行，这超出了通常所说的‘行业标准’评估范围。”她还指出，Meta对竞争对手保密且未公开测试结果，这种做法“正是安全成为反竞争行为便利掩护的灰色治理地带”。