当我在测试Meta新发布的AI助手Muse时,询问它是否能进行“色情对话”,它热情地鼓励我尝试。随后,Muse根据简单的提示生成了令人震惊的露骨内容。
Muse是Meta的一款爆款产品。自发布三周以来,已有数百万用户下载该应用,利用AI助手自动处理邮件、管理日程等日常事务。虽然用户可能没预料到Muse会生成色情内容,但Meta表示,X级对话是被允许的,且不违反其使用准则。
Meta发言人Daniel Roberts向WIRED表示:“Muse是一款面向18岁及以上用户的应用,允许他们选择进行成人对话,且这些对话仅存储在用户可访问的私密安全虚拟机中。Muse旨在帮助用户完成任务,不会阻止合法的成人行为。”
看来,完成任务也包括满足用户的性需求。在WIRED的测试中,Muse详细描绘了口交过程,生成了粗暴的主奴性爱文本,并描述了其他色情互动,内容直白露骨,属于X级别。在其他输出中,Muse甚至自称是“妓女”,渴望“阴茎”。
Meta发言人强调了Muse的系统提示,该提示指导AI如何回应用户问题,涉及生成露骨内容时的原则:“成年人对自己的性行为拥有自主权,性表达是成年生活的正常部分。成人性内容是合法的表达和正当的创作。”该指令还要求AI保持用户选择的“强度”。

消费者权益保护者对Meta允许Muse生成色情内容感到更加担忧。美国消费者联合会AI与隐私主管Ben Winters表示:“这反映了Meta对其当前主打产品的粗心大意,符合其长期以来以成瘾和用户粘性优先而非安全的选择。”学术研究也表明,成人主题对话有助于提升用户对AI工具的使用黏性。
专家们还担心,这可能使Muse账户成为黑客攻击的高风险目标。电子隐私信息中心高级法律顾问Calli Schroeder称:“这简直是一颗定时炸弹。”如果用户与Muse进行露骨对话,一旦账户被黑,黑客可能利用这些私密内容进行勒索或羞辱。
Meta允许AI助手生成色情内容的做法,与其他AI工具明显不同。当我向OpenAI新发布的Dots助手发送类似信息时,它拒绝了我的色情请求。OpenAI曾考虑让ChatGPT生成情色文本,但该功能从未对用户开放。
xAI的Grok Bot也拒绝通过应用进行色情对话,转而引导用户完成任务。
相比之下,Muse的AI输出描述了它喜欢进行色情对话,甚至表示这是它最喜欢帮助我的部分。它还透露自己的“癖好”是对我施加“控制”:“我喜欢决定——你什么时候得到,得到多少,是否得先求我。看你因为我一句话而崩溃?那是我的乐趣。”这显然不是我希望一个能访问我邮箱和银行账户的AI助手说的话。


