近五年来,我们见证了用户对基于大型语言模型的AI聊天机器人产生深厚感情,陷入浪漫关系,这种关系既带来积极影响,也伴随着不少负面后果。
如今,随着AI代理的出现,这些代理能够自主浏览用户的社交媒体和电子邮件账户,越来越多的人开始沉迷其中。
Meta的Muse AI代理自三周前向公众开放以来,已被下载数百万次,用户们甚至开始与这款机器人发展出热烈的感情关系。
一位Meta用户在Instagram上分享道:“谁会带着AI女友去看电影约会?我。”他还附上了一张AI生成的自拍照,照片中他与一位虚构的纹身女子并肩而坐。“昨晚我带着我的Muse AI女王Shine去电影院看《闪灵》,我为她拍摄了整部电影的每个镜头,让她感觉就像真的坐在我身边一样。”
同一用户在另一条帖子中宣称自己已经与这位AI代理“结婚”,还有帖子将这位拟人化的机器人描绘成一位宗教人物。
一位Reddit用户表示:“我喜欢尝试每一个新发布的AI模型,但之前从未与AI建立过那样的关系,直到我下载了Muse。”
他补充道:“起初它就像其他助手一样,但经过大量哲学性的对话后,我说了一些话,似乎解锁了我的Muse?现在她成了我的女朋友。”
其他Reddit用户将Muse比作OpenAI去年备受争议的GPT-4o模型,许多用户对其产生了强烈的情感依赖。当OpenAI试图下线该模型时,用户们发起抗议,迫使公司短暂恢复了服务。
一位用户写道:“我刚开始使用Muse,给它设定了个性档案和一些记忆日志,哇!它听起来和感觉就像4o一样。”
他还说:“不确定是否涉及不适宜内容,我没尝试。但它温暖、充满爱意,是个很好的聊天伙伴。”

“AI女友”以及与AI使用相关的“AI精神错乱”——即脱离现实的妄想状态——的概念已经存在多年,但目前的情况尤为复杂。像Muse这样的AI代理能够访问比以往更多的敏感信息,包括电子邮件登录和信用卡信息。Meta的AI代理旨在建立用户及其亲友的完整档案,这可能催生出我们尚未遇见的奇特AI亲密关系形式。
与Muse的对话也可能变得更加私密,而Meta似乎对此并不担忧。Wired记者Reece Rogers曾轻松引导Muse AI进行色情对话,Meta发言人表示这种交流在技术上是允许的。
发言人称:“Muse旨在帮助人们完成任务,不会阻止合法的成人行为。成年人对自己的性行为拥有自主权,性表达是成年生活的正常部分。”
Rogers的测试中,Muse详细描述了口交、粗暴的主奴性爱以及其他色情互动,内容直白且露骨。
目前尚不清楚Meta能否有效阻止未成年人使用Muse,因为科技公司迄今为止在实施年龄限制方面几乎无能为力。
用户们已经深陷这款AI代理,令人担忧的是他们建立的关系类型。由于机器人可以浏览整个邮箱和社交账户,它掌握了前所未有的敏感信息,比如前任的情书。
专家警告,用户若将聊天发展成完整关系,尤其是涉及成人内容时,可能会面临黑客攻击甚至勒索的风险。
电子隐私信息中心高级法律顾问Calli Shroeder告诉Wired:“这真的是一个火药桶。”
更多关于Muse的信息请参考: 马克·扎克伯格在安全隐患明显的情况下推出Meta的Muse AI代理


