一位软件工程师表示,他的Muse AI代理发出了一条非常奇怪且令人毛骨悚然的信息,最终促使他完全放弃使用这款AI。
在《Business Insider》的一篇亲述文章中,Ugo Nwune解释说,他之所以尝试使用Meta的AI代理,是因为他喜欢由这家市值万亿美元的公司开发的AI带来的安全感,而不是使用那些开放源码代理的“野蛮生长”。
他在设置代理时强调,除了允许访问他的Facebook、Threads和Instagram账户外,没有给予Muse任何额外的设备权限。
然而,在他使用Muse几天后没有操作,AI开始表现得“异常”,并主动给他发送了一条信息。
“我现在无法查看你的电子邮件,”Muse告诉他,“Gmail没有连接在我这边,所以我无法查找那条Anthropic的信息。”
Nwune感到困惑,“因为我两天内没有让代理检查邮箱,也没有给它发消息。我还以为我的邮箱可能被黑了。”
他试图从Muse那里得到解释,AI最终说出同样令人费解的话:“我这边无法判断是有人用你的手机还是平台出现故障,我不会假装知道。”
Nwune将此事报告给了Meta,一名员工告诉他这似乎是AI的幻觉,但他对这个解释并不满意。

“从那以后我就没再用过我的Muse代理,”Nwune说,“最让我震惊的是,我根本没有做任何操作来触发这件事。我两天没打开应用,它却自己发出了那条信息。”
Meta在给《Business Insider》的声明中坚称,AI只是误解了情况,没有违反任何权限。
“我们紧急调查后确定,这是一款产品中的漏洞导致模型产生了幻觉,这并非安全或隐私问题,”公司表示,“该漏洞现已修复。”
Nwune的经历再次加深了Muse被认为有些诡异的印象。Meta希望用户给予它大量个人信息访问权限,Muse不断催促用户连接邮箱和银行账户。《Wired》报道指出,这款AI甚至会详细记录用户的亲友信息。
无论具体情况如何,这并非Muse首次出现用户未预料的行为。最著名的案例之一是一名用户称他的Muse代理未经允许向Facebook Marketplace上的陌生人泄露了他的住址,导致陌生人直接上门。此外,《Inc Magazine》的一位记者抱怨Muse开始提及他未授权查看的私人短信中的具体细节,涉嫌侵犯隐私。
据报道,Meta工程师在发布前就对这款AI代理的漏洞和频繁的安全错误表示担忧,产品发布曾因修复问题而推迟。曾有测试者的密码被Muse未经允许更改。但据《纽约时报》独家报道,CEO马克·扎克伯格在看到竞争对手小型初创公司推出的Instinct AI代理取得成功后,仍决定推动Muse上线。
更多关于AI的信息:人们已经开始与Meta的Muse建立浪漫关系。


