Meta宣布其最新个人AI助手Muse今日正式上线,支持iOS和Android用户通过专用的Muse应用以及Muse.ai网站使用。用户还可以通过WhatsApp直接与Muse对话,未来使用Meta AI眼镜的用户也将能与Muse互动。Meta表示,用户可以免费试用Muse,但若想自动化大量数字任务,则需订阅公司的AI服务计划。
Muse是Meta为迎战OpenAI和Anthropic等热门AI助手而推出的产品,出自Meta Superintelligence Labs——这是CEO马克·扎克伯格一年前成立的AI部门,旨在追赶行业领先者,并通过高额薪酬吸引顶尖研究人才。该团队相信,AI助手将彻底改变普通用户上网和使用Meta产品的方式。
据WIRED报道,Meta内部曾以“Hatch”为代号测试Muse,员工们利用它自主操作第三方应用和浏览网页。Meta在博客中称,Muse设计简洁易用,用户无需学习曲线即可上手。用户只需用自然语言发出指令,Muse便能自动发送邮件、预订行程,甚至帮助卖车。
Muse还能代表用户完成购物,采用由Stripe设计的特殊支付系统Link进行结算。Link通过发放一次性卡号,避免AI助手在网络上使用用户真实财务信息。Meta称Muse是首个享有Link购买保护的AI助手,保障用户无手续费退货。
虽然Meta在个人AI助手领域起步较晚,但其重点在于安全和隐私保护。Muse采用名为Secure VM的架构,将每位用户的操作隔离在虚拟机中,防止不可信数据和集成影响到能代表用户执行操作的部分。
个人AI助手需要极高的用户信任,而Meta历年来在这方面面临挑战。为促使用户尝试Muse并允许其接入第三方应用,Meta努力证明其对用户数据的负责任态度。Meta Superintelligence Labs消费产品工程副总裁David Singleton表示:“我们深知这类产品访问大量个人数据的重要性,因此设计了严格的系统。我们开发了名为Sentinel的监控机制,确保所有从虚拟机外传出的数据都符合用户或系统的授权,或通过人工确认对话请求用户批准。”

Singleton指出,这些人工确认直接发送给用户,不经过模型过滤,以防止提示注入等攻击。
虽然Secure VM旨在保障安全和隐私,但并非完全封闭。Singleton透露,尽管政策禁止Meta访问用户的Muse数据,但技术上仍有可能。用户可选择不允许其数据用于训练。
从隐私角度看,Secure VM架构具有行业示范意义。未来,Meta还将推出“Confidential VM”,每个虚拟机运行在“可信执行环境”中,用户在本地设备管理访问密钥,确保包括Meta在内的任何人都无法访问用户的虚拟机。
Confidential VM是Meta与Signal加密通讯应用创始人Moxie Marlinspike合作的成果,后者近年来还开发了注重隐私的AI平台Confer。
WIRED获得了Confidential VM技术白皮书的初稿。Meta不仅让用户掌控访问密钥,还邀请部分安全公司定期审计Confidential VM源代码,验证其隐私保障。Meta还将公开Confidential VM的二进制文件和透明度日志,方便用户核实与Muse连接的有效性和完整性。
Singleton强调,Muse Secure VM已通过Meta内部红队和私人漏洞赏金计划的严格测试。现在,Meta将Muse纳入公开漏洞赏金范围,针对有效漏洞最高奖励30万美元,针对影响单个用户的提示注入攻击奖励最高13万美元。

