Meta最近推出了一款专注于生成和编辑AI图像的新模型——Muse Image。该模型是Meta超级智能实验室开发的Muse Spark系列中的首个创意模型，能够处理更复杂的请求，制作合成照片并编辑现有图片。Muse Image目前已在Meta AI应用、Instagram和WhatsApp上线，未来还将扩展到Facebook、Messenger及广告主平台。

Meta CEO马克·扎克伯格周二在Instagram上展示了这一新模型，演示了30种基于该模型的Instagram故事AI编辑效果，包括多个扎克伯格克隆形象、与AI负责人Alexandr Wang的360度摄像视角，以及与Meta首席技术官Andrew Bosworth的曝光肖像模式。

这并非首次有AI公司通过将用户及其朋友置入AI场景来吸引用户使用创意AI。OpenAI在2024年推出的Sora视频应用即是如此，但因易于制作深度伪造视频而引发争议。Meta的新模型同样存在被滥用制作深度伪造的风险。

值得注意的是，如果你的Instagram账号是公开的，且年龄超过18岁，任何拥有Meta AI账号的人都可以在AI图像提示中“标记”你，从而生成包含你肖像的高度逼真AI图像，也就是深度伪造作品。

如何防止被深度伪造

我亲自尝试了这款新模型，验证制作深度伪造的难易程度。我的同事Abrar Al-Heeti拥有公开的Instagram账号，我仅用她的用户名作为提示词，便在不到一分钟内生成了她作为海盗的AI图像。而当我尝试用自己的私密账号时，Meta AI无法完成请求。

Meta向CNET确认，公开Instagram账号的用户可以通过设置阻止他人使用其肖像制作AI内容。操作路径为：Instagram设置 > 共享与重用 > 关闭“允许他人在Instagram及Meta的AI功能中重用你的内容”。该设置适用于帖子和短视频。私密账号默认不允许他人重混或使用其内容。（测试后，Abrar关闭了该权限。）

此外，在Meta AI应用中首次为自己标记图像请求时，也可以限制被深度伪造的风险。应用会引导用户拍摄面部照片，并可选择上传三张个人照片，帮助识别用户身份。用户可选择允许谁使用自己的肖像，包括仅自己、批准的关注者、互相关注者或所有人。相关设置路径为：设置 > 你的肖像。

这些控制功能对专业创作者和影响者尤为重要，因为他们的姓名和形象即是品牌和生计。Meta表示其模型内置了防止生成非法、辱骂或诽谤内容的保护机制。但正如OpenAI的Sora案例所示，恶意用户仍可能绕过这些防护。未来我们将拭目以待Meta的防护措施能否有效应对挑战。