上周遭遇强烈反弹后，Meta决定撤回Instagram最新AI更新中最具争议的部分——用户将无法轻易创建其他Instagram用户的深度伪造图像。

Meta在周五更新的公告博客中表示：“我们听取了反馈，意识到该功能未达到预期效果，因此已停止提供。”

上周，Meta为了展示其在生成式AI领域的重大进展，将最新的AI图像模型引入Instagram。该功能允许用户“标记”任何公开的Instagram账号，并将这些人物包含在逼真的AI生成图像中，实质上就是创建深度伪造作品。

虽然Meta提供了两种选择退出的方式，但许多用户对默认自动加入表示愤怒。演员工会SAG-AFTRA作为保护艺术家肖像权的积极倡导者发表声明称：“非自愿数字复制品的风险众所周知，鼓励此类行为的功能是不明智的。我们感谢该功能的取消，这是负责任的做法。”

随着AI图像和视频模型的不断进步，肉眼辨别真实与AI生成内容变得愈发困难。科技公司正在通过隐形水印和更明显的AI内容标签等方式帮助用户识别AI生成内容，但在大量AI生成内容充斥的环境中，辨识仍然具有挑战性。Instagram中仍可使用的图像创建和编辑AI工具，可能会使这一问题更加复杂。