随着AI深度伪造技术在社交媒体上的泛滥，个人形象被未经同意地用于生成虚假内容的风险日益增加。就在本月早些时候，俄亥俄州一名男子因违反新联邦法律——禁止“亲密”视觉欺骗行为——成为首个被定罪的人。对于名人而言，他们不仅面临被制作色情深度伪造视频的风险，还可能被用于虚假代言。

AI检测公司Copyleaks发布的一份新报告显示，泰勒·斯威夫特及其他明星的形象近期被用于诈骗广告。研究人员发现TikTok上出现了一批赞助视频，视频中似乎有斯威夫特、金·卡戴珊、蕾哈娜等人推广“可能存在欺诈或恶意的服务”。这些视频采用了“逼真的声音”和“纹理滤镜”来掩盖AI生成图像的瑕疵。

这些虚假广告通常将斯威夫特等人置于常见的采访场景中，如红毯活动或脱口秀节目现场，但AI生成的“明星”并非回答问题，而是在宣传一种所谓的奖励计划，声称TikTok用户通过对所观看内容提供反馈可以获得报酬。

例如，一则广告中深度伪造的斯威夫特说：“我这周在阅读数字行为时，发现了一个叫TikTok Pay的测试功能。某些用户被邀请观看视频并提交意见。”该广告使用了斯威夫特在《吉米·法伦今夜秀》上的片段，并称该计划目前处于“有限推广”阶段，鼓励观众查看自己是否符合资格，“如果页面为你打开，不要多想。”

实际上，任何点击链接的人都会被接受。广告最终引导用户进入一个第三方服务页面，尽管页面使用了TikTok的名称和标志，但该服务显然是通过AI平台Lovable设计的，其品牌标识出现在页面和网址中。此时，用户被要求输入姓名和个人信息。

虽然尚不清楚广告主如何利用通过名人深度伪造推广收集的所有数据，但类似目的的诈骗广告极为常见。上周，美国消费者联合会起诉Meta，指控该科技巨头误导Facebook和Instagram用户，声称其打击诈骗广告的努力不力，反而从中获利。美国联邦贸易委员会周一报告称，社交媒体诈骗整体激增，其中Facebook诈骗导致的财务损失最高。

因此，斯威夫特及其同行采取法律手段保护自身形象，避免被卷入这种欺诈经济，实属情理之中。虽然斯威夫特尚未公开说明其申请商标的具体原因，但虚假深度伪造对其数十亿美元品牌声誉的潜在损害不容忽视。问题在于，这些伪造技术正日益复杂，防范难度也随之增加。