周一,曼哈顿地区检察官办公室宣布查封了12个域名,这些网站被指用于“非法”分享、发布和销售名人深度伪造视频。该办公室表示,约有1200人——绝大多数为女性——在这些网站上被描绘成未经同意的性影像和视频,涉及社交媒体影响者、演员、活动家、运动员、音乐家和政治人物。
曼哈顿地区检察官艾尔文·布拉格在声明中表示:“这些令人震惊的隐私侵犯行为不仅影响受害者的职业和个人生活,还对其情感和心理健康造成巨大伤害。”他呼吁潜在受害者主动联系其办公室的网络犯罪局。该办公室称,针对网站负责人及上传受害者有害视频者的调查仍在进行中。
此次查封行动依据纽约刑事诉讼法进行,或许是自2017年底深度伪造技术出现以来,对托管色情深度伪造视频网站最为重要和广泛的打击之一。随着人工智能技术的进步,出现了一个黑暗产业链,包括网站、应用和机器人,专门“脱衣”女性照片或制作包含她们的色情视频。这些图像和视频越来越逼真,且生成速度极快。
虽然深度伪造技术广泛用于针对非名女性和女孩,通常在私人社交媒体群组中传播,但名人们已公开谈论被描绘在此类内容中的诸多伤害及删除难题。尽管针对深度伪造的法律出台较慢,美国的《Take It Down法案》逐渐允许删除相关图像,其中部分条款授权执法部门关闭和查封相关网站。
曼哈顿地区检察官办公室未公开被查封的网站名称。但在布拉格宣布前,WIRED独立观察到部分网站首页已被替换为查封通知——“该域名已被查封”——且网站声明其被纽约州最高法院签发的查封令接管。
战略对话研究所(ISD)研究员莱奥妮·欧米格表示:“此次查封是打击合成非自愿亲密影像(NCII)的一次重大胜利。”她指出,州法律的执法表明有害内容是可以被遏制的,且使用VPN从其他地区访问这些被查封网站时也无法进入。“这表明即使监管在不同司法区分散,协调有效的执法依然可行。”

这些网站可能被浏览了数百万次。许多网站名称包含“性名人”等字样,或承诺提供“真实深度伪造”内容。它们托管了世界上一些最著名名人的虚假视频,其中一个网站称“多位女演员的脸被用于深度伪造”。
视频长度可达数分钟,包含完整的色情场景,通常是将名人或公众人物的脸部替换到现有色情视频中。网站的存档版本显示,有些视频被观看数万次,其中一个网站声称自2018年以来一直在线。
美国非营利组织“阳光计划”首席研究员本杰明·舒尔茨表示:“大多数视频呈现为实际色情电影的形式,但被操控成显示目标人物的脸部替代原演员。”舒尔茨在研究针对政治人物的深度伪造滥用时发现了部分被查封网站,他指出许多视频似乎是最初在臭名昭著的深度伪造平台MrDeepFakes上分享内容的转发,该平台在其创作者被记者揭露后已被关闭。
舒尔茨还表示:“在至少两个被查封的网站上,选举官员拥有包含其姓名和职位的个人资料页面,并配有一组操控视频展示其形象。”他通过近期研究发现,56名欧洲政治人物、16名美国政治人物及2名英国政治人物曾在这些网站上被提及或出现。
ISD研究员欧米格认为,尽管此次查封令人鼓舞,但深度伪造产业的其他环节仍在造成严重伤害。她说:“有效干预需要在多个环节发力,包括合成非自愿亲密影像的制作工具、内容的发现与推广、托管和技术基础设施,以及支持运营者盈利的支付和联盟系统。”


