研究人员本杰明·舒尔茨对约160个托管深度伪造滥用及其他非自愿性内容的网站进行分析,发现至少有来自22个欧盟国家的138名女性议员出现在这些网站上或被提及,而男性议员仅有9人被提及。根据舒尔茨的计算,女性议员被深度伪造生态系统针对的可能性是男性的33倍。

荷兰进步党议员苏珊娜·克罗格表示:“深度伪造色情是针对女性及女性政治家的网络仇恨和恐吓更大趋势的一部分。”她本人也受到了影响。克罗格对研究结果表达了愤怒,称这些发现“非常令人不安”,揭示了滥用的严重规模。她说:“我们是政治家,有发声的平台,但与此同时,数百万女性是这些犯罪行为的受害者。”

这项由德国数字民主智库Agora Digitale Transformation发布的研究,聚焦欧盟27国的国家议员。舒尔茨作为Agora的研究员及美国Sunlight Project的首席研究员,于7月整理了欧洲5800多名议员的资料,并利用定制搜索引擎查找他们在深度伪造网站上的出现情况。(研究未涵盖欧洲议会成员)

研究显示,德国、荷兰、意大利和法国的政治人物在这些网站上出现频率最高,且政治地位越高,被针对的可能性越大。舒尔茨已逐一通知相关议员,并提供内容删除的指导。他还指出,这些网站也涉及名人、记者及其他公众人物。为避免引起更多关注,WIRED未公布相关网站名称。

多位研究者和立法者表示,尽管政治人物多年来一直是深度伪造的目标,但这类行为损害民主实践,可能阻止女性和女孩成为公众人物。舒尔茨说:“这不仅让女性望而却步,也将她们排挤出公共生活。大量证据表明,这对心理造成真实伤害,也会影响她们未来的声誉,尤其是当她们想退出政治另谋职业时。”

荷兰社会党议员萨拉·多贝也遭受影响,她说:“深度伪造视频不仅用来恐吓政治家,也用来贬低女性。对受害女性和女孩来说,获得及时支持和快速删除内容非常重要。”

舒尔茨在监测的网站中,分类了多种滥用内容和行为,包括议员出现在仍被托管的内容中、已被删除内容的索引结果,以及可能产生新内容的档案和“入口”。

多个网站包含议员姓名、官方照片,有时还包括社交媒体资料或个人信息。部分网站甚至设有“评分”女性身体的板块。舒尔茨报告指出,这些议员简介旁常附有所谓的“裸体化”应用或网站自有工具,声称能数字化脱衣。“网站拥有所有图片、信息和工具链接,三步就能生成内容,”他表示,“这和直接托管内容一样严重。”

自2017年底AI生成深度伪造技术出现以来,相关技术变得更易获取,生成内容也更逼真。数百万非自愿的AI图像和视频被制作出来,主要由男性和男孩使用,常用于骚扰、恐吓或勒索女性和女孩,甚至波及全球近100所学校。

AI顾问及深度伪造专家亨利·艾杰自2018年起追踪该生态系统,他说:“这些平台设计成商业模式,规模化且操作简便。政治人物被针对虽不意外,但研究结果有助于欧洲官员认识问题严重性。”

总体而言,立法者在应对深度伪造带来的多种危害方面行动缓慢。但近月已有部分法律开始出台。英国和欧盟计划禁止裸体化服务,美国《Take It Down法案》促使至少两个发布数千名人图像和视频的深度伪造网站下线。记者揭露幕后黑手也促使主要网站被关闭。WIRED发现,研究中至少有六个域名近期已被移除,减少了欧洲议员的相关展示。

舒尔茨还在研究英国和美国政治人物的相关情况。他曾分析2024年美国参议员和众议员在深度伪造网站上的出现情况。网站关闭后,他表示美国政治人物的相关展示数量“显著减少”。

克罗格强调:“确保这些图像被删除是优先事项,同时必须对这类技术进行严格监管。”