全球范围内,许多青少年男生正在保存来自Instagram和Snapchat的同学女生照片,并利用有害的“裸化”应用程序制作她们的虚假裸照或视频。这些深度伪造作品迅速在学校内传播,令受害者感到羞辱、被侵犯、绝望,并担心这些影像会永远困扰自己。

这场席卷学校的深度伪造危机始于几年前,随着制作色情影像的技术变得更加普及,问题迅速加剧。根据WIRED与专注于数字欺诈和虚假信息的Indicator联合调查,全球约90所学校发生了深度伪造性虐待事件,影响超过600名学生。

调查显示,自2023年以来,至少28个国家的高中男生被指控利用生成式AI针对同学制作性化深度伪造影像。涉及未成年人的这些色情影像被视为儿童性虐待材料(CSAM)。这项分析被认为是首次对全球学校中AI深度伪造滥用的真实案例进行系统审视。

整体来看,分析揭示了有害AI裸化技术的全球影响力,这类技术每年为其开发者带来数百万美元收入。同时,许多学校和执法机构对严重的性虐待事件缺乏应对准备。

在北美,自2023年以来已报告近30起深度伪造性虐待案件,其中包括一起涉及60多名受害者的事件,一起受害者被暂时开除学籍的案件,以及多所学校学生同时成为目标的情况。南美报道超过10起,欧洲超过20起,澳大利亚和东亚合计约12起。

深度伪造性虐待在学校中的真实规模可能远超报道。联合国儿童基金会(Unicef)一项调查估计,去年有120万儿童被制作了性化深度伪造影像。西班牙有五分之一的年轻人向救助儿童会表示自己被制作过深度伪造裸照。儿童保护组织Thorn发现八分之一的青少年认识被针对的人,2024年民主与科技中心调查显示15%的学生知道与其学校相关的AI深度伪造事件。

加拿大儿童保护中心技术总监劳埃德·理查森表示:“几乎找不到未受此影响的学校。最重要的是我们如何帮助受害者,因为这类事件的影响极其深远。”

WIRED和Indicator的分析基于公开报道的具体案例,包括学校地点和受害人数,主要为英文报道,许多国家缺乏数据。许多事件未被媒体报道,或未披露详细信息,通常由学校和执法部门私下处理。

然而,明显的模式是,几乎所有案件中,涉嫌制作影像的都是青少年男生,作品通常通过社交媒体或即时通讯软件在同学间传播,给受害者带来巨大伤害。一名爱荷华州受害者表示:“我担心每次他们看到我,都会想到那些照片。”另一名受害者家属称:“她一直在哭,食欲不振。”

多起事件中,受害者不愿上学,害怕面对制作这些影像的同学。代表一名新泽西州未公开姓名的少女提起诉讼的律师和耶鲁法学院学生表示:“她感到绝望,因为知道这些影像可能会被上传网络,流入恋童癖者手中。她极度痛苦,知道自己必须终生监控网络,防止影像扩散。”

韩国和澳大利亚的学校已允许学生选择不出现在年鉴中,或停止在官方社交媒体发布学生照片,以防被用于深度伪造。澳大利亚一所学校表示:“全球多地出现学校公开社交媒体照片被AI篡改成有害深度伪造的案例。今后照片将以侧脸、剪影、背影、远景团体照、创意滤镜或经批准的库存照片形式出现。”

利用AI制作的性化深度伪造自2017年底出现,随着生成式AI系统的兴起和增强,形成了一个隐秘的“裸化”技术生态。数十款应用、机器人和网站允许任何人轻松制作他人的性化影像,无需技术知识。

孟买RATI基金会联合创始人兼主任西达尔特·皮莱表示:“AI改变了制作的规模、速度和可及性。技术门槛大幅降低,意味着更多人,包括青少年,都能轻松制作更逼真的作品。与许多AI相关的危害一样,内容泛滥成灾。”

儿童安全组织Thorn研究总监阿曼达·戈哈里安指出,青少年制作深度伪造的动机多样,包括性冲动、好奇、报复,甚至互相挑战。成人制作深度伪造性虐待影像的研究也显示多种原因。皮莱说:“目的不总是性满足,更多是羞辱、贬低和社会控制。”

安格利亚鲁斯金大学关注性别暴力的女性主义媒体研究教授塔尼娅·霍雷克指出:“这不仅是技术问题,更是长期存在的性别动态助长了这些犯罪。”

近年来,深度伪造事件增多,学校和执法机构的应对差异巨大。家长抱怨官方行动迟缓。有案例称学校花三天才报警,另有受害者称肇事者未受即时惩罚。部分学生因制作和持有CSAM被起诉,另有被停学。2024年3月,宾夕法尼亚两名学生在少年法庭认罪,因制作60名女生的影像被判60小时社区服务。

多起案件中,青少年女生及其家庭成为反击深度伪造性虐待的主力,行动速度往往快于政治层面。青少年曾罢课声援受害者,抗议肇事者,参与制作在线培训课程,推动法律变革,包括促成《删除令》法案,要求技术平台在48小时内删除非自愿亲密影像。英国和欧盟正计划禁止裸化应用,澳大利亚电子安全监管机构已对部分服务采取行动。

联合国儿童基金会儿童保护专家阿弗鲁兹·卡维亚尼·约翰逊表示:“孩子们发声时,成人的回应往往不足,这会严重影响他们的康复和未来是否愿意继续发声。”

前教师、Pathos咨询集团创始人埃文·哈里斯表示:“学校需要赶上威胁形势,了解权利、威慑、政策和危机应对。准备工作包括教育学生认识深度伪造的危害和违法性,帮助管理者考虑数字取证和证据收集。必须为学生提供工具、语言和支持,帮助他们应对或发现深度伪造。”

学校面临的深度伪造问题不仅限于学生间制作危险性影像。多次出现学生制作教师的性化深度伪造,将教师置于羞辱境地或让他们“说”未曾说过的话。俄勒冈一所学校因教师抗议社交媒体账号传播篡改教职工照片,迫使学校聘请代课老师。另一报道显示,教师被描绘成跪地吃狗粮或持枪等形象。

哈里斯说:“虽然深度伪造性虐待是最紧迫、最严重的风险之一,但学校还面临其他多种深度伪造风险。学校因资源有限和事务繁重,普遍缺乏应对准备。”