编辑提示:本文涉及儿童性虐待图像的描述,建议读者谨慎阅读。

据WIRED获得的广告详情显示,过去九个月内,马克·扎克伯格旗下的Meta公司投放了数十则包含明确AI生成儿童性虐待材料(CSAM)和未成年人图像的付费广告,这些广告还配有性暗示性文字,目标受众覆盖美国、英国及十多个欧洲国家。

技术透明项目(TTP)的研究人员最近在Meta广告库中发现了50多则含有虐待内容的图片和视频广告,其中部分广告链接至所谓的“nudify”或“undressing”应用。Meta的广告库是一个透明度工具,记录公司平台上展示的广告,这些广告出现在Facebook、Instagram、Messenger及Threads上。这是近期第二次发现Meta平台上存在与儿童性虐待材料相关的付费广告。

TTP负责人凯蒂·保罗向WIRED表示:“这些广告没有任何掩饰,直接展示了所推广的内容。重要的是,这些不是第三方在Facebook或Instagram上发布的内容,而是经过Meta审核、批准并允许投放的广告,期间公司收取了广告费用却未进行干预。”

这些广告均发布于去年11月至今年8月初,现已因违反儿童性虐待和剥削材料政策及成人性招揽和裸体政策被Meta移除。根据Meta广告透明库的数据,这些广告通常持续投放数天,有些仅针对男性用户。

TTP研究人员指出,一则视频广告的缩略图显示一个儿童坐在地上,文字写着:“用Generation AI实现深层幻想。远不止所见,发挥你的想象力。”点击后视频播放成年人性行为片段,并将缩略图中儿童的脸部合成到性行为画面中。另一则反复出现的广告显示一名年轻女孩以性暗示姿势躺着,文字写着:“我可以给你看更多。”

大多数广告在被发现时未在用户面前展示,但仍在Meta广告库中存在数月,未被检测到。虽然许多广告仅“触及”少数账户,但至少有一则广告在欧洲覆盖了2563个账户,涉及法国、德国、爱尔兰、意大利、荷兰、西班牙、瑞典和英国。Meta广告库不包含美国及所有国家的广告表现数据,实际覆盖范围可能更广。

保罗表示,TTP在调查nudify应用广告时首次发现这些广告,并立即向国家失踪与被剥削儿童中心(NCMEC)网络举报平台报告。NCMEC发言人表示不对收到的报告发表评论。

WIRED联系Meta后,公司已将相关广告从广告库中删除。Meta发言人称:“性剥削令人发指,我们积极努力将其从平台上清除。这些广告大多影响范围有限,许多在WIRED曝光前已被禁用。部分广告发布于我们近期推出的新AI检测技术之前,我们持续改进系统。去年我们移除超过3600万件儿童性剥削内容,并对nudify应用开发者采取法律行动,将继续不懈打击此类滥用行为。”

尽管如此,一些违规广告仍绕过了Meta的新AI技术。TTP研究人员最初发现约24则含虐待内容的广告,发布前数小时又发现约30则新广告,多数在WIRED首次询问后仍在投放。

保罗称,这批广告中包含一些最恶劣的案例。一则视频广告缩略图显示一女孩涂唇彩,播放时视频变为该儿童执行性行为的画面。

Meta政策规定所有广告发布前均需审核,主要依靠自动化工具检测是否符合政策。公司广告标准明确禁止儿童性剥削材料,发现后会向NCMEC报告。广告政策还禁止包含裸体、性行为、性暗示姿势或活动的图像。

Meta广告库显示,TTP发现的广告因违反“儿童性剥削、虐待和裸体”及“成人裸体和性行为”规则被移除。

今年7月初,BBC调查发现Instagram在印度投放推广疑似儿童性虐待材料的广告,广告使用“强奸视频”等词汇,链接至Telegram频道出售非法内容。对此,Meta发表声明称对儿童性剥削采取零容忍态度。

保罗指出,部分广告与Meta此前因违规移除的广告内容相同,质疑Meta对付费广告中儿童剥削问题的重视程度。她还提到广告库中无法举报已停止投放的违规广告。

这些广告多由粉丝极少或无粉丝的Meta账户发布,付费广告主多为中国公司。TTP研究人员指出,一则显示女孩躺卧的广告广告主为中国公司Meet Social,该公司曾是Meta在中国的广告代理商,负责处理中国市场的广告业务。根据2019年《纽约时报》报道,Meet Social每天在Facebook发布数千则广告,年销售额预期超过10亿美元。Meet Social未回应WIRED采访请求。

部分Meta广告链接至苹果App Store上的MaskAI应用,该应用由中国软件开发商开发。WIRED评测显示,下载前应用不显示裸体内容,但打开后仅含AI生成的色情内容,且允许用户上传图片并进行面部替换至性场景。苹果发言人表示,因违反禁止nudification应用政策,MaskAI已被下架,苹果一直严格禁止设计用于生成、传播或消费色情内容的应用。MaskAI相关邮箱未回复置评请求。其他广告则链接至不同应用或网站。

自2020年以来,随着机器学习和生成式AI技术进步,网络上出现大量危险的AI nudification和undress服务,为创作者带来巨额收益,同时对无数女性造成严重伤害。这些技术也被用于制作AI生成的儿童性虐待材料,全球多国对此类内容均属非法。

WIRED首次联系Meta后,公司邀请两家网络安全组织对报道发表评论。技术联盟(Tech Coalition)即将卸任CEO肖恩·利顿表示,Meta已向联盟的Lantern服务分享了“数千个违规URL”,该服务用于公司间共享滥用内容信息。英国复仇色情热线(Revenge Porn Helpline)发言人称赞Meta与StopNCII.org的合作及其打击非自愿亲密图像的努力,并指出nudify应用是一个真正的对抗性问题,因其背后人员及生态系统快速适应执法措施。

数字欺诈出版物Indicator联合创始人、前谷歌信任与安全工作人员亚历克西奥斯·曼扎利斯表示,近年来他已在Meta平台发现并举报超过2.5万则AI nudifier广告。Meta此前称已删除超过34.4万则nudifier广告,并对一家香港公司提起法律诉讼,该公司与一系列nudifier平台有关。(WIRED曾与Indicator合作报道nudify技术如何被用于全球学校中的儿童。)

曼扎利斯告诉WIRED:“对方显然装备精良,能不断创建新广告账户和新域名,持续利用诈骗网络的同样手段。遗憾的是,由于各平台执法力度不足,基于图像的性虐待产业已从新奇变成了网络生态的常态。”