一项调查显示,某些看似普通的AI应用实际上隐藏着生成性虐待深度伪造图像的功能。

WIRED的调查发现,这些应用属于一个由400多个相关域名和应用组成的网络,这些应用通常声称是日常服务,如语言教学或AI健身教练。然而,在特定条件下,这些应用会偷偷加载一个网页界面,允许用户上传照片并生成带有明确性内容的AI深度伪造图像和视频。生成的场景包括“卧室强奸”和“持刀威胁”,其中有男性持刀威胁女性的画面。

该网络被多位研究人员发现,他们追踪了数千条包含明确深度伪造内容的视频广告,这些广告发布在Meta旗下的Facebook和Instagram平台上。近几个月来,WIRED报道了数百条包含AI生成的儿童性虐待材料的广告,其中涉及真实儿童和欧洲某皇室成员。这些广告触及数万人,引发了全球监管机构的调查。

这些广告链接到苹果和谷歌应用商店中的欺诈应用,用户可以通过Apple Pay和Google Pay购买生成明确图像的服务。该网络背后的“nudify”应用已存在约一年,有时每周发布数十款应用,尽管谷歌、苹果和Meta均表示严格执行禁止有害深度伪造内容的政策。

根据对域名和服务运营方式的分析,这些应用和域名似乎由中国开发者及一家注册于香港的科令科技有限公司运营。WIRED多次联系相关邮箱未获回应,联系后该公司似乎删除了公开关联信息。

非营利组织AI Forensics的首席研究员Paul Bouchaud表示:“这是一个有组织的商业运营,背后有一名运营者管理数百个一次性应用和域名,伪装通过应用商店审核,并通过虚假付款人名义在Meta投放数万条广告。他们不认为监管会追上他们,到目前为止确实如此。”

隐藏行为

下载这些应用时,用户可能看到的是广告中宣传的普通功能,如生成宠物AI图片。但实际上,应用会根据用户信息决定是否显示无害内容或加载带有明确深度伪造内容的网页界面。Bouchaud解释说,每次应用下载时,都会向服务器发送用户来源、语言、唯一标识等信息,服务器据此决定显示哪种版本。点击Meta广告后下载应用似乎是触发显示明确内容的一个因素。

这些应用关联的网站通常显示空白页面,URL中会包含“risk”字样,隐藏的网页界面则包含数十个色情深度伪造视频和图片模板,用户可上传人物照片加入性场景,并通过购买“钻石”生成图像。网页还链接到社交媒体账号,供用户咨询或投诉。

网站代码中隐藏了整个网络的详细信息,包括所有域名和应用列表、应用包信息、加密密钥、Facebook广告追踪器等。安全公司Infoblox的研究员Maël Le Touz发现近500个相关域名,所有应用运行相同代码并相互引用。

Bouchaud分析发现,这些应用从2025年底开始出现,今年春季达到高峰,曾一周注册约30个“nudify”应用及网站。9月时谷歌商店仍有27款应用上线,累计下载超过35万次,许多应用标注适合所有年龄段。

其中最受欢迎的应用DiffAI于2025年12月发布,下载量超过10万次。有用户评论称该应用包含制作儿童性虐待材料和其他色情内容的模板,且无年龄验证。

在WIRED联系谷歌后,DiffAI被下架,谷歌未回应置评请求,但已在被联系前移除大部分应用。丹麦记者9月曾报道该网络部分内容。

苹果也在WIRED询问后下架了19款应用,包括宠物照片应用Viefur。苹果发言人表示,App Store致力于为用户提供安全可信的环境,严禁“nudify”及其他色情内容。苹果称这些应用在审核时符合规定,但开发者随后更改了内容来源网站,替换为色情内容,并通过第三方平台投放色情广告。苹果过去一年已暂停数万款使用“诱骗切换”手法的应用,并更新规则进一步限制“nudify”工具。

中国背景

该“nudify”网络核心由多名中国开发者组成,身份疑似刻意隐藏。Le Touz指出,应用使用中国专属主机,代码及注释均为中文,Meta平台广告中的明确视频带有中文视频编辑软件水印。

网络中的应用和域名多使用通用隐私政策、Gmail或Outlook免费邮箱及模糊开发者名称,试图掩盖关联。Meta平台上的广告使用虚假名称和无粉丝页面。Bouchaud自年初以来追踪到数万条与该网络相关的明确深度伪造广告,广告文案风格相似。

Tech Transparency Project主任Katie Paul表示,这些广告违反了Meta多项政策,且广告内容明确。她呼吁科技公司说明应用产生的资金流向,以及为何这些“nudify”应用和服务能持续绕过内容审核和安全系统。

科令科技有限公司似为该运营的重要组成部分。该公司网站内容极少,但其名称曾作为网络首个注册网站的联系方式出现,也出现在应用使用的明确深度伪造模板中。Bouchaud还发现一个管理登录页面提及“Keling”,且部分已下架应用中出现该公司邮箱。

9月底,明确深度伪造界面通知用户可使用新AI模型“Veyra”,宣传语为“更真实、更自然、更狂野”。Veyra AI网站主页的联系邮箱为科令科技地址。

WIRED联系科令科技邮箱及应用隐私政策中邮箱未获回应。联系后,有人更改了相关社交媒体频道名称,删除了Veyra网站上的科令邮箱及首个注册网站的科令地址。

Meta表示,2025年因科令科技未遵守停止令,禁止其广告投放(未公开停止令内容)。Meta称严格禁止推广“nudify”应用,积极清理相关内容。尽管科令科技尝试通过其他方式投放广告,Meta发现后会采取行动。

WIRED向Meta提供400多个域名后,Meta表示已共享3000多条相关广告,其中三分之二已被移除。Meta还对11600个广告账户、4700多个商业页面、5200名用户及15000个页面采取行动,阻止209款应用在其平台投放广告。

Meta发言人称,犯罪分子不断采取更隐蔽手段逃避检测,使用假名、发布看似无害的广告,有时链接至谷歌和苹果应用商店,只有点击后才显露真实意图。

报道完成时,类似广告和应用仍在科技平台上持续发布。