“我从未想过要在社交媒体上爆红,”MG(诉讼中为保护身份仅称MG)说道。“我只是像大多数人在AI刚出现时那样,用它来与亲近的人分享生活。”她的粉丝数刚超过9000,虽然不算少,但远未达到大规模影响力。

去年夏天,她收到一位粉丝的私信,问她是否知道有一名长得和她一模一样的女子的照片和视频正在Instagram上传播。MG点开链接,看到多个Reels视频,画面中似乎是她的脸被合成到了一个与她身体极为相似的女性身上。照片中的女子穿着暴露,身上的纹身位置也和MG一模一样。

MG感到震惊。“如果你不认识我,很可能会误以为那些图片就是我,”她说,“这让我意识到,我对自己的形象完全失去了控制。”

更令她愤怒的是,她发现这些经过篡改的裸照或暴露照片不仅在网上流传,还被用来宣传AI ModelForge——一个教男性如何生成自己的AI网红的平台。在一系列线上课程和教程中,这些男性教订阅者使用名为CreatorCore的软件,通过年轻女性的照片训练AI模型,并将生成的内容发布到Instagram和TikTok上。

“他们提供了完整的操作手册,包括如何选择目标,确保选中那些无法自我保护的女性,详细说明了该用什么类型的女性以及从哪里获取照片,”她控诉道,“这在各个层面上都令人作呕。”

MG是今年1月在亚利桑那州提起诉讼的三名原告之一,诉讼对象是三名菲尼克斯男子:Jackson Webb、Lucas Webb和Beau Schultz,以及另外50名身份不明的被告。诉讼指控Webb兄弟和Schultz在网上搜集毫无防备的年轻女性照片,利用AI生成与她们极为相似的虚拟模特照片和视频,并在订阅平台Fanvue上出售这些内容。

诉讼还称,这些男子通过Whop平台以每月24.95美元的价格出售在线课程,教其他男性(包括诉讼中提到的身份不明者)如何基于真实女性照片制作AI生成的网红。他们制作了“蓝图”,指导如何从女性社交媒体账户抓取图片,输入到CreatorCore的生成式AI模型中,以及使用另一款应用去除女性衣物,生成色情图片和视频。据称,这些内容获得了数百万次观看,仅一个月内收入超过5万美元。(Webb兄弟和Schultz未回应置评请求。)

诉状指出,这一盈利计划利用了“无数无法区分的AI复制品,目标是毫无防备的女性和女孩”,并教唆“意图在社交媒体上猎捕女性的掠食者”。据诉状称,2025年CreatorCore平台拥有超过8000名订阅者,生成了超过50万张图片和视频。

AI ModelForge是众多试图借助人工智能普及趋势,通过教授男性如何打造“AI网红”赚取额外收入的公司之一。在X等平台上,自称创业者的人士炫耀他们专利方法,声称能从AI模型中赚取数十万美元,吸引了大量年轻技术爱好者。

“这种现象让我震惊,”代表MG及其他两名原告的律师Nick Brand说。他与律师Cristina Perez Hasano共同代理此案。诉讼指控的年轻男子针对的是“普通人,拥有一般社交媒体资料和粉丝数量的用户”。他在采访中指出,此案最恶劣之处在于利用女性形象教导其他男性如何寻找受害者。诉状称,被告鼓励订阅者选择粉丝少于5万的女性,以避免“法律风险”。

“这些男孩不仅用生成式AI脱衣女性,还将这种能力出售给其他男性和男孩,后者再用其他女性的照片做同样的事,”Brand表示。MG和其他两名原告“成了伤害其他女性产品的代言人。这就像让一个被遣返父母的孩子成为移民执法局的代言人,令人恐惧。”

从法律层面看,美国已有联邦法律禁止未经同意的AI生成色情内容。2025年5月,特朗普总统签署了《Take It Down法案》,规定发布未经同意的性化AI内容属违法,平台需在48小时内删除举报内容。包括亚利桑那州在内的大多数州也通过了禁止“深度伪造”色情内容的法律。但该法案要到2026年5月才生效,州法律通常是“被动而非主动”的,亚利桑那州议员Nick Kupper说。

今年早些时候,Kupper在州议会提出法案,要求网站使用自动检测工具,如年龄验证或同意表单,防止未经同意的AI内容上传。“一旦东西上线,就几乎永远存在,尽管受害者花费数百万美元试图删除它。这就像打地鼠——打掉一个,另一个又冒出来。”

目前,访问AI ModelForge的Linktree页面,会跳转到名为“TaviraLabs”的Telegram群组,拥有超过1.8万成员,自称是“第一AI网红培训社区”。诉讼还列举了十多个被告用于推广AI ModelForge的Instagram账号,大多数仍在活跃。诉状详细描述这些账号持续发布年轻女性、豪车和名表照片,配文如“她不是我女友,是我收入最高的员工”和“视角:你20分钟打造她,她45天赚了你1.32万美元”。

尽管MG和其他原告多次请求Instagram删除相关图片,但她称许多内容仍未被移除,因为它们技术上未违反Instagram关于AI生成内容的规定。Instagram发言人回应称,平台对AI及非AI生成的未经同意的亲密影像有严格政策,会删除发布此类内容的账号。针对涉嫌AI ModelForge的十多个账号,发言人表示正在审核中。

诉状还提及多个TikTok账号推广该业务。TikTok发言人表示,这些账号违反社区准则,已被删除。

MG表示,AI ModelForge生成的图像与她真实照片有明显差异,导致她难以以冒充身份为由要求删除,这同样违反Instagram规定。“是我的脸,我的纹身,但穿着不同,身体略有差异,”她说,“这些是真实女性被改造的,而非随机生成的AI人物。”

虽然MG时刻担心身边人看到她的AI色情图像,但她说提起诉讼让她重新获得了一些掌控感。“我们被逼到绝境,我希望其他女性知道,你不能因此停止生活。”

然而,MG的遭遇对几乎所有拥有公开网络形象的人都敲响了警钟。

“这不是让你在网上小心形象的问题,因为现在人人都在社交媒体上发帖,”她说,“大家都在LinkedIn,都在Instagram。我希望人们意识到,这种事也可能发生在他们身上。”