随着生成式人工智能技术的快速发展，深度伪造（deepfake）技术也日益猖獗，成为社会的一大负担。深度伪造指的是通过数字技术制作出与真实生活几乎无法区分的虚假内容。近年来，这种技术被广泛用于制造虚假信息，网络上充斥着真假难辨的内容。
更令人担忧的是，深度伪造技术助长了数字性犯罪的增长，尤其是针对真实人物的深度伪造色情内容。据一项针对美国557名青少年的调查显示，超过36%的受访者表示有人未经同意利用AI制作了他们的色情图片，且超过55%的人承认自己曾用AI制作过深度伪造色情内容。这种技术的普及导致了性勒索、非自愿性性化以及儿童性虐待材料的显著增加。
与欧盟和中国相比，美国在应对这一问题上反应较慢。但近期两起联邦案件或许预示着态度的转变。根据美联社报道，布鲁克林联邦检察官以新通过的两党支持法律为依据，指控两名男子制作深度伪造色情内容。
这两名男子分别是来自新泽西的Cornelius Shannon和来自德克萨斯的Arturo Hernandez。据美国司法部新闻稿称，两人并未合作，而是各自运营独立的网络，发布包含女演员、歌手、政治人物及非名人女性的数千张色情图片和视频。
司法部共发现约473个相册，涉及140名女性受害者。联邦检察官指出，Hernandez发布的内容观看次数接近一百万次。
美国检察官Joseph Nocella表示：“本案明确表明，发布深度伪造色情内容绝非无害行为。我们将动用联邦政府所有法律资源，追究这些令人发指的犯罪行为，利用国会赋予的新权力，打击这些新兴的心理、名誉和经济虐待形式。”
尽管对深度伪造色情内容制作者的打击令人鼓舞，但这两人仅是根据“Take It Down”法案被指控的第二和第三名嫌疑人。该法案由特朗普总统于2025年4月签署，最高刑期为两年监禁。
