TikTok上一些互动农场主正在利用人工智能技术，篡改真实的逮捕视频，制造警察亲吻和猥亵被捕者的假象。
这些深度伪造视频由Copyleaks发现，内容极为恶劣。AI篡改的视频基于真实的逮捕画面——这些画面似乎最初是为类似TLC频道的《D.U.I.》等真人秀节目拍摄的——但经过修改后，视频中警察被描绘成亲吻和性骚扰真实的女性及少数男性被捕者。被捕者通常戴着手铐，靠近或贴着警车时，假冒的性骚扰行为发生在他们身上。
这些恶意深度伪造视频通常被剪辑插入更长的逮捕视频之前，目的是吸引用户停留观看，增加视频的浏览量和互动率。
Copyleaks联合创始人兼CEO Alon Yamin表示：“这是一个令人不安的例子，展示了AI工具如何被用来制造真实内容的深度伪造版本，以吸引社交媒体上的关注和互动。重要的是要记住，这些视频中的人物——无论是警察还是市民——都是真实存在的，但视频中他们被描绘的行为实际上从未发生过。”
他补充道：“这对视频中涉及的每个人来说都是令人担忧的。”
在部分视频中，被亲吻和猥亵的人面带微笑，暗示他们是自愿接受警察在逮捕过程中进行的性骚扰。
一些被篡改的视频标明使用了AI生成内容，并附有免责声明，称这些片段仅供“娱乐用途，无恶意暗示”。然而，这样的免责声明显得极为虚假：未经同意制造针对真实人物的性化深度伪造视频，本质上就是有害的。
在我们举报后，TikTok删除了我们特别指出的相关内容，并向我们提供了关于清晰标注真实感AI内容的平台指南。
更多关于深度伪造的信息： 《深度伪造技术的普及正在深刻改变青少年使用互联网的方式》
