YouTube宣布，将其用于识别AI生成深度伪造内容的肖像检测技术扩展到一批政府官员、政治候选人和记者的试点项目中。参与试点的成员将获得一款工具，能够检测未经授权的AI生成内容，并在认为内容违反YouTube政策时请求删除。
该技术最初于去年向约400万YouTube合作伙伴计划的创作者推出，经过早期测试后正式上线。类似于YouTube现有的内容识别系统（Content ID），肖像检测功能专注于识别由AI工具生成的模拟面孔。这些工具有时被用来传播虚假信息，操纵公众对现实的认知，利用政界人物或政府官员的深度伪造形象，让他们在视频中说出或做出现实中未曾发生的事情。
通过此次试点计划，YouTube希望在保障用户言论自由的同时，防范AI技术带来的风险，尤其是那些能够逼真模拟公众人物形象的技术。YouTube政府事务与公共政策副总裁Leslie Miller表示，此举旨在维护公共对话的诚信。她指出，AI冒充的风险在公共领域尤为突出，但公司在提供这一保护的同时，也会谨慎使用该技术。
Miller还解释说，并非所有检测到的匹配内容都会被删除。YouTube会根据现有的隐私政策，对请求进行评估，判断内容是否属于受保护的讽刺或政治评论形式。
此外，YouTube支持联邦层面的《NO FAKES法案》，该法案旨在规范使用AI未经授权地重现个人声音和视觉形象的行为。
试点用户需先通过上传自拍照和政府身份证明验证身份，随后创建个人资料，查看检测到的匹配内容，并可选择请求删除。YouTube计划未来允许用户在违规内容上传前阻止其发布，或像内容识别系统一样，允许用户对这些视频进行变现。
公司未透露首批测试者具体名单，但表示目标是逐步向更多用户开放该技术。
对于AI生成的视频，YouTube会标注其性质，但标签位置不一：部分视频在描述中标注，涉及敏感话题的视频则在视频开头显示标签。YouTube创作者产品副总裁Amjad Hanif解释称，AI生成内容的标签位置取决于内容类别及其是否需要明显的免责声明。
目前，YouTube未公开由创作者使用该技术处理的深度伪造内容删除数量，但表示删除量非常少。Hanif称，许多创作者主要是意识到此类内容的存在，实际请求删除的数量很低，因为大多数内容对他们的业务影响较小。
然而，对于政府官员、政治人物或记者的深度伪造视频，情况可能不同。
未来，YouTube计划将深度伪造检测技术扩展到更多领域，包括可识别的语音和其他知识产权，如知名角色。
