随着公众对廉价AI生成内容的反感日益加剧,许多公司仍坚持依赖这项技术来降低广告制作成本。
部分企业甚至走向极端,利用深度伪造技术,将真实网红上传的视频改编成广告内容。
赌博和内幕交易平台Kalshi近日陷入争议,科技YouTuber Elliott Choy发现自己的一段视频被Kalshi未经授权改造成广告,并且AI将他这位亚裔创作者“变成了一个不存在的白人男性”。
这一行为不仅涉及公司公然盗用用户生成内容,还对白人化了视频中的主角,同时让他为产品做推广。正如Choy所指出的,这一发现恰好发生在斯坦福大学被曝用AI将照片中的学生替换成不存在的黑人女性之后不久。
讽刺的是,Choy本人一直在推广AI公司Anthropic的Claude助手广告。
Kalshi盗用的视频原本是Choy去年9月上传的,内容是他搬进纽约新公寓的经历。
NPR记者Bobby Allyn已确认这则Kalshi广告确实存在。Kalshi一位代表回应称该广告“较旧,公司已停止使用AI生成广告”,并表示正在“审查与制作该广告的代理机构的合作关系”。

但仍有许多疑问未解:Kalshi具体委托了哪家代理机构制作广告?有多少网红内容被盗用?公司是否会主动联系其他受害者并做出补偿?
Allyn早在去年7月就注意到类似趋势:TikTok上大量利用深度伪造技术复制用户原创内容的视频,播放量高达数千万,但大多由诈骗者制作,而非主流公司用于广告。
加州大学数字取证专家Hany Farid曾表示:“利用现有AI工具制作此类内容非常容易,且很可能逃过内容审核。”
Kalshi早已开始尝试用生成式AI进行营销。去年,他们发布了一则声称制作成本仅2000美元的NBA总决赛AI广告,效果却饱受质疑。
随着公众对AI生成内容的抵制加剧,Kalshi开始转变策略,聘请了包括演员蒂莫西·查拉梅和奥斯卡获奖摄影师在内的顶级明星参与制作。
Kalshi增长负责人Keaton Inglis本月早些时候向《广告时代》表示:“我见过几乎所有品牌都用过AI,我们也从AI领导者转变为尽可能‘人性化’。”
然而,考虑到Kalshi仍在社交媒体上向用户推送带有种族转换的AI广告,这番说辞显得极不真诚。


