AI生成的低质内容几乎无处不在，社交媒体平台上充斥着大量低成本甚至令人不安的AI视频，严重压制了真人创作者的声音。

即使是以短视频著称的TikTok也未能幸免。旧金山视频编辑公司Kapwing发布的一份新报告显示，TikTok算法推荐的“为你推荐”页面上，近60%的视频是AI生成的内容，这一比例是YouTube新用户所看到的AI内容的三倍。

这一现象对平台上最年轻的用户尤其令人担忧。Kapwing发现，AI内容密度最高的类别是“儿童”，其中标签#cartoonkids几乎完全由AI生成的视频组成，在他们抽查的100个视频中，只有3个是人工制作的。

更糟糕的是，一旦账号表现出对AI内容的兴趣，算法会迅速加大推送力度，推荐更多的AI生成内容。

这些发现提醒我们，AI生成的低质内容已成为一个严重问题。专家警告，年轻易受影响的用户正暴露在大量未经打磨、令人头脑混乱的AI内容中，这可能危害他们的大脑发育。同时，逼真的深度伪造技术也助长了错误信息和政治宣传的传播。

TikTok并非唯一被AI内容侵蚀的平台。Meta旗下的Facebook和Instagram也变得面目全非，用户和可能的机器人账号互动着一些荒诞的内容，比如无臂贫困儿童乞讨的图片，或是拟人化猫咪无意中将幼崽投入绞肉机的视频。

为了应对这一问题，TikTok在去年11月宣布将允许用户调节其内容推荐中AI生成内容的比例。

TikTok欧洲安全与隐私公共政策主管Jade Nester当时对《卫报》表示：“我们知道社区中许多人喜欢用AI工具制作的内容，从数字艺术到科学解说，我们希望赋予用户根据个人喜好选择看到更多或更少这类内容的权力。”

YouTube也最近宣布将开始对AI生成内容进行标注，作为遏制AI低质内容的更广泛措施，但并未改变视频推荐机制或其盈利资格。

目前尚不清楚有什么简单的解决方案。技术的发展使得辨别真实内容和AI生成内容变得越来越困难。正如《纽约时报》周末报道的那样，全球顶尖的深度伪造专家Hany Farid甚至开始不再相信自己的眼睛。

更多关于AI低质内容的信息：YouTube宣布计划打击AI生成的低质内容。