随着强大的大型语言模型（LLMs）变得触手可及，网络上恶意行为者散布垃圾信息变得比以往任何时候都容易。如果你在过去几年里花过大约10分钟上网，你就会发现垃圾信息和机器人内容的问题比以往更加严重。

Reddit表示，他们开发了基于大型语言模型的工具来减少垃圾信息，而这些垃圾信息本身很大一部分也是由大型语言模型生成的。这种做法有些讽刺，但在人工智能时代，平台别无选择，只能以火攻火。据该平台称，Reddit每天阻止了2300万次垃圾信息浏览，并每天捕获约2.5万个新的垃圾帖子和评论。

社交平台多年来一直在构建自动化的垃圾信息减少工具，但Reddit表示，这些升级后的工具能够以更高的效率识别垃圾信息。

“我们利用大型语言模型捕捉那些旧系统曾经遗漏的高度微妙、协调一致的虚假行为和人为炒作模式，”Reddit在一篇博客中写道。公司声称，从一月至三月，用户接触到的垃圾信息减少了20%，相比之前三个月有明显下降。

像YouTube、Meta和Instagram这样的平台允许用户发布AI生成的内容，只要用户进行披露，而TikTok甚至允许用户选择想看到多少AI生成的内容。

如果平台能够更快地检测出AI生成的内容，也意味着它们有潜力更快地标记违规内容，如仇恨言论。但平台专家不断提醒我们，AI内容审核必须与人工审核相结合，才能达到最有效的结果。