文本生成视频的AI工具近年来取得了巨大进步。仅仅三年前，我们还被威尔·史密斯“吃意大利面”变脸的恐怖AI视频所震惊。如今，这些工具能够随时生成逼真的假视频，这对防止虚假信息传播构成了严重威胁。
然而，AI领域的投资者们却对真相的快速崩解表示欢迎。Andreessen Horowitz的合伙人Justine Moore最近吹嘘该公司支持的Black Forest Labs推出的Flux 3 AI工具“在生成历史影像方面表现卓越”。
Moore分享了一段20秒的视频，内容是“90年代的小学生预测我们将如何使用电脑”。视频中，一个AI生成的孩子说：“它们可能会帮我们做作业。”另一个孩子补充道：“也许它们会帮我们拍电影。”这与好莱坞高层希望将娱乐产业变成AI内容工厂的愿望不谋而合。
虽然这段视频与1980年代的真实预测并无太大差别，但正如Gizmodo指出的，Moore对这类AI生成内容的兴奋反映出对制造可信但虚假的历史记录的危险忽视。这种行为类似于乔治·奥威尔小说《1984》中当局随意篡改历史记录的高科技版本。
在Moore视频下，除了风险投资相关账号的祝贺评论外，许多网友表达了担忧。有网友称“这很邪恶”，“AI将扭曲历史和现实，超出理解范围”。还有人指出这是“噩梦般的情形，极大增加了错误信息和叙事控制的风险”。
专家早已警告，AI正在充斥网络，制造易于生成的宣传内容。专制政权已利用这项技术传播虚假信息并巩固权力。2024年，OpenAI承认曾介入阻止利用其技术发起的来自俄罗斯、中国、以色列和伊朗的虚假信息活动。
虽然一个孩子预测机器人将帮忙做作业看似无害，但同样的技术可能被用于更阴险的目的。尽管存在明显风险，Moore依然坚定支持这项技术，称其“极具趣味性和创造力，能完成令人印象深刻的多种任务”。
在Flux 3发布时，她还分享了一段90年代风格的CNN新闻片段，视频中主播介绍：“今天研究人员展示了一款能从文本生成逼真视频的AI。”另一位主播回应：“谁会相信呢？”
更多关于AI视频的内容，请参考：Boomers在Facebook上留言，明显看出他们不知道AI生成的诱惑图片不是真实的。
