在人工智能时代,Meta旗下的平台如Facebook和Instagram已成为充斥着情绪化AI内容的温床。
一些点击量工厂传播针对少数群体的种族煽动内容,另一些则展示暴力儿童虐待的画面,但它们共同的特点是:通过奇怪且令人不安的方式吸引用户注意,而平台几乎放弃了主动内容审核。
一个新的例子是,AI生成的视频中出现了看似无家可归的儿童因偷窃食物而被逮捕的场景。
这些视频由名为“Emotional Tots”和“Tiny Miracle”等账号发布,遵循简单的套路:一个孩子跑进或跑出商店,拿走一些基本的食品,通常是一条面包。随后,他们被警察或保安等权威人物拦住,称孩子的点赞和关注数不足——如果观众帮助点赞和关注,孩子就能获释。
在一个病毒视频中,一名AI生成的警察对抱着面包哭泣的孩子说:“你被逮捕了。”孩子回应:“为什么?我什么都没做。”
警察解释:“你的视频没有足够的关注和分享。如果观看此视频的人关注并分享,你就能获释。”
孩子哭诉:“请再给我一次机会,我不想进监狱……请分享和关注。”
另一段视频显示,一个幼儿拿着一袋水果逃跑,随后被警察拦住。
孩子结结巴巴地说:“这是给我奶奶的,请不要拿走,我奶奶饿了,我妈妈不在。”

警察转向观众:“我应该让他把这些带给奶奶吗?请关注、点赞并评论。”
在我们向Meta提供了多个相关视频链接后,Meta发言人多次请求延迟回应。几天后,Meta删除了我们举报的两个账号,但另一个账号仍在线,且发布了更多类似视频。
Meta发言人表示:“到目前为止,我们已删除你们提供的三个链接中的两个。无论内容是由AI还是人类创作,只要违反我们的政策,我们都会删除。”
但该发言人拒绝说明这些哭泣儿童乞求点赞和关注以避免被逮捕的视频是否违反公司政策。
这些视频展示警察逮捕饥饿街头儿童的场景,无意中反映了西方国家长期存在的批评观点:警察的职责更多是保护私人财产,比如追回被偷的面包,而非帮助这些瘦弱的孩子。因此,视频下方无论是真人还是机器人发布的评论,都纷纷为孩子们呼吁正义,许多人似乎未意识到这些视频完全是AI虚构的作品。
一条获得45个点赞的评论写道:“让孩子留着面包吧,他什么坏事都没做,给他一次机会;不要监禁他。”另一位用户恳求:“不要关押他,他还是个宝宝。”
还有些人似乎根本不理解自己看到的内容,无论是比喻意义还是字面意思:“我关注了,因为警察是个好人,阿门。”一位2019年创建的账号这样回复类似视频。
考虑到Meta平台上泛滥的人权侵犯和公然的种族主义内容,AI生成的饥饿儿童视频虽然不算最严重的问题,但无疑是情感操控最强烈的内容之一。鉴于马克·扎克伯格公司在前述问题上的不作为,几乎可以肯定这些乞讨儿童点击农场视频不会被有效处理,这类令人心力交瘁的内容将继续在Meta、Instagram等平台传播。

