内容警告:本文涉及令人不安的AI生成儿童虐待暴力视频描述。
上个月,我们报道了Facebook上存在大量由AI生成的极端暴力儿童虐待视频,内容包括儿童被殴打、烧伤、拖拽头发、关进笼子等残酷场景。
针对我们的质询,Facebook母公司Meta表现出拖延态度,试图为这些视频辩解,并发布含糊其辞的声明,回避责任,也未承诺采取有效措施应对这一问题。
报道发布后,Meta曾删除了我们举报的一个上传了特别恶劣AI视频的账号,视频中有儿童被残忍殴打、被迫吃垃圾,甚至有女孩被绑在冰箱冷冻室内的场景。
然而,令人震惊的是,该账号很快被恢复,连同那些令人作呕的视频一同回归平台。我们向Meta询问原因,得到的回复仅是“我们正在调查”,并未给出具体时间表。
随后该账号再次消失,但Meta未回应为何先恢复后删除的后续问题。
目前,Facebook上仍有成千上万类似视频存在,每天还有更多上传。为了测试Meta是否有所改进,我们昨天又向其举报了19个包含类似儿童虐待内容的账号。
这次Meta完全没有回应,所有账号在我们发稿时仍然活跃,且未对置评请求作出回复。
这些视频内容极其恐怖。一个视频显示婴儿被关进烤箱,哭泣着,皮肤因高温起泡;另一个视频中,幼儿被推下楼梯;还有女孩被绑在树上,一名妇女用铸铁锅殴打她。更多视频展示儿童被皮带、绳索等物品殴打,或被关进洗衣机和狗笼。
视频中有女孩被关在猪圈里,哀求“爷爷,我好饿”。

还有一类视频展示黑人儿童在教室被老师殴打和辱骂。
一段视频中,老师用尺子打哭泣的黑人学生,质问:“你为什么不去黑人学校?为什么还想进这样的学校?”
(许多视频结尾会有成年人介入帮助孩子,Meta曾以此为由为这些视频辩护。)
如果Meta真心想主动识别并删除这些视频,凭借其庞大的资源完全可以做到。公司CEO马克·扎克伯格曾投入数千亿美元打造所谓的“超级智能”AI,但这些技术显然没有被用来遏制平台上的恐怖内容传播。
实际上,Meta完全可以通过视频上传时附带的文字描述来标记这些虐待视频,这些描述往往详细描绘了折磨场景。
例如,关于烤箱中婴儿的视频描述写道:“我母亲把发高烧、发冷的初生婴儿放进加热的烤箱,声称这是治疗感冒的方法。即使婴儿尖叫并严重烧伤,她也拒绝把孩子拿出来。丈夫冲进来救孩子时,她开始砸东西、尖叫并堵住烤箱,不让他救出孩子。”
这些视频并非Meta平台上唯一的AI生成恶梦。上个月,Wired报道Meta允许数百则包含真实儿童性内容的广告存在。
综合来看,Meta允许13岁以上用户使用平台,却在内容监管上几乎放弃,反而对外界不断揭露其平台问题表现出不耐烦。
更多关于Meta的报道: Meta的Muse正在监视你所有的朋友和家人


