近日，有报道揭示YouTube上充斥着大量AI生成的“教育”视频，这些视频针对儿童，但传递的信息往往荒谬甚至有害，可能影响孩子们的健康成长。

例如，一段本应是关于汽车的儿歌视频中，动画儿童未系安全带，甚至在有车辆行驶的道路中央行走，极易引发安全隐患。另一段关于美国50个州的AI歌曲视频中，州名发音混乱，出现“Ribio Island”、“Conmecticut”、“Oklolodia”和“Louggisslia”等错误名称，误导儿童学习。

曾在《芝麻街》和PBS Kids等儿童媒体工作过的Carla Engelbrecht发现，还有AI视频展示婴儿整颗吞食葡萄（有窒息风险）、食用蜂蜜（婴儿可能致命）以及吃苹果时流血等危险或不实画面。

这些视频的危害显而易见，孩子们可能误以为吃危险食物或在马路上玩耍是安全的。与此同时，家长越来越依赖YouTube等平台来娱乐孩子，而这些AI视频以惊人的速度被大量生产。

心理学和神经科学教授Kathy Hirsh-Pasek警告称：“我们正面临一个巨大的问题，必须尽快应对。”芝加哥大学外科和儿科教授Dana Suskind也指出，这些内容不是中立的，而是“工业规模的幼儿AI错误信息”，对发育中的大脑极其危险。

目前具体规模难以确定，但视频编辑平台Kapwing的报告估计，YouTube上约有21%的内容是低质量的AI生成视频。发布那段汽车儿歌的频道自七个月前首次上传以来，已发布超过一万条视频，平均每天约50条。

《纽约时报》对1000多个推荐给儿童的YouTube Shorts视频的调查显示，近一半推荐视频包含AI视觉内容，表明算法可能偏好这类内容，或内容制造者懂得操控算法，亦或AI视频已极为普遍。

这些AI视频大多声称具备教育意义，承诺教授动物知识和字母表，但内容混乱，传递矛盾信息，延缓儿童学习。Engelbrecht强调，混淆信息会拖慢孩子理解因果关系的速度，影响执行功能发展。

Suskind将这种认知影响比作“脑部发育受阻”，因为儿童正处于认知发展的关键期，每一次经历都在构建新的神经连接，错误信息会导致大脑错误连接。

虽然《74百万》报道中未发现这些AI视频出现在YouTube Kids应用中，但《纽约时报》调查中发现了不少。许多家长仍让孩子使用普通账户观看这些内容。YouTube方面表示对儿童内容有更严格的质量标准，但许多视频仍然漏网，尤其是由于平台只要求对“逼真”AI内容进行标注，而大部分卡通风格视频不在此列。

这类AI视频的泛滥提醒我们，家长和监管机构需更加警惕，确保儿童接触到安全、准确的教育内容。