随着人工智能技术的快速发展，儿童在线安全问题日益严峻。为此，OpenAI近日推出了一份《儿童安全蓝图》，旨在加强美国儿童保护工作，加快对AI驱动的儿童性剥削案件的发现、报告和调查效率。
该蓝图的核心目标是应对因AI技术进步而导致的儿童性剥削案件激增。据互联网观察基金会（IWF）数据显示，2025年上半年检测到的AI生成儿童性虐待内容报告超过8000起，比去年同期增长了14%。犯罪分子利用AI工具制造儿童虚假色情图像进行经济勒索，甚至通过AI生成的逼真信息进行诱骗。
OpenAI发布此蓝图之际，正值政策制定者、教育者和儿童安全倡导者对AI安全问题关注度提升，尤其是在一些年轻人因与AI聊天机器人互动后自杀的悲剧事件曝光后。
去年11月，社交媒体受害者法律中心和科技正义法律项目在加州法院提起七起诉讼，指控OpenAI过早发布GPT-4o，称其产品具有心理操控性质，导致多起自杀和协助自杀事件。诉讼中提及四名自杀者和三名因长期与聊天机器人互动而产生严重幻觉的个案。
这份蓝图是在与国家失踪与被剥削儿童中心（NCMEC）、检察长联盟以及北卡罗来纳州检察长杰夫·杰克逊和犹他州检察长德里克·布朗的反馈合作下制定的。
OpenAI表示，蓝图重点包括三方面：更新立法以涵盖AI生成的虐待材料，完善向执法部门的报告机制，以及将预防措施直接整合进AI系统。通过这些措施，OpenAI不仅希望更早发现潜在威胁，还能确保调查人员及时获得可操作的信息。
此外，OpenAI的新蓝图是在此前针对未成年用户互动制定的更新指南基础上推出的，禁止生成不当内容、鼓励自残行为或帮助未成年人隐瞒不安全行为。公司近期还发布了针对印度青少年的安全蓝图。
