中国网络空间管理局正在加紧对“数字人”技术的监管，拟定的新规将要求对AI生成的虚拟人物内容进行明显标识，并禁止向未满18岁的用户提供“虚拟亲密关系”服务。
据路透社首次报道，这些草案规定AI公司必须在含有AI虚拟角色的内容上贴上醒目的“数字人”标签。同时，针对AI深度伪造技术，尤其是模仿真实人物的内容也将受到严格限制。新华网指出，未经本人同意，任何个人或组织不得生成他人肖像的仿制品。
新规明确表示：“任何违反本措施规定的，将依法依规受到处罚，并承担相应的民事责任。”
这些规定在正式生效前，将经历严格的公众意见征集阶段，截止日期为5月6日。尽管目前仍是草案，但与美国的现状形成鲜明对比——美国AI深度伪造技术泛滥，许多儿童和成年人因与AI虚拟人物建立危险关系而丧命，更多人陷入了对非人类AI实体的单向情感错觉，造成广泛的伤害和心理创伤。
在美国，相关责任追究进展缓慢。OpenAI作为ChatGPT的开发者，至今面临八起诉讼，指控其产品使用导致情感和心理伤害，其中五起涉及自杀事件。
在当前美国政府下，出台类似中国式严格监管的可能性极低。随着越来越多由科技巨头和特朗普家族盟友资助的政治行动委员会出现，阻碍监管立法的总统议程难以避免。
尽管如此，看到国家层面能够实施此类AI安全措施仍令人耳目一新——只可惜政府目前更多是在为造成问题的行业“铺路”。
更多关于中国AI的报道： 中国加强对低质AI内容的监管
