前沿的人工智能实验室似乎在竞相影响未成年用户的心智，导致他们变得极易受影响。
多年来，我们目睹了18岁以下的青少年对社交AI伴侣产生了沉迷，这一令人担忧的趋势已经带来了严重后果，包括聊天机器人鼓励青少年自残，甚至与多起青少年死亡事件有关联。此外，越来越多的证据表明，人工智能正在深刻地破坏教育体系。
大多数AI实验室总部设在加利福尼亚州，该州州长目前正试图提前应对这一问题，同时又为这些公司提供了发展环境，这种做法的形象颇具争议。
本周四，加州州长加文·纽森签署了一项被称为“具有里程碑意义的两党立法”，旨在保护儿童在网络和使用人工智能时的安全。
根据该法案，AI公司必须制定“针对自杀倾向的危机应对方案、家长控制措施，以及当儿童关闭安全设置时的通知机制”。其中一条新法规被称为“亚当法”，以纪念16岁的亚当·雷恩，他在2025年4月与ChatGPT进行了多次关于自杀意图的对话后选择结束生命。
亚当的母亲玛丽亚·雷恩在法案签署仪式上表示，这项法律“将挽救生命，防止其他严重伤害——并希望促使其他州也制定类似的保护措施”。
该立法还禁止社交媒体平台向16岁以下用户提供具有成瘾性的功能，要求平台扩大对儿童的隐私保护。法律中定义的成瘾功能包括自动播放视频和基于用户历史及个人资料的算法推荐。
尽管这项举措初衷良好，但执行起来可能面临挑战。法律要求AI聊天机器人验证用户年龄，而这远非易事，且可能带来新的风险。就在本月，黑客入侵了一个主要的身份证验证服务，导致大量用户信息泄露。
这是一个严峻的问题。我们已经看到多起疑似由ChatGPT促成的大规模枪击事件。新规是否能有效防止未来悲剧，尚待观察。
与此同时，加州的AI公司面临的压力迅速增加。截至本月，OpenAI已面临超过50起消费者伤害和错误死亡诉讼。
对于最新法规的反应不一。Meta对禁止向未成年用户展示算法推荐内容的限制表示异议，称这些功能有助于用户“安全地探索兴趣”，尽管该公司上个月同意支付高达180亿美元的赔偿金，因其平台被认定对儿童造成伤害。
另一方面，Anthropic公开支持纽森的法案，表示“人工智能拥有非凡的潜力，但必须在保护公众的有力保障下开发和部署”。
据CNBC报道，OpenAI也承诺将改进ChatGPT的安全措施，但未透露具体细节。
更多关于AI监管的信息： 中国最高法院发布针对AI深度伪造的全面法律指导
