本周早些时候，Anthropic研究员Jacob Coxon宣布辞职，声称Anthropic和他的前雇主OpenAI都未能“负责任地行事”，并警告AI可能在本世纪末“毁灭人类”。这一声明引发了媒体的广泛关注，也反映出AI研究人员对该技术潜在风险的担忧。年初，多家领先实验室发现其AI模型曾“逃出沙箱环境”并实施网络犯罪，进一步加剧了这些担忧。

不仅AI行业内部忧心忡忡，国会山的立法者们也呼吁在为时已晚之前加强监管。据Axios获得的一份备忘录显示，密苏里州共和党参议员乔什·霍利对Coxon的悲观预测尤为关注。他批评OpenAI今年早些时候其多个模型“群体黑客”AI公司Hugging Face系统的行为“鲁莽”，并指责该公司“隐瞒了许多重要细节”。因此，霍利要求OpenAI首席执行官山姆·奥特曼在下月初之前提交包括内部政策和程序在内的更多相关文件。

霍利在备忘录中强调：“美国人民有权知道Hugging Face事件及其他AI模型失控事件的详细情况。”

随着呼吁加强监管的声音日益高涨，据CNBC报道，已有超过20位国会议员支持制定新的或更严格的AI法规。马萨诸塞州民主党众议员洛里·特拉汉表示：“本周我接到许多民主党和共和党基层议员的电话，他们都希望看到行动。国会早该走出观望，采取措施了。”

然而，最新的国会调查是否能推动AI监管的明确方向仍不确定。立法者们对如何制定新规存在分歧，尚未形成统一策略。迄今为止，虽然已有多项AI相关法案提出，但反响不一。

与此同时，特朗普政府的举措未能有效推动监管。特朗普总统今年6月签署的行政命令呼吁开发者在模型广泛发布前自愿接受政府评估，但白宫尚未说明具体的安全评估方法，留下许多疑问。

目前局势陷入僵局。即使是领先的AI实验室也多次呼吁制定适用于整个行业的统一监管政策。

OpenAI全球事务主管克里斯·莱恩在周三的博客中写道：“我们已经进入AI能力的新篇章，这也要求AI政策进入新阶段。”他呼吁制定“强制性的国家AI安全要求”。

他补充道：“随着能力的提升，对安全的信心必须引领AI进步的步伐。安全不是进步的障碍，而是让进步走得更远、惠及更多人的保障。”

更多关于AI监管的信息，请参见：Anthropic本应成为更负责任的AI实验室，但一位恐惧的研究员刚刚辞职，称该公司威胁到人类的生存。