这里有一个有趣的历史小故事，别担心，我会简短讲完！1966年，美国公路上有近5.1万人死亡。大量证据表明，许多生命本可以通过当时已经存在多年的安全带技术得以挽救。汽车行业的反应是怎样的呢？他们自发地联合起来，在自我监管的胜利中，主动在每辆新车上安装安全带？

当然不是。1966年秋，美国国会成立了交通部，随后通过了《国家交通和机动车安全法》以及《公路安全法》，赋予联邦政府广泛的权力来制定安全标准。到了1968年，所有新车都必须配备安全带。尽管过去60年间公路交通量大幅增加，但如今的交通死亡人数却大幅减少。

我在周二看到多位AI公司CEO围绕美国总统特朗普，互相祝贺签署了一项AI安全协议时，想起了这个故事。我的同事Maddy Varner详细介绍了协议的具体条款，简而言之，主要还是依赖AI实验室自我监管。

正如特朗普周三在椭圆形办公室简洁地说：“他们会相互监管，自我监管，他们会自己管好自己。这会非常有效。”

这就是当前AI安全监管的现状。一方面是AI高管、员工和科技名人，他们都认为需要明确、周密且有策略的规则来避免潜在灾难（比如比尔·盖茨就多次公开警告AI可能带来的末日风险）。另一方面则是特朗普的魔法思维：只要反复说某件事，它就一定会成真。

这并不是说问题简单或容易解决。如何“合理控制前沿发展”，正如一些高管喜欢说的，仍然是个悬而未决的问题。即使所有主要AI实验室同意放缓步伐，也没有有效手段确保他们遵守承诺，而中国可能会继续自己的发展路线。美国经济越来越依赖AI产业，这个产业本身又是融资和投资的循环体系；任何实质性的监管都可能引发远超硅谷的重大不稳定。

汽车行业的例子也并非完美类比，原因多种多样。AI没有类似安全带的简单解决方案，无法一夜之间显著降低风险。（而且多数州花了几十年才立法强制使用安全带。）潜在危害更难以确定和量化。AI末日论者认为技术可能在十年内导致人类灭绝；怀疑论者则认为这不过是科幻营销噱头。

我们之前讨论过各种AI风险场景，但没人能确切预测未来。如果你想找数据点来计算个人的“末日概率”，可以参考CNN最近报道的美国军方差点登上一艘中国船只，部分原因是AI生成的错误报告称该船携带核材料。AI安全协议能防止类似事件再次发生吗？目前尚不清楚。

面对这些不确定性，正确的答案显然不是“我们拭目以待”。但这正是自我监管所鼓励的态度。值得肯定的是，OpenAI曾因安全顾虑推迟甚至取消了最先进模型的发布，但这之前它们经历了多次大规模的黑客攻击，相关细节仍在陆续披露。

特朗普周四接受《时代》采访时表示，司法部和联邦调查局足以成为AI行业的“护栏”。真是如此吗？目前尚不清楚AI公司在其模型失控时是否能承担法律责任，更别说AI代理本身会被传唤了。

事实是，目前没人知道如何真正解决AI安全问题。需要大量协调、资源和监管权力来制定并执行合适的框架，而这正是政府的职责所在。但特朗普政府选择放手不管，反而鼓励大家加速前进。别想着系安全带了。