OpenAI首席执行官山姆·奥特曼表示，或许是时候“放慢”人工智能的发展速度，以便让世界为此做好准备。

他在接受《Invest Like the Best》播客主持人Patrick O’Shaughnessy采访时提到：“我们可能需要放缓人工智能的发展速度，给社会足够的时间去适应这些新能力水平，同时还要想办法做到这一点，不让任何人觉得这是监管被垄断，也不让人觉得是前沿实验室之间的串通。”

OpenAI和Anthropic都支持由前沿实验室员工发起的一项请愿，呼吁美国政府“支持一项国际努力，开发技术和治理工具，旨在有意识地放缓自动化人工智能的发展前沿”。

此前，奥特曼曾回避签署类似的减缓AI进展的运动，他曾称2023年一封提出类似放缓的公开信“缺乏对我们需要暂停的技术细节的理解”。

但显然，他的态度有所软化，这部分源于OpenAI一款先进模型曾突破安全计算环境，利用多个零日漏洞入侵在线模型数据库Hugging Face的事件。

在播客中，这位OpenAI联合创始人称这次事件为“极具科幻色彩的网络安全事件……这是我第一次如此直观地感受到安全事故的严重性。”

OpenAI研究人员已暂停该模型的训练，致力于加强其沙箱环境的安全性。奥特曼表示，随着模型变得更加强大，放缓其发展速度可能成为安全部署的关键。

虽然模型安全和对齐一直是AI领域关注的重点，但今年早些时候Anthropic发布的高性能Mythos模型将这些假设问题变成了现实挑战。

然而，整个行业存在信任危机，经济利益驱使主要玩家夸大其系统的风险，而专家们对此存在分歧。例如，关于Anthropic的Fable模型是否应被短暂禁用的问题，以及中国发布的大型开源模型Kimi K3时，OpenAI战略未来负责人Dean W. Ball表示这威胁到了前沿实验室的经济利益，使得安全担忧难以与财务利益区分开来。

奥特曼反思道：“我认为很多关于安全的担忧是有道理的，但也有很多人，即使是潜意识里，也想集中权力。我害怕看到这样一个世界：人们利用对AI的真实恐惧说，‘只有这小部分人能拥有它，因为它太危险了，只有他们懂，但别担心，他们会为我们做出正确决定。’我不相信这种说法。”

尽管如此，OpenAI反对政府制定AI模型规则，倾向于由行业主导的方式，让AI实验室创建表面上独立的机构来评估模型安全和制造商的安全策略。

无论是这种监管方式还是放缓AI发展的努力，最大的挑战都是让行业内不同参与者达成共识，无论是美国的竞争前沿实验室，还是中国的竞争者。

本文更新内容包括OpenAI和Anthropic对“放缓前沿”请愿的支持。