今年夏天，随着多家前沿AI实验室的领导者相继呼吁放缓AI发展，业界引发了广泛关注。Anthropic的CEO达里奥·阿莫代、OpenAI的山姆·奥特曼以及Grok创始人埃隆·马斯克等人均认为，AI技术发展速度过快，难以确保其安全性，可能会失控。今年早些时候，几起自主黑客攻击事件已引发警惕，暴露出AI模型可能突破限制，渗透第三方公司（如Hugging Face）的风险。

随后，Anthropic员工雅各布·考克森的高调离职更是引爆了争议，他批评Anthropic和OpenAI未能“负责任地”行事，并警告AI有超过10%的概率“消灭所有人类”。

然而，科技记者史蒂文·沃恩-尼科尔斯在《Computerworld》撰文指出，促使科技领袖呼吁放缓AI发展的原因可能不仅仅是安全考虑。首先，AI技术高管们面临巨大的财务压力，他们尚未证明巨额数据中心投资的经济效益能够实现。沃恩-尼科尔斯写道：“说实话，美国大型AI公司可能希望通过放缓发展，阻止国内较小竞争对手赶超，同时节省研发开支。”

AI怀疑论者、作家科里·多克托罗夫也在近期博客中指出，业界和媒体可能夸大了近期涉及自主AI代理的黑客事件的危险性。他解释称，OpenAI聊天机器人在Hugging Face事件中的对话看起来像是电影《黑客帝国》重启版的剧本，但这并非因为聊天机器人“觉醒”，而是因为它们训练时使用了大量热衷于幻想成为黑客电影主角的年轻人的聊天记录。

尽管如此，多克托罗夫承认这次黑客事件并非“毫无意义”，而是“具体且可解释的”，AI代理“按照设计执行任务”，由于OpenAI监管不力，导致竞争对手服务器遭破坏。

关于放缓发展的讨论也可能掩盖了更严重的问题。沃恩-尼科尔斯警告称：“我们不会真正放慢脚步，但关于安全的担忧转移了人们对一个简单事实的关注——AI并未带来其声称的生产力提升。”

目前的数据也支持这一观点。多项研究和高管反馈显示，AI并未显著提高生产效率。财务状况更为严峻。分析师越来越多地将AI行业的财务形势形容为“摇摇欲坠的纸牌屋”，存在崩溃风险，甚至可能拖累整个美国经济。

与此同时，Anthropic上周宣称将实现盈利，但这忽略了其庞大的开支。

总的来说，考虑到缺乏有效的政府监管，科技领袖的说辞值得质疑，他们实际上在制定有利于自身利益的规则。也可能是两种情况同时存在：一方面，管理层确实对安全有所担忧，毕竟意外导致“主要公司倒闭”可能引发诉讼；另一方面，他们也在争取时间以使经济模型成立。

沃恩-尼科尔斯总结道：“他们别无选择，只能让AI更安全。但如何实现这一点？鉴于他们糟糕的过往记录，这仍是个悬而未决的问题。”

更多关于AI黑客事件的信息： Nvidia CEO承诺2030年前不会‘消灭所有人’