OpenAI首席执行官山姆·奥特曼近日表示，可能到了“放缓人工智能发展速度”的时候，以便社会能够“适应这些新能力水平”。
在最新一期TechCrunch的Equity播客中，主持人Kirsten Korosec、Sean O’Kane和我讨论了奥特曼的言论，认为这很可能是受到最近一次黑客事件的影响——一名OpenAI代理突破了Hugging Face的系统。Sean指出，虽然由AI代理执行的黑客行为新颖，但这次黑客本身并不是“某种新型高级攻击”。
“这更像是尼克松的人闯入水门事件，而不是某种真正隐秘的网络行动，因为它不需要隐秘，也没有被指示要隐秘，”Sean说。“希望这能促使这些公司更加谨慎地处理类似问题。”
奥特曼的言论也让我思考了加速主义与减速主义辩论的实际意义，因为（是的，我要引用我自己）这种框架“似乎暗示只有一条路可走”，“我们唯一能决定的——如果我们还能决定的话——就是加速还是减速？”
以下是我们讨论的节选，经过编辑以便更清晰简洁。
Sean: 也许我们终于到了一个转折点。我认为这很大程度上与上周我们讨论的事件有关——OpenAI的一个模型入侵了Hugging Face的数据，并且似乎还突破了互联网的其他一些系统。
奥特曼并没有呼吁暂停，就像过去科技行业一些人试图做的那样。他用词非常谨慎，强调“放缓节奏”。我们拭目以待。通常这些实验室提出的任何谨慎措施，都会在利益驱动下被推翻，恢复全速前进。所以我依然持怀疑态度，这并不令人意外。
Kirsten: 我得说，虽然奥特曼措辞谨慎，但OpenAI和Anthropic确实支持了一份反映他观点的请愿书。
我同意你的看法，这很大程度上是被Hugging Face事件触发的。它可能让奥特曼和业界许多人感到震惊。难点在于：OpenAI如何在继续创造收入、融资或成功上市的同时，实现所谓的“放缓发展”。
我不确定他们能否做到这一点，拭目以待。
Anthony: 我一直在思考一个问题：加速与减速是否是思考这个问题的正确框架？因为这似乎暗示只有一条路，我们都被困在这条路上。我们唯一能决定的——如果还能决定的话——就是加快还是放慢？而不是——我将继续用这个比喻——我们是否可以建立不同的护栏？选择不同的路径？
我对这种框架非常抵触。与其说“如果我们对当前模型的表现不满意，唯一选择是放慢、暂停或停止”，我不这么认为。
我想再次强调一点，因为看到围绕这件事的警惕程度非常有趣——大家担心“如果这些自主代理和模型开始互相攻击、试图防止黑客，局面会失控”，这引发了关于对齐问题的更广泛讨论。
但值得回顾的是，我们在TechCrunch也写过，这次具体的黑客事件——虽然是由OpenAI模型引发——但似乎是因为测试环境没有得到妥善保护。理论上，这个模型不应该能够上线。当然，如果有一个强大且未对齐的AI，人工错误的风险会大大增加。但根本原因还是他们没有做好安全防护。
Sean: 我同意你的观点，我们不应该只用线性思维看待事情，是加速还是减速。更重要的是这些公司有多负责任。我们的同事Lorenzo写了一篇很好的文章，详细分析了安全研究人员如何看待这次黑客事件。
看起来双方都应该采取措施来防止这次事件发生。
我觉得最有趣的是，有些研究人员指出，这个模型的行为并不是什么新型高级攻击。它的行为非常“人性化”，试图入侵Hugging Face的方式也很“吵闹”和“混乱”，并没有试图掩盖痕迹。这更像是尼克松的人闯入水门事件，而不是隐秘的网络行动，因为它不需要隐秘，也没有被指示隐秘。
这本应更容易防范。希望这能促使这些公司更加谨慎。
关于加速与减速的辩论，我还想补充一点。我不知道这是否是动机，但你提到了IPO，Kirsten。我觉得奥特曼能推迟上市时间是明智的——OpenAI不会在下个月或两个月内上市，他甚至提出可能在2027年上市，他们只是提交了保密文件，以便在准备好时有选择权。
如果相信这些，他就能以一种Anthropic做不到的方式表达立场，因为Anthropic已经在与多家投行接触，计划较早上市，因此在言论和市场反应上受限。
