我们正目睹围绕人工智能安全和潜在放缓的激烈讨论。Anthropic CEO Dario Amodei 最近提出了一个“控制前沿速度”的计划，而Nvidia CEO Jensen Huang则公开支持前总统特朗普的观点，称人工智能的反弹是虚假的，监管是不必要的。
在最新一期的TechCrunch《Equity》播客中，Kirsten Korosec、Sean O’Kane和我探讨了Amodei和OpenAI CEO Sam Altman等高管是否真心想要放缓人工智能的发展。
令我惊讶的是，许多行业领袖似乎支持Amodei的计划，但Sean指出该计划缺乏具体细节。
当Kristen问到现有监管和自由市场机制是否足以保障安全时，Sean回应：“目前联邦政府显然不热衷于广泛执行监管，更不用说针对人工智能领域了。”
他还认为：“市场上似乎缺乏足够的消费者选择，如果某家公司做了很糟糕的事情，用户取消服务的数量并不会对其产生明显影响。”
以下是我们对话的节选，经过编辑以便更清晰简洁。
Anthony: Sean，你怎么看？我们真的会“控制前沿速度”吗？
Sean: 这听起来像是电影《极限特工》里的台词，很加州风格，“我们要控制前沿速度，兄弟。”
我不确定。上周我在节目中说过，我不认为我们会放缓发展，主要是因为这些公司的结构不支持放缓。
但听到Anthropic的Dario、OpenAI的Sam甚至一定程度上的Elon Musk都提到这个，我有点转变看法。不过，我觉得他们的计划仍然缺乏具体细节，不论是关于风险的说明，还是他们所谓的“放缓”具体指什么。
Anthony，你上周关注这事比较多，你怎么看？
Anthony: 我也有疑问。让我印象深刻的是，行业内很多人很快就支持了这个计划。甚至在Amodei发布博客前，已经有人提出类似方案。
我理解这些建议来自人工智能安全社区，已经酝酿了一段时间，不是Amodei一人想出来的。看到大家达成共识令人鼓舞，但也让我怀疑这是否会真正导致放缓。
Kirsten: 共识有好处，也可能是形成卡特尔的开始。我们说的是前沿AI实验室，这很关键。
虽然细节不明，但大致想法是引入独立第三方评估者，进入Anthropic或OpenAI等公司，监督AI安全实践和事件。但具体操作仍模糊。
还有提议让民主国家的主要AI公司协调安全标准和限制，甚至国际合作。这些是大致方向。
同时，也有强烈反对声音，令人意外的是一些我没想到会反对的人。比如Nvidia CEO Jensen Huang，他在All-In峰会上与特朗普通话时发表了强硬言论。
Sean: Jensen知道自己在这里被视为“理智的成年人”，这很有趣。过去两年，这个角色更多是微软和Satya Nadella，但微软因为一些原因失去了这个地位，部分原因是Nadella曾说要让谷歌“跳舞”，结果并未实现，反而相反。
Jensen明白他需要讨好更多人，发言更谨慎，同时他也是该领域与政府间的重要桥梁，甚至在峰会上接到总统电话，回应当前混乱局面。
Kirsten: 你说他是理智的成年人和桥梁，他确实有这个位置。但我觉得他的亮相有点刻意，反而凸显了Nvidia极大受益于AI不受限制的快速发展。
我有点悲观，这是我的第一反应。
Anthony: 特朗普和黄仁勋的利益是一致的，黄仁勋也在说特朗普想听的话。
他强调的“我们不会放缓”很值得注意。虽然Altman和Amodei也用“放缓”这个词，但他们更喜欢用“控制节奏”。
这三个提议——独立评估、国家协调、国际合作——理论上可能导致放缓，但他们并未明确表示要比现在慢，只是说要采取基本安全措施并有人监督。
Kirsten: Sean，你怎么看？在自由市场和现有监管环境下，如果某公司发布不安全产品，市场和监管是否能自行淘汰它？
Sean: 理论上，如果市场不受外部干扰，确实如此。但现在联邦政府并不积极执行监管，尤其是针对AI领域。
而且市场缺乏足够的消费者选择，用户很难通过取消服务来惩罚公司。尤其是AI服务更多面向企业，企业不会因为原则问题轻易更换供应商。
再加上大量投资资金支持，这些公司能轻松承受损失。所以理论很好，但实际操作中并不现实。
