AI公司一直将超级智能视为不可避免的未来，但近期一系列安全事件，如OpenAI的Hugging Face数据泄露，暴露了部署超越人类能力的AI系统所带来的潜在风险。那么，当我们无法可靠控制这些系统的行为时，会发生什么？

在TechCrunch的Equity播客中，主持人Rebecca Bellan邀请了AI研究员、企业家、以及非营利组织ControlAI美国执行董事Connor Leahy。ControlAI主张采取更激进的AI安全策略——完全阻止企业开发超级智能。Leahy解释了为何他认为仅靠对齐和限制已无法管理日益增长的风险，以及六个月前看似遥不可及的观点如今正被一系列新立法支持。

完整节目中，Leahy分享了以下观点：

  • 他对桑德斯-卡萨尔提出的《禁止超级智能法案》的看法，以及ControlAI参与建议的英国类似立法，认为美国的法案可能过于激进。

  • 他如何将前沿AI实验室视为政治行为者，而非单纯追求利润的公司，这对数万亿美元的数据中心建设投资意味着什么。

  • 他认为真正的“不可回头点”是AI能够自主创造更先进的AI，可能引发自我强化的失控循环。

  • 他支持国际间“信任但核实”的协议，并认为中国实际上并不利于发展超级智能。

欢迎订阅Equity播客，获取更多深度讨论。