OpenAI基金会董事会成员Paul Christiano近日在2026年Hinton讲座——由诺贝尔奖得主兼计算机科学家Geoffrey Hinton主持的AI伦理峰会——上发表了令人震惊的言论。他警告称,未来几个月内,难以预测的“AI事故”可能成为人类死亡的最主要原因。

Christiano在演讲中表示:“对在场的大多数人来说,最可能导致他们死亡的原因是AI事故。如果我们沿着最快的路径发展AI,尽可能快速且简单地构建它,那么AI接管的概率就像掷硬币一样。”

他进一步指出:“总体来看,有大约20%的可能性,在一年内,AI的不对齐问题会导致你无法正常生活,因为你可能已经死亡、被奴役,或者因相关的附带损害而受害。即使采取现实的政策应对,这种风险依然非常高。”

Christiano的观点在一些怀疑论者聚集的LessWrong论坛上并不罕见,该社区许多人坚信机器学习的发展必然会导致具有人类水平的人工智能,并将其视为灭绝级威胁。但令人惊讶的是,这样的言论竟然来自于OpenAI董事会这样拥有决策权的高层人物。

换句话说,Christiano的理论立场与他的实际行动存在矛盾——他作为OpenAI董事会成员,依然积极参与高调的AI伦理演讲。就像电影《终结者2》中,Miles Dyson明知自己最终会导致人类灭绝,却依然每天上班一样。

如果像Christiano这样的AI研究者真心相信他们公司的产品有一天可能毁灭人类,那么他们为什么不花所有时间去阻止这种情况发生呢?

更多关于OpenAI的报道:

OpenAI领导层被冒充乌克兰官员的恶作剧者欺骗,讨论军事机密