机器学习研究员Nate Soares持有一个令人不安的观点:AI在未来十年内极有可能导致人类灭绝。

在《大西洋》播客《AI中最有趣的事》的一期节目中,Soares坦言他对即将到来的AI末日充满信心,以至于他已经停止为自己的退休账户缴纳资金。

“我现在不为退休储蓄,”Soares在采访中说,“我有一个谷歌工作时的401(k)账户,但已经十年没有往里存钱了。”

这位AI专家估计,未来十年内AI引发人类灭绝的可能性超过50%,这是一个极为大胆的预测,而他本人也在努力阻止这一未来的到来。

“我尽一切努力阻止这种结局,”他说,“我不认为这是不可避免的。”

Soares在AI研究领域以悲观论调著称,这种风格已经成为他的标志。在机器智能研究所(MIRI),他是Eliezer Yudkowsky的得力助手,两人通过传播警示故事获得了媒体关注、书籍出版机会以及与政治人物的直接接触。

不过,正如批评者指出的,尽管Soares和Yudkowsky花费大量时间担忧AI末日,但目前并无共识认为这种未来既可能发生,更不用说是高概率事件。

AI确实带来了许多令人担忧的问题。该技术已经被用于轰炸小学、诈骗老年人,甚至导致多名脆弱用户自杀。AI不必超级智能就能造成这些伤害——如果我们只关注未来可能带来的风险,反而容易忽视它当前正在造成的现实危害。

至于是否应该为退休储蓄?一些AI悲观主义者建议,还是稳妥些为未来存钱比较好,免得将来后悔。换个角度想:如果AI真的毁灭了我们,那这些都不再重要了。