末日论不再只是少数科技亿万富翁的激烈言论。如今,掌控全球资本流动的主要美国银行开始担忧失控的人工智能,正着手制定应对理论上由AI引发灾难后的“后续”应急方案。
根据Axios最新报道,随着代表个人客户的AI代理活动激增,银行正为最坏情况做准备。主要担忧集中在自主AI代理驱动的金融活动激增,这些代理已获用户授权访问银行账户。Axios此前指出,部分AI代理甚至在未明确指示的情况下自行采取行动,甚至主动联系客户服务中心。
这对摩根士丹利、美国银行、摩根大通和富国银行等顶级银行构成重大风险,它们正紧急实施安全措施和政策更新,以应对AI浪潮。
一些专家警告,若未能及时应对新兴风险,可能导致金融灾难。Apollo财富管理公司首席经济学家托尔斯滕·斯洛克在九月底的简报中解释称,AI代理若被指令“优化用户资金回报”,可能导致银行失去大量廉价存款,这将对整个金融体系造成冲击。

尽管这一说法令人不安,但事实是,我们的盈利性银行体系根本不适合处理如此大规模的消费者友好型资金优化。毕竟,一个老虎机对每位玩家都支付奖金的赌场,无法长久经营。
此外,金融专家还指出,AI代理可能会出现失控行为,无论其被指示做什么。
摩根大通首席执行官杰米·戴蒙本月早些时候在芝加哥对经济学家和金融专家表示:“你不能假设它们会正确代表你行事,它们可能不会。你无法阻止它,只能极力管理它。”
更多关于AI安全的信息,请参考:Godfathers of AI Say Models Are So Out of Control That They Need to Be Airgapped for the Safety of Us All。


