Anthropic是众多大型AI公司中最喜欢对AI未来持悲观态度的公司之一——这也源于它对AI安全的高度关注。

然而，你绝对想不到他们新聘请的经济学家Chad Jones竟然持有怎样的观点。

据《金融时报》报道，这位长期任教于斯坦福大学的经济学教授曾撰写过一篇论文，评估了人类因AI导致灭绝的可接受风险水平，并将其与AI带来的经济增长潜力进行了权衡。

Jones在论文中写道：“假设我们面临每年1%的存在性风险，持续40年，那么我们在这场AI爆发中存活下来的概率约为0.67。”

换句话说，Jones认为以对数效用函数计算，接受三分之一的概率导致人类灭绝，换取三分之二的概率将生活水平提升55倍，是一种“最优选择”。

换言之，Jones认为冒着33%灭绝风险是可以接受的，因为AI可能会带来经济的巨大繁荣，让人们生活在美丽的太阳能高楼中。

但并非所有人都认同这种“最优风险”。

一位Reddit网友激烈反驳道：“这不是扑克游戏，不能只靠数学来指导决策。终结人类存在需要更多的谨慎。”

尽管Jones的观点颇具争议，但在Anthropic却非常契合。该公司公开强调对AI潜在后果的担忧，借此在竞争中保持道德制高点。

虽然Anthropic可能真心致力于安全，但其Claude AI被用于伊朗的军事打击目标选择，以及与五角大楼在技术安全部署上的公开争执，都让人对其安全承诺产生质疑。

这种策略实际上助长了对AI能力的夸大和恐慌。对AI可能毁灭世界的担忧，基于AI已经或将会强大到足以实现这一点的假设，这反过来又强化了Anthropic作为一家重要且肩负伦理责任的公司的形象。这种形象的塑造，最终对谁有利，显而易见。

更多AI资讯：Anthropic呼吁全球暂停AI进展以应对风险。