这是Verity Harding的观点。2016年至2020年间,Harding负责向全球政界人士介绍人工智能的最新进展,从巴拉克·奥巴马到埃马纽埃尔·马克龙都曾接受她的简报。作为谷歌DeepMind全球公共政策负责人,她负责梳理伦理难题和潜在风险。她在最近接受WIRED采访时表示,当时的人工智能研究“根植于国际合作”。但随着时间推移,行业逐渐被竞争关系所塑造——不仅是Anthropic与OpenAI等实验室之间的竞争,还有美国与中国这两个超级大国之间的较量。人工智能军备竞赛成为当下的流行比喻。

Harding策划的新论文集《重新定义人工智能军备竞赛》中,汇聚了全球政治和学术界的多位人物,包括历史学家劳伦斯·弗里德曼和日本政治家河野太郎,他们共同认为,描述人工智能的语言决定了政策制定的基调以及国家间的互动方式。

Harding认为,将人工智能视为致命武器的比喻,可能会关闭国际合作的大门,而这种合作对于确保技术安全和利益公平分配至关重要。对于那些依赖进口技术的小国来说,接受军备竞赛的框架意味着不得不站队某个超级大国,这可能违背它们自身利益。

她指出,特朗普政府的民族主义人工智能言论及其试图对本土模型实施出口管制,正是军备竞赛框架的表现,也是最坏情景正在形成的证据。

WIRED于六月初采访了Harding,探讨军备竞赛概念的起源、这一叙事如何影响地缘政治,以及小国如何确保在人工智能发展中拥有发言权。以下内容经过删减和整理。

WIRED:为什么人们喜欢用战争隐喻来形容人工智能?

**Verity Harding:**我觉得这是一个很吸引人的框架。它看似清晰明了,但深入思考会发现它限制了我们的思维。

我在DeepMind时,工作是帮助政治领导人理解这项技术及其潜力。那时的理念是,技术令人兴奋,但也存在需要通过国际合作来妥善应对的风险。随着时间推移,我开始注意到一种观点:这更像是一场文明之战——西方对抗中国。

WIRED:这种转变背后的推动力是什么?

**Harding:**一方面是真诚的担忧,认为技术危险,若落入错误之手,民主国家应掌握关键。另一方面是反监管思潮,借助中国作为“恶魔”,声称“如果监管我们,就会让中国获胜”。

WIRED:有没有某个具体时刻成为转折点?

**Harding:**ChatGPT(2022年11月发布)让很多人开始关注人工智能。但同时发生的还有全球疫情,人们担心无国界世界变得封闭,以及乌克兰战争,这些都让人工智能与地缘政治,尤其是武器化的讨论变得非常现实。

人工智能迅速被视为新一轮军备竞赛,类比冷战时期,甚至被比作核武器。

WIRED:技术的发展轨迹在多大程度上取决于关键时刻掌权的超级大国?

**Harding:**非常大。人们通常认为技术改变社会,但反过来也成立。美国的政治文化对人工智能政策和发展产生巨大影响。当前地缘政治环境紧张,部分原因是美国采取了更孤立主义的政策。

WIRED:你为何主张国际主义的人工智能发展路径,反对各国闭门造车?

**Harding:**欧洲和英国的主权能力非常重要。但孤立主义已成为人工智能政策的唯一驱动力,掩盖了其他可能性和现实。即使是美国和中国也无法完全自主开发所有技术,这导致了许多战略瓶颈,比如“你不能用我们的芯片”、“你不能获得我们的关键矿产或科学家,我们也不会买你的产品”。完全自主的人工智能体系对任何国家来说都不现实。

WIRED:欧洲国家担忧依赖美国技术很合理。最近特朗普发布了充满民族主义色彩的人工智能行政命令,并迫使Anthropic撤回其最新模型。你怎么看?

**Harding:**确实如此。但国际主义并不与主权论点对立。竞争是正常且健康的,但不应排斥合作。我一直呼吁成立中等强国联盟。

WIRED:这样的联盟能带来什么?

**Harding:**部分是为了增加影响力,部分是为了规模效应。比如加拿大、法国、日本、韩国、印度和英国。印度拥有庞大的技术普及规模,英国有丰富人才和先进创业生态,加拿大拥有关键矿产资源,等等。关键是不要让军备竞赛的框架让你相信人工智能的游戏只能是两大超级大国之间的二元竞赛。相信这一点就会让你成为棋盘上的小卒,永远处于劣势。

WIRED:金钱是否是腐蚀因素?军备竞赛概念的流行是否与技术商业化路径的出现有关?

**Harding:**资金的数量、速度和涌入方式确实产生了影响,但这本身不足以解释目前的局面。

WIRED:主要实验室是否在推动从合作转向竞争的叙事?

**Harding:**是的。将人工智能描述为军备竞赛赋予了他们权力,宣称这项技术如此强大、独特,只有他们拥有答案,只有他们应当掌控解决方案。

WIRED:实验室之间以及超级大国之间的激烈竞争是否必然破坏安全和负责任的人工智能发展目标,还是两者可以共存?

**Harding:**两者是可能共存的。

WIRED:但可能性大吗?

**Harding:**我认为“竞赛”这一语言并不利于冷静、合作地规划未来。

WIRED:如果继续沿着这条路走,最终会怎样?

**Harding:**长期来看,可能导致政府过度控制和权力集中,系统变得不安全且不利于大众,因为我们无法在安全、粮食安全或疾病根除等领域找到合作方式。许多附庸国只能选择站队某个超级大国。

即使是小范围的合作也难以实现,因为军备竞赛叙事、实验室间竞争和日益增长的民族主义让人们不愿再锻炼合作的“肌肉”。这块肌肉必须保持活跃,否则会萎缩。