上周五,美国白宫以未具体说明的国家安全理由,命令Anthropic限制其强大AI模型Fable和Mythos的出口,禁止向美国境外及境内的外国公民提供。随后,这家AI巨头迅速停止了这两个模型的服务,至今已一周无人可用。

此次事件成为美国政府首次真正检验其是否能通过出口管制来遏制前沿AI技术,类似于过去对加密技术和间谍软件的管控尝试,尽管结果参差不齐。这场对峙的解决方式不仅影响Anthropic进入海外市场的能力,也可能成为其他AI实验室必须遵守的规则范本。

先来了解背景。自4月Anthropic发布Mythos以来,公司将其宣传为一种“末日级网络武器”,如果广泛释放,可能对互联网造成严重破坏。因此,在禁令出台前,只有约150家经过审查的企业和政府机构获得了访问权限,目的是帮助防御方在恶意势力达到类似Mythos的能力前,先行保护其软件和服务。

禁令的触发据称有两件事:一是Anthropic通过有限合作伙伴计划向一家韩国电信公司开放了Mythos访问权限,美国官员担忧该公司与中国有联系(该公司广泛被报道为SK Telecom,但其否认与中国有任何关联)。二是亚马逊CEO安迪·贾西据称向政府报告,称亚马逊研究人员发现了绕过Fable 5安全措施的方法。Anthropic否认这是对模型安全的全面攻破,称其只是一个已修补的局部问题。

结果是,美国商务部发布了出口管制指令,Anthropic被迫在约90分钟内紧急限制产品访问。

这并非首次。几十年来,各国政府试图通过出口管制限制被视为危险的网络技术扩散,但成效有限。

1990年代初至中期,美国政府对加密技术的管控堪称历史上最著名的失败之一。当时,计算机科学家开发了用于保护互联网数据传输的加密技术,其中一款名为Pretty Good Privacy(PGP)的软件能加密数据,使其即使被截获也难以破解。

美国政府最初将PGP视为危险武器,担心其阻碍情报机构监听电子邮件。为阻止PGP传播,美国海关对其创始人Phil Zimmermann发起刑事调查,指控其违反武器出口管制。Zimmermann反击,将PGP源代码以印刷书籍形式公开,引发了著名的“加密战争”。

最终调查关闭,Zimmermann取得关键胜利,为数十亿Signal和WhatsApp用户使用的端到端加密算法铺平了道路。

2010年代初,研究人员发现西方制造的间谍软件被用于中东的异见人士。为此,多国同意扩大《瓦森纳协定》,该国际条约限制民用与军用双重用途软件和技术的出口。

该协定将监控和黑客软件归类为双重用途,要求间谍软件制造商获得出口许可才能向海外销售。

但《瓦森纳协定》存在两大缺陷:部分国家不遵守该协议,包括拥有活跃间谍软件制造商的以色列;且协议依赖各国自行决定如何执行。意大利政府曾允许其顶级间谍软件制造商Hacking Team向全球出口工具,尽管该公司曾向压制性政府出售软件,用于攻击记者和人权活动家。

此后,欧洲其他国家在间谍软件出口管控上也表现宽松。尽管爆发多起丑闻,欧洲作为众多间谍软件和黑客工具制造商的聚集地,仍未能有效阻止向专制政权出口监控技术。批评者认为,欧盟27国近期加强管控的努力仍远远不够。

部分间谍软件制造商如Intellexa已将业务迁往管控宽松的国家,另有厂商计划迁至沙特阿拉伯以规避限制。

也有成功案例。德国间谍软件制造商FinFisher因涉嫌未经许可向土耳其出售间谍软件,经过多年调查后于2022年关闭。调查发现其软件被用于监控土耳其政府批评者的手机。

截至目前,Anthropic与美国政府的僵局仍未解决。政府可能会为了保持美国AI企业的全球竞争力而放宽限制,这将默认承认无论美国如何限制,其他国家(包括中国)的AI实验室终将达到类似能力。或者,美国AI企业可能需要政府批准才能服务海外客户,这将增加合规负担,影响盈利。

结合历史经验,政府强制的出口管制难以有效阻止恶意行为者滥用强大的双重用途网络技术。