美国政府向Anthropic发出的执法信,实际上迫使该公司在周末前下线其最新的AI模型,这一举动应当成为所有美国科技公司——无论是否是AI实验室——的警钟。

简要回顾事件:上周五下午,美国商务部向Anthropic发出一封信,援引一项鲜为人知的出口管制指令,禁止非美国公民(包括Anthropic员工)访问其Fable 5和Mythos 5模型,理由是涉及未具体说明的国家安全问题。Anthropic表示,他们认为这封信与模型的安全防护绕过有关,但由于信中未提供具体细节,尚不确定。该信件尚未公开。

作为回应,Anthropic关闭了其两款顶级模型的所有客户访问权限,以确保遵守该指令。结果是,美国政府通过迅速且单方面的行动,成功迫使一家科技公司下线其AI模型,且似乎无需法院批准。

这次由特朗普政府发起的干预表明,AI行业并非不受政府干涉的影响。这也是对整个科技行业的警告:遵守规定,否则我们可以关闭你和你的产品。

据Axios援引消息人士报道,周末期间双方关系紧张,称Anthropic与特朗普政府之间的“个性差异”是导致出口管制指令的主要原因,而非AI产品本身的技术问题。

随后曝光的新细节进一步质疑了政府本已站不住脚的理由。

网络安全专家、Luta Security创始人Katie Moussouris在博客中表示,Anthropic最近向她私下分享了一篇由安全研究人员撰写的论文,描述了Fable 5模型中所谓的安全防护绕过。(《华尔街日报》报道该论文作者为亚马逊的安全研究人员。)Anthropic曾征求她对该论文的看法。

Moussouris在博客中描述了研究人员如何触发该绕过,但她认为此类绕过“本不应触发出口管制”。关键区别在于,询问AI模型“审查代码中的安全问题”与“修复代码”之间的差异,尽管提问方式略有不同,最终结果大致相同。

她指出:“论文中描述的行为无法有效修复,任何尝试只会削弱模型的防御能力。”她批评此次出口管制指令仓促、过于严厉且误导。

包括Moussouris在内的数十位顶级安全研究人员呼吁特朗普政府撤销该出口管制令,称此举剥夺了美国网络防御者的先进安全能力,极具危险性。

过去的政府也曾因知识盲区做出过广泛决策。例如,2010年代美国政府为修订涵盖可用于网络攻击的网络安全工具的出口法律,使用了过于宽泛的措辞,几乎禁止了合法的安全和漏洞研究。

然而,特朗普政府的这项指令更像是报复行为。

Tech Policy Press编辑Justin Hendrix表示,特朗普政府的举动“可能会引发外国政府对美国AI在关键应用中可靠性的担忧”。这传递出一个信息:美国的AI公司无法在没有政府干预的情况下自由运营。

特朗普政府尚未确认为何援引出口管制指令。官员们是否误读了报告而过度反应?亚马逊CEO Andy Jassy是否向高级政府官员表达了担忧,促使此举?是否存在沟通误差,或这是对与政府关系紧张的Anthropic施压的手段?白宫可能未意识到该信函要求的深远影响,官员们正忙于弥补自招的损失。

正如Hendrix所言,“当前氛围充满怀疑,高级官员可能基于个人和政治因素偏袒特定对象。”此次事件为政府对美国软件发布控制力度设定了危险先例。

这次针对的是Anthropic,未来可能会针对任何其他公司。