Anthropic近日宣布,为了遵守美国政府的命令,公司将暂停其AI模型Claude Fable 5的访问权限。这一前所未有的事件成为Anthropic与特朗普政府之间最新的争议焦点。尽管该命令要求公司暂停“任何外国国籍人员,无论其是否在美国境内,包括Anthropic的外国员工”的访问权限,Anthropic选择对所有客户统一关闭访问,以确保合规。

今年早些时候,特朗普政府的国防部将Anthropic列为“供应链风险”,原因是该公司试图限制美国军方对其技术的使用范围。此举实际上禁止政府机构及其承包商使用Anthropic的技术。对此,Anthropic提起了针对特朗普政府的诉讼。

周二,Anthropic公开发布了Claude Fable 5,这是基于其Mythos AI模型的版本,内置了防护措施,防止回答有关网络安全、生物学和化学的问题。该版本的发布是与美国政府合作进行的。在此之前,Mythos Preview AI模型于四月进行了有限的试用,目的是让企业和组织利用其强大的网络安全能力提升防御水平,同时缓解技术被恶意利用开发强大黑客工具的担忧。

周五,Anthropic在博客中表示,公司于美国东部时间下午5:21收到了政府的一封信。“信中未具体说明国家安全方面的担忧,”Anthropic写道。

“我们了解到,政府认为有人发现了绕过或‘越狱’Fable 5的方法,”公司补充道。“我们审查了该技术的演示,发现它利用了一些已知的小漏洞。这些漏洞相对简单,我们发现其他公开模型也能发现这些漏洞,无需绕过机制。”

在博客中,Anthropic强调已实施强有力的防护措施以减少Claude Fable 5被滥用的可能性。公司还表示,美国政府发现的越狱方法范围有限,不会让攻击者比使用其他AI模型时更具威胁性。

“迄今为止,政府仅口头提供了一个潜在的、范围有限且非普适的越狱证据,基本上是让模型读取特定代码库并修复软件缺陷,”公司在博客中写道。“据我们了解,政府只分享了一个潜在的越狱案例。”

白宫和美国商务部发言人尚未对WIRED的置评请求作出回应。

Anthropic首席执行官Dario Amodei本周早些时候在一篇政策文章中表示,他和公司支持一个公平、结构化且透明的政府流程,以阻止不安全AI模型的发布。Anthropic在周五的博客中则认为,“此次行动并未遵循这些原则。”