Anthropic最近因特朗普政府的出口管制令,暂停了其两款最新的AI模型,这一举措引发了关于人工智能政策和数字主权的广泛讨论。

在TechCrunch的Equity播客最新一期中,Sean O’Kane、Rebecca Bellan和我探讨了特朗普政府为何针对Anthropic采取行动,以及这对整个AI生态系统可能产生的影响。

正如Sean所说,“Anthropic与特朗普政府的关系并不理想,这与其他领先的AI实验室有所不同”,因此Anthropic的竞争对手可能不必担心类似的打压。

Rebecca则指出,许多顶尖的网络安全专家已联名致信,要求特朗普撤销该命令,他们认为强制撤下这些先进的网络安全能力对美国的网络防御者来说实际上是危险的。

我们也猜测,这场风波或许会为Anthropic带来意想不到的宣传效果,正如Rebecca所言,“大家总是喜欢坏男孩”。

以下是我们对话的节选,经过编辑以便更清晰简洁:

Rebecca Bellan: 众所周知,美国政府基本上强制Anthropic下线了其两款最新模型——Fable 5和Mythos 5。Mythos 5面向现有用户,而Fable 5则更公开。

上周五,政府发出一封信,理由是“国家安全担忧”,但具体内容未公开,也未给出详细说明,只要求Anthropic确保这些模型不能被任何外国人使用。Anthropic因此决定完全下线模型,因为他们无法判断用户是否为外国人,毕竟公司内部也有许多外国员工。

据报道,白宫之所以介入,是因为亚马逊的研究人员发现了绕过Fable 5安全防护的方式,亚马逊CEO Andy Jassy向白宫表达了担忧,事情由此升级。

Sean O’Kane: 事情发展非常迅速,尤其是在周五下午到周末期间。此时政府正试图就伊朗战争谈判某种条约。

Rebecca: 对我们纽约时间来说是周五晚上,他们喜欢制造分散注意力的事件。

Sean: 回顾整体,Anthropic与特朗普政府的关系一直不佳,这与其他AI实验室不同,至少这在此次事件中起了作用。

那么你认为这会对其他公司产生影响吗?特朗普政府会不会对其他竞争对手采取类似措施?

Anthony Ha: 报道和独立安全专家的分析都表明,Anthropic带来的安全风险并不独特。很多问题似乎源于双方关系紧张,风险被夸大了,因为双方无法进行有效沟通。

对于其他公司来说,一方面这可能是优势,因为他们可以避免激怒政府,按自己的节奏发展;但另一方面,这种监管环境也很不稳定,不能仅仅寄希望于不被盯上。

Rebecca: 这看起来确实像是报复行为。政府将Anthropic标记为供应链风险,双方还在打官司,白宫似乎在寻找任何借口打压Anthropic。许多网络安全研究人员也认为这不应触发出口管制令,他们联名致信要求撤销该命令,认为撤下这些先进的网络安全工具对美国防御者非常不利。Anthropic自己也承认,类似的漏洞在其他AI模型中也存在。

有些人认为,这可能是为了让其他公司赶上Anthropic的技术水平。

但同时,也有人觉得Anthropic自作自受。他们一方面说“AI太危险了,需要放慢脚步”,另一方面又推出了最强大的模型。

Anthony: 这反映了AI领域的普遍讨论。像Sam Altman和Jensen Huang这样的人呼吁降低紧张情绪,但过去几年他们一直强调自己打造了“上帝机器”,会取代大量工作岗位,公众的不安并不令人意外。

Anthropic对Mythos的描述尤其引人注目,他们称其为“最强大、对公众过于危险的模型”,这自然会引发高度关注。

我觉得Anthropic对此事并不满意。虽然不能过分夸大这对他们的好处,但我们看到之前与特朗普政府的冲突曾在某种程度上提升了他们的知名度和下载量。许多人开始将Claude视为更负责任、更有“抵抗力”的AI助手。

这次事件虽然让Anthropic压力巨大,但也可能让他们的模型显得更强大。

Rebecca: 确实如此。“我们太危险了。”大家都喜欢坏男孩,对吧?“这是最强大的模型,连特朗普都这么说,当然我要试试。”