亚马逊首席执行官安迪·贾西(Andy Jassy)可能是导致Anthropic公司周五全球范围内停止提供两款模型的安全担忧的来源。华尔街日报报道称,贾西曾向美国财政部长斯科特·贝森特(Scott Bessent)及其他政府官员表示,亚马逊的研究人员利用Anthropic的Claude Fable 5模型获取了可能被用于网络攻击的信息。随后,政府对Fable 5和Mythos 5模型实施了出口管制禁令。
亚马逊发言人在声明中表示,虽然“政府寻求我们对潜在安全风险的建议并不罕见”,但公司不会“透露这些讨论的具体细节”。
发言人还提到,AWS服务已受到模型停止提供的影响。
《The Information》和路透社也报道了亚马逊(Anthropic的重要投资者)曾对Anthropic模型的安全性表达过担忧。

前特朗普政府的人工智能负责人、大卫·萨克斯(David Sacks)现任总统科学技术顾问委员会联合主席,他提供了自己的说法,称“一位Anthropic和美国政府都高度信任的合作伙伴发现了模型的安全漏洞”。
萨克斯补充道,“政府要求Anthropic CEO达里奥·阿莫迪(Dario Amodei)修复该漏洞或停止部署该模型,但达里奥拒绝了。”
Anthropic在一篇博客文章中表示,引发政府担忧的功能实际上已在其他公开可用的模型中存在。
本文已更新,加入了亚马逊发言人的声明。

