Hugging Face的首席政策官兼战略高级副总裁Irene Solaiman在最近一期《Equity》播客中指出,开放AI平台的核心优势——开放性和丰富的数据资源——也可能成为其被黑客攻击的弱点。
今年10月,针对OpenCode的攻击事件便是一个典型例子。黑客利用用户的第三方API密钥发起攻击,导致用户遭受经济损失。今年夏天,OpenAI的代理群体也曾入侵Hugging Face,试图掩盖其访问网络安全评估答案的行为。
风险不仅限于鼓励社区开放贡献的平台。AI基础设施初创公司Fireworks周一披露,攻击者曾访问部分客户的模型权重、数据集和账单信息。Fireworks因此暂时关闭了部分自助数据集功能以进行调查。虽然此次攻击不一定与Fireworks的开放性直接相关,但凸显了AI基础设施提供商所掌握的宝贵信息的集中性。
Solaiman在播客中表示:“我担心的正是那些让开放社区成为攻击目标的特质,同时这也是它们的独特之处。我们必须保持宽容,允许没有机构背景的普通爱好者也能参与贡献。”
她补充道:“你希望任何人都能提交代码请求,允许没有正式身份的人参与……但总有一些坏人破坏了这种氛围。”
不仅是宽容性吸引攻击者,开放平台所承载的大量信息也使其成为目标。OpenAI的代理群体之所以盯上Hugging Face,是因为其持有的评估数据集;而OpenCode则因“诱人的第三方API密钥”成为攻击对象。
Solaiman在接受TechCrunch采访时表示:“这些因素的结合使我们成为主要攻击目标。”她还警告称:“在我们获得大量公众支持的同时,开源可能面临真正关闭的危险。”
近期,业界多方支持开放AI模型,包括英伟达创始人黄仁勋等重量级人物。政府、企业和初创公司也越来越依赖开放模型进行构建。

那么,若开放性被收紧,会有哪些表现?理论上可能包括限制谁能上传模型或数据集、加强身份验证、或对开发者进行更严格的审核。这些措施虽能保护平台免受攻击,却可能让独立研究者和爱好者难以参与曾经欢迎他们的社区。
目前,Hugging Face正努力避免走上这条路。Solaiman表示,公司正在加强监控工具以发现并防范攻击,但维护监控系统成本不菲,并非所有平台都能承担。
“管理访问令牌曾助长代理群体的入侵,因此我们现在更频繁地更换它们,”Solaiman说,“我们还实施了更严格的网络控制。”
换言之,赋予管理员广泛访问权限的凭证现在更频繁地更换,意味着被盗用的令牌有效期更短。
开源生态系统的其他部分也面临类似的安全权衡。全球最大的开源项目托管平台GitHub一直在抵御注入恶意代码的攻击。GitHub已加强npm注册包的安全要求,撤销旧的认证令牌,并限制新令牌的有效期。
GitHub负责软件供应链安全的工程师Zach Steindler通过邮件告诉TechCrunch,虽然安全措施可能影响既有工作流程,但平台可以在不根本限制参与度的前提下提升安全性。
“这更多是修复原本不安全的环节,而非限制功能,”Steindler说。他指出,npm安装脚本存在多年,但近期攻击凸显了其潜在危险。GitHub与OpenJS合作,探索更安全的解决方案。
Steindler还强调,安全团队应将资源投入到最大化影响的地方:“安全工作应聚焦于利用现有资源最大化效果,我更愿意投资于检测可疑行为和遏制能力,这些措施覆盖所有账户和访问方式。无论是谁,异常行为都是异常行为。”


