Baseten于周三宣布，旗下研究部门Base Labs与Hugging Face及Goodfire AI合作，推出一套针对开放权重模型的安全评估与监控基础设施标准。

此次发布正值关于开放权重模型安全性的激烈讨论之际。开放权重模型因一种名为“abliteration”的技术，可能被移除安全防护而变得危险。问题规模巨大：托管开源AI模型的Hugging Face目前列出了超过6000个被“abliterated”的模型。

Base Labs是Baseten今年早些时候成立的研究团队，将致力于开发并发布用于训练和监控开放模型的方法。公司将未来的工作定位为开放模型的“标准”，强调透明性，并将安全机制内嵌于模型训练和部署过程中，而非事后附加。

公司在社交平台X上表示：“我们认为开放性是AI安全的优势。开放性让模型行为更透明，且比闭源模型更能将安全研究转化为可执行且透明的控制手段。”

虽然三方尚未透露具体的技术合作细节，但Goodfire在回应Baseten的帖子时指出：“安全必须内嵌于开放模型，并由服务这些模型的方提供。”Goodfire专注于揭示AI“黑箱”决策过程，极有可能负责“内嵌”安全机制的部分。

Baseten作为AI推理服务提供商，今年6月完成15亿美元的F轮融资，估值达到130亿美元。合作伙伴Goodfire AI同样资金充足，今年早些时候完成由B Capital领投的1.5亿美元B轮融资，推动其模型可解释性平台的发展。

展望未来，Baseten向更广泛的开发者生态发出开放邀请，共同为该框架贡献力量。公司表示：“我们正在共同构建一个安全且人人可用的开放模型生态系统。”