#开源生态

按标签聚合查看文章内容。

Base Labs携手Hugging Face与Goodfire推出开放权重AI安全合作项目AI资讯

Base Labs携手Hugging Face与Goodfire推出开放权重AI安全合作项目

Baseten于周三宣布,旗下研究部门Base Labs与Hugging Face及Goodfire AI合作,推出一套针对开放权重模型的安全评估与监控基础设施标准。 此次发布正值关于开放权重模型安全性的激烈讨论之际。开放权重模型因一种名为“abliteration”的技术,可能被移除安全防护而变得危险。问题规模巨大:托管开源AI模型的Hugging Face目前列出了超过6000个被“ablit