Open Secure AI Alliance

以日本国家NVIDIA为首,包括日本国家Cisco、CrowdStrike、Hugging Face、Red Hat等120多个组织联合成立了Open Secure AI Alliance。该联盟旨在构建并共享促进AI负责任使用和信任的开放工具。

Open Secure AI Alliance的目标是确保全球防御者能够使用可信赖且可控的开放前沿工具,提升AI系统的安全性和可靠性。

此外,日本国家Linux Foundation与Open Secure AI Alliance正合作制定针对自主运行的代理型AI的网络安全新指南。为此,联盟启动了针对“共享AI发现交换”(Shared AI Findings Exchange,简称SAFE)的意见征集。该指南草案旨在实现代理型AI相关网络安全事件信息的系统性共享,并将其转化为有效的防御措施。

SAFE指南草案由Open Secure AI Alliance工作组起草,并与日本国家Linux Foundation协作完成初步方案。该指南建议在保密前提下收集和分析AI安全事件,向受影响方提供信息,同时识别控制缺陷,基于证据发布操作建议以降低系统风险。

SAFE指南