美国商务部旗下的AI标准与创新中心（Center for AI Standards and Innovation，简称CAISI）于美国时间5日宣布，与日本国家Google DeepMind、微软（Microsoft）、xAI达成新的合作协议。该协议允许政府在这些公司公开发布其最先进的AI模型之前，先行进行评估和研究。
CAISI作为政府与AI开发企业之间的桥梁，负责信息共享及最新模型的评估工作。政府将重点评估这些模型在国家安全方面的能力与潜在风险。为此，部分开发企业可能会向CAISI提供经过安全措施调整或解除限制的模型版本。政府相关部门的评估人员将参与审查，并通过CAISI设立的TRAINS工作组定期反馈评估结果。
此前，OpenAI和Anthropic已于2024年8月签署了类似的合作协议。
值得注意的是，Anthropic将其最新前沿模型“Claude Mythos”因安全和国家安全风险考虑设定为非公开状态。随着AI模型性能的不断提升，风险管理问题也日益受到关注。CAISI在声明中强调，理解最先进AI及其对国家安全的影响，必须依赖独立且严格的测量科学。通过信息共享，政府希望更好地掌握AI能力及国际竞争态势。
