AI紧急停止法案反对

美国联邦议会于7月23日提出了一项名为“AI紧急停止法案”的立法提案,该法案旨在赋予政府在AI系统失控时强制关闭的权力。紧接着,NVIDIA、微软、Meta等25家企业和组织联合发布了题为《开放权重与美国AI领导力》的公开信,表达了对该法案的反对态度。随后,谷歌、OpenAI、AMD等公司也加入了签署行列,支持者数量迅速增加至77家企业和组织。

公开信强调,AI的安全性应通过开放性(开放权重)来保障。与此相对的是,该法案要求大型AI模型的开发者必须具备在AI失控时限制或完全停止系统处理能力的技术手段,并保持这些手段的有效性。

虽然公开信中未直接提及该法案,但由于开放权重一旦公开,原开发者将难以控制其使用,若该法案通过,可能会实质禁止无法遵守该法案的开放权重发布。此次联合声明正是为了提前对该法案进行强烈警示。

公开信指出,开放权重的使用使得初创企业和众多机构无需承担高昂的先进模型开发费用,从而帮助美国在AI时代取得领先优势。开放权重还能促进竞争,激发创新,降低成本,使AI的利益更广泛地惠及整个经济体系。

同时,公开信也承认开放权重存在的风险,强调防御方必须同样能够访问开放权重,以提升透明度,促进多团队间的漏洞发现与修复。

此外,声明还提醒政策制定者不要混淆合法开发手段与非法滥用。广泛采用的“蒸馏”技术,即利用现有模型输出改进其他模型,是推动创新的重要方法;而非法从非公开模型中提取价值的行为则应受到谴责。因此,公开信主张应通过有针对性的法律和商业框架,而非全面监管,来应对相关问题。