中国实验室Moonshot推出的Kimi K3模型,是目前最大的开放权重大型语言模型,其卓越的性能引发了一场关于美国AI巨头经济潜力与大型语言模型技术未来的讨论。

OpenAI战略未来负责人Dean W. Ball甚至主张,美国政府应借机制造对新模型的监管恐惧、不确定性和不信任,因为开放权重模型必然会抑制前沿实验室的资本投入。

此言一出,引发了轩然大波。技术界领袖如Yann LeCun和Martin Casado认为,开放软件能够加速创新,并能与专有项目共存。Ball随后撤回了他关于监管打压是白宫“最佳策略”的言论,也否认开放权重模型必然会减缓技术进步。

然而,据Axios报道,特朗普政府正考虑应美国前沿实验室的要求,禁止K3及其他先进中国模型进口。Politico则报道称商务部短期内不会采取此举。

对大型AI公司的好处显而易见:开放权重模型可在独立基础设施或大型企业内部运行,成本远低于Anthropic或OpenAI的顶尖模型。用户若更多转向封闭实验室外的模型,意味着这些公司在模型训练上的巨额投资回报将减少。

这一观点远不止OpenAI一家。Snorkel AI联合创始人兼Laude研究所研究合伙人Braden Hancock告诉TechCrunch:“强大且具前沿水平的开源模型将压缩利润空间,降低前沿公司的价格,但这不意味着AI使用量会减少,恰恰相反。”

这对非Anthropic和OpenAI股东的人来说并非问题,AI仍将广泛普及。那么,政府为何要阻止美国人在名义上的自由市场中购买这些产品?

对中国模型的担忧主要有几方面:一是保护美国数据免受中国政府影响。美国曾因数据收集担忧禁止进口中国现代电动车。但专家普遍认为,运行于美国服务器的开放权重模型不太可能向中国泄露数据,尽管不排除可能性。

二是模型可能对中国存在隐性偏见,但这对编码任务等具体应用的影响尚不明确。

三是中国模型缺乏美国政府通过不透明流程强制的安全防护措施,这些措施旨在防止美国领先的LLM被用于攻击封闭系统或制造武器。然而,这些防护措施也可能使美国公司更脆弱。风险投资家兼特朗普顾问David Sacks分享了美国公司在美国前沿模型无法完成任务时,转而使用中国LLM以弥补安全漏洞的案例。

限制这些模型的最大动因是担心如果前沿实验室放缓步伐,中国将超越美国。

乔治城大学安全与新兴技术中心中国研究员Sam Bresnick表示,AI对美国军事行动的重要性日益增加,这为美国继续支持前沿实验室的AI投资提供了理由,但整个问题非常复杂。

他质疑:“美国政府为何要保护这些公司免受因其来源被排除在美国市场之外的竞争对手?”

开放AI的支持者认为,前沿公司制造了创新与封闭模型之间的虚假二分法。

Hancock告诉TechCrunch:“中国开源模型带来的更大影响不是它们偷偷植入后门,而是它们掌握了创新。PyTorch之所以成为行业标准,是因为它是开源的,整个社区都能贡献力量,而非仅仅一家企业,这使其不断壮大,其他深度学习库相形见绌。”

Hancock和其他支持者担心,中国LLM将成为国际研究的中心。美国研究生课程主要基于中国的开放权重模型,且学生学习的论文中有一半来自中国机构,而美国前沿实验室则越来越不愿广泛分享其研究成果。

Hugging Face CEO Clem Delangue表示:“限制开放模型不会让AI更安全,只会掩盖风险,将权力集中于少数人手中,并使下一代开发者、研究人员、学术界、非营利组织和政府更难参与到让AI更安全、更有益的工作中。”

Bresnick认为,真正遏制中国的方式应是加强芯片出口管制。停止向中国出售Nvidia H200处理器,可能避免陷入关于禁止开放源代码技术的棘手争论,而大量美国公司希望使用这些技术。

问题部分源于AI经济的不确定性。Bresnick指出:“开放商业模式和专有商业模式都尚未成熟。AI公司正努力寻找盈利方式,尤其是在训练成本不断攀升的情况下。”

同样的挑战也出现在中国,AI公司同样面临盈利和计算资源获取的困难,政府出于政策考虑鼓励开放发布,尽管商业化存在挑战。

包括Thinking Machines Lab和Nvidia在内的一些美国公司正尝试围绕开放模型建立商业模式。Hancock指出,Nvidia若有数十甚至数百家公司构建AI,将比只有两三家资金雄厚的公司自行制造芯片更有利,这也是其投资Nemotron开源模型集合的原因之一。

Bresnick总结:“美国若拥有自己强大且成本更低的开放模型,将大有裨益。但这与前沿实验室的策略存在冲突。”

(补充报道:Rebecca Bellan)