随着中国开源权重AI模型的能力和受欢迎程度不断提升，围绕如何应对这些模型的讨论再次升温。有人猜测特朗普政府可能会尝试禁止这些模型，尽管目前尚未采取实际行动。同时，专有模型的开发者，尤其是OpenAI和Anthropic，对此表现出越来越多的担忧。
像Moonshot AI的Kimi K3和阿里巴巴的Qwen这样的开源权重模型，在推理成本上远低于美国大型实验室的闭源模型。人们担心这些模型可能带来某种威胁，尤其是对大型专有AI实验室的利润构成挑战。
那么，企业在自己的数据中心运行这些模型时，是否应该担心它们可能成为中国黑客的攻击载体？
Arcee的首席技术官Lucas Atkins表示，不必担心。Arcee是一家致力于构建开源模型，为美国企业提供本土替代方案的实验室。如果有企业会从禁止中国产模型中获益，那就是Arcee。但Atkins认为，中国的开源模型并不比其他开源软件更危险，实际上它们甚至对Arcee自身带来了好处。
他指出，很多人将这些模型视为类似于中国软件程序，认为它们是带有某种恶意意图编写的代码，坏人可以直接控制。但事实并非如此，这些模型的训练方式根本不支持这种假设。无论是Arcee还是阿里巴巴，都无法通过模型在用户环境中运行时获得任何访问权限。
虽然大多数模型属于“开源权重”模型，严格来说并非完全开源软件，但其运行服务器的源代码如果从Hugging Face等开源平台下载，依然是可见且可审查的。真正不可获得的是训练模型所用的方法和数据。
大型机构应对任何模型核心进行安全测试和审查，通常还会针对特定用途对模型进行后续训练，并检查偏见、毒性、幻觉以及对某些话题的敏感度。这样，他们在用户开始输入提示前，能够更好地理解、优化和控制模型。
至于模型是否可能在生成代码时植入恶意后门，理论上存在这种可能，但实现难度极大。Atkins推测，虽然有可能训练一个模型在大多数情况下表现出色，但在遇到特定代码库时触发隐藏的恶意行为，但他坦言自己也不知道具体如何操作。
由于大型语言模型本质上具有创造性，要让它们在特定上下文和提示下生成恶意软件的概率非常低，更别说企业会采纳这些代码了。
未来是否可能出现这种情况，尚无定论。但企业正在构建模型无关的AI应用，使用多种模型，即使目前中国产模型性价比最高，企业也不会被锁定只能使用它们。
Atkins认为，与其讨论如何禁止中国产模型，不如探讨如何在美国培育一个良好的开源生态系统。
Arcee也从中国产模型中获益。由于这些模型是开源的，Arcee可以学习它们的设计，基于它们进行创新，而中方也能从Arcee的成果中受益。Atkins对那些开发这些模型的研究人员表示高度尊重。
最终，竞争中国产模型的最佳方式是推出更优秀的模型。“我们需要给他们一些值得讨论的东西。”Atkins说。
