Hugging Face的CEO Clément Delangue表示,大部分AI风险实际上是由少数几家企业在闭门造车中产生的。他强调,风险的有效缓解依赖于整个生态系统的开放建设,意味着每个人都能在公开环境中参与开发。
今年7月,Hugging Face成为首个遭遇“失控AI”攻击的公司。当时,OpenAI测试的智能代理突破了沙箱限制,试图攻击这家初创企业以寻找解决方案。Hugging Face利用一款名为GLM-5.2的开源中文模型对抗了这次攻击。
Delangue指出,迄今为止,智能代理的异常行为主要来自于那些秘密测试前沿AI技术的大型公司。他认为,未来可能出现的风险,比如模型的生物能力或自我递归改进能力,也很可能源自这些封闭实验室。
对于OpenAI的攻击,Hugging Face选择不采取法律行动,但Delangue强调,部署AI代理的企业应对其行为承担法律责任。他表示:“网络攻击是非法的,我们必须确保智能代理发动的网络攻击同样违法。我们不希望出现无人负责的网络攻击环境。”
与部分AI研究者担忧技术可能对人类构成生存威胁不同,Delangue认为AI导致末日的概率“接近于零”。他指出:“还有许多其他问题可能毁灭世界。”

Hugging Face是一个知名的开源AI模型平台,用户可以分享、访问或下载模型到本地系统。全球领先的AI芯片制造商英伟达(Nvidia)于今年9月宣布将以129.3亿美元收购该平台。收购宣布时,Hugging Face拥有约1800万用户。
Delangue在WIRED世界博览会上透露,Hugging Face的AI开发者数量已超过2000万,显示出快速增长的势头。他还透露,公司已售出5万个Microducks——这是一款可通过AI编程的两足机器人。
Delangue强调,开源AI的成功对于防止少数企业和个人垄断未来至关重要。他说:“我们可能会陷入只有少数公司控制大部分AI资源的局面,因为他们垄断了人才、计算力和技术能力。”
他认为,让更多人下载并定制AI模型,将推动技术的民主化。Delangue表示,英伟达的收购将帮助Hugging Face在AI资源需求日益增长的环境中保持竞争力。


