Nvidia在市场上的无可匹敌地位尚未结束，但来自各方的挑战者和选择正在不断涌现。

法国热门AI初创公司ZML，在图灵奖得主Yann LeCun的支持下，发布了一款推理性能软件，支持多种开源大型语言模型在多种芯片上运行，包括Nvidia、AMD、Google TPU、Apple Metal和Intel Arc等芯片。

ZML新推出的LLM推理服务器ZML/LLMD，旨在打破现有的芯片壁垒，让不同芯片能够以其最大速度，甚至更快地服务于AI应用。ZML创始人Steeve Morin向TechCrunch表示，随着AI逐渐融入工作和日常生活，优化推理（即处理提示的过程）比模型训练的重要性更高，但目前软件和架构上的障碍导致厂商锁定现象普遍存在，体验仍显零散。

实现多芯片峰值性能不仅是技术挑战，也可能成为市场颠覆者，尤其是在AI相关成本日益引发关注的背景下。

ZML希望为企业和云服务提供多芯片混合使用的选择，其中部分芯片成本更低或能耗更少。Morin表示：“我们的目标是让用户重新掌控系统构建权，实现真正的效率提升，推动AI的广泛普及。”

这款软件还可能助力许多新兴AI芯片制造商，尤其是欧洲的企业，如Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud和VSORA。Morin强调，关键不在于这些企业的地域，而是ZML能与他们合作，完成全球前所未有的创新。

不过，Morin对Nvidia依然持乐观态度，部分原因是其现有供应链优势。他透露，ZML与这家AI芯片巨头保持良好关系，Nvidia也在积极准备迎接推理市场的增长。

推理领域的投资热度极高，被称为“推理淘金热”。ZML面临的竞争对手包括估值130亿美元的Baseten、开源项目vLLM背后的Inferact，以及商业公司RadixArk（SGLang背后的团队）。

vLLM和SGLang在一定程度上与LLMD竞争，但Morin表示ZML的目标更为广泛：“我们已经到了共同设计芯片的阶段。”他还称赞ZML仅20人的精干团队是其快速发展的关键，并计划推出更多产品。

此外，ZML虽规模不大，但资金充足。Morin凭借其作为Zenly工程副总裁的经历，成功筹集了2000万美元，投资方包括Harry Stebbings的20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel的Kima Ventures、Kindred Capital、LocalGlobe和Puzzle Ventures。

与2024年发布并于今年3月更新的开源推理框架不同，ZML/LLMD并非开源，但作为免费产品推出，目的是收集使用数据。Morin表示：“我宁愿先观察使用情况，再在最有效的地方实现盈利，而不是一开始就贪心，阻碍增长。”

目前尚不清楚ZML/LLMD何时会转为付费产品，也无法预测其市场接受度。但从股权结构看，其他创始人也在关注，包括Dagger和Docker创始人Solomon Hykes、Hugging Face的Clément Delangue和Julien Chaumond，以及现任AMI Labs的LeCun。这也证明欧洲AI初创企业完全可以在本土发展。Morin说：“我只能在巴黎做ZML。”