AI资讯Kog深入挖掘GPU潜力，提升AI推理速度
AI推理速度的竞赛正如火如荼地进行中，Cerebras凭借其专用芯片在今年五月的IPO中获得了市场的热烈欢迎。然而，法国初创公司Kog则认为，传统GPU仍有巨大的潜力可以挖掘。 今年五月，Kog在Hacker News首页发布了一项技术预览，展示了“在企业现有的标准数据中心GPU上实现极快的单请求解码”的可能性，演示中使用了AMD MI300X和Nvidia H200 GPU。 虽然部分人对其未能
#法国初创
按标签聚合查看文章内容。
AI资讯
AI资讯法国热门初创公司ZML发布免费产品，加速多种AI芯片推理性能
Nvidia在市场上的无可匹敌地位尚未结束，但来自各方的挑战者和选择正在不断涌现。 法国热门AI初创公司ZML，在图灵奖得主Yann LeCun的支持下，发布了一款推理性能软件，支持多种开源大型语言模型在多种芯片上运行，包括Nvidia、AMD、Google TPU、Apple Metal和Intel Arc等芯片。 ZML新推出的LLM推理服务器ZML/LLMD，旨在打破现有的芯片壁垒，让不同芯