#软件加速

Kog深入挖掘GPU潜力，提升AI推理速度

AI推理速度的竞赛正如火如荼地进行中，Cerebras凭借其专用芯片在今年五月的IPO中获得了市场的热烈欢迎。然而，法国初创公司Kog则认为，传统GPU仍有巨大的潜力可以挖掘。 今年五月，Kog在Hacker News首页发布了一项技术预览，展示了“在企业现有的标准数据中心GPU上实现极快的单请求解码”的可能性，演示中使用了AMD MI300X和Nvidia H200 GPU。 虽然部分人对其未能