AI资讯Kog深入挖掘GPU潜力，提升AI推理速度
AI推理速度的竞赛正如火如荼地进行中，Cerebras凭借其专用芯片在今年五月的IPO中获得了市场的热烈欢迎。然而，法国初创公司Kog则认为，传统GPU仍有巨大的潜力可以挖掘。 今年五月，Kog在Hacker News首页发布了一项技术预览，展示了“在企业现有的标准数据中心GPU上实现极快的单请求解码”的可能性，演示中使用了AMD MI300X和Nvidia H200 GPU。 虽然部分人对其未能
#GPU优化
按标签聚合查看文章内容。
AI资讯
AI资讯NVIDIA强化与DiffusionGemma的兼容性，推动本地AI实现
NVIDIA优化了Google开发的开源模型DiffusionGemma，实现了在本地PC及云端的高效运行，提升了本地AI的性能表现。
AI资讯AMD宣布全系列硬件支持日本国家Google Gemma 4 AI模型
AMD正式宣布其所有硬件产品均支持日本国家Google的开源AI模型Gemma 4，涵盖云计算、企业数据中心及AI工作站等多种应用场景。
AI资讯NVIDIA与Google合作优化Gemma 4，覆盖RTX至Spark的NVIDIA GPU
NVIDIA宣布对Google最新发布的开源AI模型Gemma 4进行了针对NVIDIA GPU的全面优化，提升多平台性能表现。
AI资讯CUDA证明英伟达是一家软件公司
几年过去了，英伟达的“城墙”依然坚固。尽管DeepSeek出现时曾引发一阵恐慌，但开源AI模型并未大幅超越专有模型。即便如此，前沿实验室如OpenAI、Anthropic和谷歌都没有真正的护城河。 真正拥有护城河的公司是英伟达。CEO黄仁勋称其为他最珍贵的“宝藏”。这并非你想象中的硬件，而是名为CUDA的东西。听起来像FDA禁用的化学物质，但它可能是AI领域唯一真正的护城河。 举个简单例子：假设让