周二,谷歌宣布其备受期待的PyTorch版本——TorchTPU,现已作为开源项目发布。借此,谷歌加入了亚马逊的行列,试图打破英伟达在AI行业的垄断地位。目前,大多数AI应用默认都是基于英伟达的芯片(GPU)开发的。
PyTorch是AI应用开发者和初创企业广泛使用的开源工具包,用于构建、训练和运行AI模型。据统计,约85%的AI应用都采用PyTorch。PyTorch最初由Meta(前Facebook)于2016年开发,远在大型语言模型(LLM)引发变革之前。彼时,英伟达GPU已成为AI研究的标准硬件,因此PyTorch的许多功能都是专门为其设计的。2022年,Meta将PyTorch移交给了Linux基金会,这是一家管理众多重要开源项目的非营利组织。
谷歌推出的TorchTPU版本支持AI应用在谷歌自家的AI芯片——张量处理单元(TPU)上运行。它还简化了现有PyTorch应用迁移到TPU及谷歌云的过程,开发者只需简单配置,无需重写代码。
亚马逊也于周一发布了类似的产品——TorchNeuron,这是其自研AI芯片Trainium的PyTorch版本,支持AI应用无缝迁移至AWS云平台,同样无需重写代码。亚马逊还表示,将进一步削弱英伟达对PyTorch的依赖,正在向PyTorch主项目提交代码,解除部分功能对英伟达芯片的绑定,使其默认支持更多硬件。

不过,谷歌在某些方面可能领先亚马逊。谷歌表示已与Meta、Hugging Face、Inferact(vLLM开发者)、RadixArk(SGLang开发者)等多家知名AI开发工具厂商合作,确保TorchTPU的功能和代码库与这些工具兼容,保持与原版PyTorch同样的良好体验。
此外,谷歌还推出了专门的工具——TPU agent suite,帮助开发者将应用迁移至谷歌芯片和云平台,并在迁移过程中修复错误。谷歌还更新了其广受欢迎的LiteRT工具,使其更好地支持在手机、笔记本和嵌入式设备上运行的PyTorch AI应用。
尽管如此,这并不意味着AI应用开发者会因为迁移更方便就立即大量放弃英伟达硬件。但显然,亚马逊和谷歌正积极努力,试图削弱英伟达的市场优势。


