周一,亚马逊云服务(AWS)发布了一款名为TorchNeuron的新工具,帮助AI初创企业轻松将其AI应用迁移到亚马逊自研的AI芯片Trainium上。此举直接挑战了英伟达在AI硬件领域的软件优势,这一优势使英伟达成为AI应用的默认硬件选择,并推动其成为首选AI硬件供应商。
TorchNeuron兼容PyTorch——一个免费开源的AI模型构建、训练和运行工具包。亚马逊表示,开发者只需修改一行配置代码,无需重写代码,即可让基于PyTorch的AI应用在Trainium芯片上运行。
据亚马逊介绍,约85%的AI应用采用PyTorch开发。PyTorch最初由Facebook开发,自2022年起归Linux基金会管理,作为开源项目维护。英伟达多年来致力于确保其CUDA软件基础设施能够无缝支持基于PyTorch的AI应用,使其硬件成为该工具包的默认选择。
TorchNeuron基于PyTorch开发,熟悉PyTorch的开发者可以轻松上手。虽然其他厂商也尝试简化芯片平台的迁移,比如用户可以通过简单配置将应用移植到AMD GPU或苹果芯片,但亚马逊强调,迁移到Trainium不仅简单,还能让AI初创企业享受亚马逊云的完整服务。
AWS声称,相较于许多依赖英伟达硬件的新兴云服务商(如CoreWeave、Nebius和Firmus),选择AWS对初创企业更有利。AWS安纳普尔纳实验室技术软件副总裁Colin Brace表示:“你是在构建AWS生态,而不是押注于单一计算供应商并为其周边搭建一切。在AWS上,从原型到生产的基础设施已经具备,帮助创业者快速发展并按需扩展。”
AWS指出,Trainium芯片同时支持训练(AI模型的学习过程)和推理(模型实际应用,如回答用户问题),且与云基础设施紧密集成,能为初创企业节省成本,即使AWS的单次计算价格并非最低。

Brace补充道:“Trainium的优势在于性价比以及训练和推理统一平台,这提升了整体工作负载的经济效益。以Deepgram为例,他们利用原生PyTorch支持迁移到Trainium,实现了在生产级准确率下每美元处理音频量提升70%。"Deepgram是一家AI语音应用提供商,竞争对手包括ElevenLabs。
亚马逊不仅为PyTorch开发者提供便捷的迁移选项,还致力于减少PyTorch对英伟达的依赖,并计划将相关代码贡献给PyTorch主项目。亚马逊在发布新工具的博客中写道:
亚马逊的做法超越了自家硬件,正在与PyTorch社区合作,移除将框架绑定到特定芯片的代码,目标是让PyTorch对整个开发者社区更加硬件无关,而不仅仅是Trainium用户。
虽然这一策略对与英伟达竞争的硬件和云服务供应商有利,但PyTorch的初衷是简化AI代码在硬件上的运行难题。未来还需观察,亚马逊推动减少英伟达依赖是否能为开发者带来更多选择和更低成本,还是会增加配置复杂度。
无论如何,如果亚马逊成功实现PyTorch与英伟达的深度解耦,这对英伟达的影响将远超芯片竞争。正如Brace所言:“真正的意义在于打破锁定,让开发者拥有真正的选择权。”


