AMD AI战略

日本AMD于7月1日举办了关于AMD Instinct和ROCm的媒体圆桌会议,商业销售总部销售工程经理大原久树介绍了最新动态。

大原表示,AMD的AI战略不仅关注总拥有成本(TCO)的降低,更重视减少从NVIDIA等竞争对手环境迁移所带来的成本和复杂度。

硬件与软件开放

在硬件方面,AMD支持符合OCP标准的机架,并积极参与Ultra Ethernet等标准化工作;在软件方面,提供完全开源的ROCm开发环境,同时与Hugging Face、PyTorch等主要合作伙伴直接协作,确保最新AI模型能在其平台上高效运行,强化与开发社区的开放合作。

Instinct MI350系列

关于加速器GPU Instinct,目前提供MI350系列,采用先进的3D堆叠技术,将计算芯片叠加在I/O芯片上,提升计算密度。该系列支持AI推理主流的低精度运算(FP4、FP6),推理和训练性能较上一代MI300X提升约3倍。

MI350P PCIe版 MI350P PCIe版 MI350P PCIe版

同时,推出了PCIe版本的“MI350P”,方便用户将其安装在现有服务器或工作站的空闲插槽中,低成本构建本地推理环境。

未来展望 未来展望

预计2026年发布的MI400系列将采用新指令集“CDNA 5”和下一代高带宽内存“HBM4”,计算性能较上一代提升约4倍,内存容量提升1.5倍,实现更大飞跃。

ROCm软件平台

在软件平台方面,ROCm已成熟到几乎无需修改代码即可运行基于PyTorch等主流框架的程序,并已验证支持Hugging Face上约220万个模型。

去年发布的ROCm 7引入了“分布式推理”和“预填充与解码分离(PD Disaggregation)”等功能,面向实际运营和商业化需求。用户无需手动复杂调优,系统自动选择最优计算内核以最大化推理速度,同时提供“AITER”机制支持。

数据中心挑战 数据中心挑战

会议中还讨论了数据中心的电力消耗及散热问题。大原表示,MI355X单GPU功耗约1500W,提供水冷和风冷版本,具体产品形态由OEM决定。多数客户更关注高性能,虽然功耗不能无限提升,但开发已接近当前半导体制造和GPU服务器冷却技术的极限。