SK海力士AI服务器内存

韩国SK海力士于4月20日宣布,正式开始量产面向下一代AI服务器的内存模块——192GB SOCAMM2。

该192GB SOCAMM2内存模块基于1cnm工艺(第六代10纳米级技术)的LPDDR5X DRAM,采用了原本用于移动设备的低功耗内存技术,经过优化后适用于服务器环境。与传统的RDIMM内存相比,SOCAMM2的带宽提升超过两倍,电力效率提升超过75%。

此外,该内存模块专为日本国家NVIDIA的“Vera Rubin”平台设计,旨在解决大规模语言模型(LLM)训练和推理过程中内存带来的瓶颈问题,提升AI服务器的整体性能和效率。