AI基础设施

日本软银旗下的SB C&S公司,在其“C&S AI INNOVATION FACTORY(AIF)”平台上,开始与思科系统合作,推出基于实际设备的AI基础设施体验课程。

该公司负责服务器、GPU、存储设备、网络设备等AI基础设施所需硬件的分销,并通过销售合作伙伴向多家企业提供相关产品。

SB C&S执行役员兼ICT事业技术推进负责人兼CTO榊原卫表示,AIF的目标是让合作伙伴的工程师深入理解如何交付AI基础设施。

数据中心设施

AIF提供多样化服务,包括可参观设备齐全的数据中心的“演示参观”、体验AI基础设施构建及简单AI模型开发流程的“动手操作”、远程连接GPU资源进行验证的“设备借用”,以及可验证软件与多种解决方案组合的“协作”等。

ICT事业本部技术本部副本部长熊谷哲人指出,通过调研生成式AI的引入及AI基础设施面临的挑战,发现人才短缺和基础设施不完善是主要难题,因此设立AIF,为销售合作伙伴、供应商及其客户提供一个全面理解和实践AI基础设施的场所。

设备展示

自成立一年以来,已有约30家销售合作伙伴,累计约500名工程师参与。最初以“NVIDIA DGX H200”为核心,配备“NVIDIA Quantum-2 QM9700”、“NVIDIA Spectrum-4 SN5600”交换机和“DDN ES400NVX2”存储设备运营AIF。随着体验活动的深入,AIF逐渐成为类似展厅的存在,吸引了更多设备厂商参与。

硬件设备

此次与思科的合作中,利用“Unified Computing System(UCS)”、“Cisco Nexus”和“Cisco Intersight”,推出基于实际服务器、GPU、网络及运维管理的免费动手操作课程。

合作现场

除了思科,SB C&S还与NetApp合作推出类似的动手操作课程。预计10月起,将提供涵盖推理服务器、LLM路由器、护栏机制及分布式推理设计构建流程的“NVIDIA及OEM服务器新动手操作菜单”。

液冷技术

榊原卫表示,随着NVIDIA下一代平台“Vera Rubin”的发布,AI基础设施将从风冷向液冷转变,SB C&S也将推进液冷环境的验证与体验建设。