NTT Docomo GPU测试平台

日本NTT Docomo商务部门推出了“GPU over APN Testbed”全国广域分布式GPU验证环境,利用低延迟、高速大容量通信网络“IOWN APN”,将分布在全国各地的GPU资源整合为一个统一平台。

该测试环境在日本札幌、金泽、福冈、大阪及首都圈4个地点共8个站点部署GPU,支持分布式AI训练、分布式AI推理以及基于RDMA的大容量数据传输等先进AI工作负载的测试,通信速率达到100Gbps级别,确保低延迟和高速数据传输。

通过这一平台,客户可以体验分布式GPU资源的协同使用,推动NTT集团AI原生基础设施“AIOWN”中核心组成部分“AI-Centric ICT平台”的实现。

全国广域分布式GPU验证环境“GPU over APN Testbed”

该环境旨在验证分布式GPU在广域网络下的实用性。借助IOWN APN的低延迟大容量通信,即使地理位置相距较远的站点间,GPU也能像一个整体一样协同工作,支持分布式AI训练、推理及跨站点数据处理的实际环境测试。

主要特点

利用IOWN APN实现全国广域连接

通过IOWN APN提供的100Gbps级低延迟大容量通信,实现全国分布GPU的无缝连接,克服了传统网络中距离和延迟带来的限制,使GPU资源的远程协同成为可能。

广域且灵活的GPU使用环境

GPU分布在札幌、金泽、福冈、大阪及首都圈4个地点,避免资源集中于单一地点,结合地域和环境差异,验证分布式GPU的有效利用。GPU支持虚拟机和Kubernetes,支持多租户模式,方便多家企业和用户高效共享硬件资源。

AI工作负载的技术验证

支持分布式AI训练、分布式推理及基于RDMA的跨站点大容量数据传输等技术验证,采用实际网络和GPU环境,模拟真实运营场景,验证分布式AI基础设施的性能及系统运维和架构设计的挑战。

GPU分布示意图

未来展望

NTT Docomo表示,将利用该测试环境积累的技术成果,推进GPU服务的商业化发展。同时,将与客户及合作伙伴协作,持续推动基于该环境的应用案例开发,促进分布式AI基础设施的社会应用,推动“AI-Centric ICT平台”构想的实现,并加速NTT集团AI原生基础设施“AIOWN”的推广。