
日本软银公司于6月1日起,在其云服务“Cloud PF Type A”中正式提供采用“NVIDIA Blackwell GPU”搭载的集成型AI平台“NVIDIA HGX B200”的高性能GPU服务器。
随着生成式AI的广泛应用,处理高度机密数据的特定业务对数据自主管理和控制的需求日益增长。由此,构建自有大型语言模型(LLM)和私有AI的需求也随之提升。然而,企业内部自行搭建此类系统不仅需要巨额投资采购GPU硬件,还面临最新语言模型更新及运维维护的挑战。
软银此次推出的服务亮点在于,作为“Cloud PF Type A”云服务的一部分,提供在软银数据中心自主管理和控制的高性能NVIDIA GPU服务器。该服务以裸金属服务器形式提供,用户可从单台服务器起专属使用,支持从AI训练到推理的多样化AI工作负载。



