生成AI基盘

日本国家エフサステクノロジーズ与日本国家NTT西日本于8月26日宣布,已完成基于エフサステクノロジーズ的本地生成AI基础平台“Private AI Platform on PRIMERGY”上稳定运行日本国家NTT集团开发的纯国产大型语言模型(LLM)“tsuzumi 2”的验证测试。该解决方案将由日本国家NTT西日本从9月起作为可在国内管理和运营AI模型及基础设施的服务开始提供。

双方结合各自优势,打造无需依赖云端,兼具数据管理和运营能力的生成AI应用基础平台。

解决方案特点

本地环境下的生成AI应用

该方案实现了无需通过云端,直接在本地网络中运行“tsuzumi 2”的架构。能够处理研究数据、设计信息、客户资料及生产数据等高度机密信息,无需将数据外泄,适合政府机关、金融机构及制造业等对信息管理要求严格的领域使用。

纯国产大型语言模型的生成AI应用

“tsuzumi 2”是一款可在单GPU上运行的轻量级模型,兼具出色的日语处理能力和高效的运营性能。其低计算资源需求降低了引入成本和运营负担,实现了纯国产LLM的生成AI应用。同时,构建可在国内管理和运营的生成AI环境,满足了对主权AI的需求。

灵活的部署与使用模式

“Private AI Platform on PRIMERGY”提供多种型号,支持从小规模试点到大规模部署。凭借全国范围的支持体系,能够从方案评估、建设到运营维护提供一站式服务,减轻生成AI引入和运营的负担。

提供方式

该解决方案由日本国家NTT西日本作为主承办商提供,并与日本国家エフサステクノロジーズ合作支持部署和运营。方案提案及合同手续通过日本国家NTT西日本的销售窗口办理。