日本软银公司于2023年6月30日宣布，在其具备数据主权的云服务平台“Cloud PF Type A”中，正式开始在日本东部的数据中心提供由SB Intuitions开发的国产生成式AI“Sarashina”服务。西日本的数据中心预计将在今年10月启动该服务。
“Cloud PF Type A”基于“Oracle Alloy”技术构建，软银在日本国内的数据中心负责其管理和运营，确保客户数据在国内存储和管理，实现数据主权。同时，软银负责运营和支持，保障运营主权。
“Sarashina”作为一款具备数据主权、运营主权及技术主权的国产生成式AI，结合“Cloud PF Type A”平台，能够让客户在安全环境中使用与其机密信息和数据联动的生成式AI服务。
此外，“Cloud PF Type A”还提供支持生成式AI应用开发和运营的相关服务，包括向量数据库、基于检索增强生成（RAG）技术的构建功能以及AI代理执行平台。借助这些功能，企业和地方政府能够将自身独有的数据与生成式AI结合，打造高端AI服务。
主要特点
- 在具备主权性的云环境中安全使用生成式AI服务
- 根据使用需求灵活提供国产生成式AI“Sarashina”多种形态
- 利用PaaS（平台即服务）功能支持生成式AI应用开发
- 提供高性能GPU，确保稳定的推理环境
- 设计符合金融机构及重要基础设施领域严格的治理要求
服务提供形式
根据客户需求，提供“共享型”和“专有型”两种服务模式：
-
共享型（按需） 多用户共享同一GPU资源和模型，逻辑上隔离，采用按百万令牌计费的方式，降低初期成本，适合概念验证（PoC）和小规模项目。
-
专有型（专用） 为客户提供专属GPU资源，单租户模式，保证稳定性能，采用月固定费用，便于成本管理。
| 项目 | 共享型（按需） | 专有型（专用） |
|---|---|---|
| 提供形式 | 多租户模式 | 单租户模式 |
| 计费方式 | 按使用量计费（每百万令牌） | 月固定费用 |
| 主要用途 | 概念验证、测试环境、小规模部署 | 生产系统、大规模使用、高性能需求 |
| 生成AI模型 | Sarashina3 mini / nano / guard / embedding / rerank | Sarashina3 mini / nano |
