さくらのAI Engine プライベートエディション

日本さくら互联网公司宣布,将于10月8日正式推出一项全托管的生成式AI模型服务——“さくらのAI Engine 私有版”。该服务允许企业在专属的闭环环境中运行自有的生成式AI模型。

该服务基于“さくらのAI Engine”的技术平台和运维设计,用户可以将自有的生成式AI模型托管在日本さくら互联网的GPU基础设施上,并通过API接口进行调用。无论是自主开发的模型、经过微调的模型,还是开源权重模型,都能在用户专属的闭环环境中安全稳定地运行。

通过提供专属环境,服务避免了多租户环境中可能出现的干扰,确保推理执行的稳定性。日本さくら互联网负责从推理基础设施的搭建、运维到监控的全流程服务,极大减轻了用户的运维负担。同时,专属环境的设计也保障了输入数据和生成结果不会被用于AI训练,适合处理机密信息的场景。

在费用方面,服务采用基于GPU单元的月度固定收费模式,用户无需担心因令牌使用量波动而产生额外费用,使用更加灵活和安心。

さくらのAI Engine プライベートエディション