ai&提供的AI推理平台 ai&(エーアイ・アンド)正式推出了面向日本企业的AI推理平台“ai& Inference”。

目前,尽管日本在AI应用方面取得了一定进展,但由于大量依赖海外AI服务器(如Claude和GPT系列)进行请求,导致成本上升和响应延迟,影响了实时业务的顺畅进行。此外,涉及公司机密数据的处理也面临数据隐私合规的挑战。

“ai& Inference”主要针对难以采用海外AI服务的日本企业,所有处理均在日本国内基础设施上完成,预计可将AI使用成本降低最多80%。用户只需在现有应用程序中修改一行设置,即可轻松开始使用。

在AI处理方面,平台针对不同任务采用不同模型:对于复杂的推理和策略制定等“思考”任务,使用高性能模型;对于定型处理和工具调用等“执行”任务,则采用成本低且速度快的模型。通过这种任务分配方式,大幅降低整体工作流程成本。对于有特殊需求的企业,平台还提供针对特定工作负载的专业调优和个性化定制服务。