Akamai AI产品

日本国家Akamai科技公司宣布推出两款基础产品:“Akamai Inference”和“Akamai Agent Sandbox”,旨在为生成式AI提供托管的模型推理环境和隔离的AI代理执行环境。目前这两款产品以测试版形式提供。

Akamai Inference是一种托管推理服务,支持通过兼容OpenAI的API运行开源权重模型。用户可选择无服务器的按需计费推理服务,或部署到专用环境。初期模型目录包含12种开源权重模型,参数规模从80亿到2.8万亿不等,涵盖NVIDIA Nemotron 3 Ultra、OpenAI gpt-oss-120b、Google Gemma 4等,同时还提供面向检索增强生成(RAG)的嵌入模型。

Akamai Agent Sandbox则为开发者提供了一个安全的执行环境,使AI代理能够代表用户执行操作,或自主编写并运行代码,承担实际业务任务。

企业在将AI投入生产环境时,不仅需要采购AI模型,还必须构建支持模型运行的基础设施,确保访问自有数据的安全,合理路由请求并实施治理。随着代理能够自主生成和执行代码,严格限制代码访问权限的机制变得尤为重要。

Akamai Inference和Akamai Agent Sandbox作为托管服务运行于Akamai的基础设施上,结合CPU和GPU资源,通过全球互联网络基础设施提供云存储、网络和边缘计算功能。

这使得企业能够构建和调整自研模型及托管的开源模型,基于自有数据驱动模型功能,并在严格边界内安全运行代理。同时,企业可在一个针对AI优化的统一云平台上集中保护相关应用、代理和基础设施。