日本软银公司宣布，自8月上旬起，在其推动企业AI应用的SaaS平台“AGENTIC STAR”中，开始标准搭载“LLM Gateway”功能，并将逐步向已使用该平台的企业推广。
“AGENTIC STAR”是一个面向企业的AI应用平台，提供包括能够自主协作完成任务的AI代理人在内的多项功能，帮助企业安全、便捷地利用AI技术。此外，该平台还支持AI代理人的构建与运营。
“LLM Gateway”是一个面向企业的网关功能，位于工程师使用的AI编码工具与客户所签约使用的大型语言模型（LLM）服务之间。
当AI编码工具直接访问LLM而不经过企业的管理和控制机制时，涉及机密信息和个人信息的处理，以及企业制定的使用规则的执行，都会成为生成式AI治理的挑战。
通过让AI编码工具与LLM之间的交互必须经过“LLM Gateway”，企业可以利用“AGENTIC STAR”提供的管理和控制功能，确保AI编码工具在保持使用便利性的同时，符合企业的安全和合规要求。
