日本三井物产安全指导（MBSD）与日本三井住友银行旗下的SMBC网络前线公司宣布，已开始开发针对AI代理的国产安全产品。该产品计划于2026年上半年进行基于实际运营的概念验证（PoC），并于2026年下半年发布测试版。
该产品并非针对特定AI代理或生成式AI服务，而是作为保障企业安全使用AI代理的“护栏”，帮助企业安全引入和利用AI代理。
市场背景与挑战
近年来，生成式AI和AI代理技术迅速发展，除了软件开发中的代码生成、测试、审查和运维支持外，普通员工也开始利用AI进行市场调研、文档制作等工作以提升效率。
然而，随着AI处理信息范围和执行权限的扩大，信息泄露、生成脆弱代码、非预期操作等安全风险和治理问题日益突出。
未来预计将出现多样化、针对不同业务和服务的AI代理“泛滥”现象，因此构建兼顾竞争力提升与安全使用的管理基础，成为企业重要的经营课题。
项目概要
MBSD在AI安全领域拥有丰富技术经验，自2016年以来为政府机关和大型企业提供多样化服务。SMBC网络前线作为日本银行业首家网络安全子公司，积累了以用户视角为核心的安全咨询经验，并在全国范围内为客户提供最佳服务，桥接管理层与专业部门。
双方已完成AI安全的初步调研，现进入针对AI代理安全产品的开发阶段。结合MBSD的AI安全技术与SMBC网络前线的咨询经验及客户资源，致力于为更多企业构建安全、可靠的AI应用环境。
产品价值与功能
该产品可检测企业未授权使用的AI服务（影子AI），并对AI代理的危险行为（如机密信息外泄、执行危险命令等）进行检测与控制，提供安全范围内的AI应用“护栏”。
作为国产产品，符合日本法规和商业习惯，主要功能包括：
- 基于组织政策的统一行为控制：对企业内部潜在的AI代理统一施加政策。
- 超越规则基础的意图检测：可识别多轮对话中的记忆污染攻击等传统规则难以发现的威胁。
- 支持网关型或代理型部署：根据企业需求选择最适合的架构。
- 实时与事后检测结合：实时控制AI代理的危险行为，预防重大信息泄露事件。
- 统一管理所有行为日志：集中管理分散的AI代理行为日志，便于事故调查和审计。
概念验证（PoC）
在产品开发过程中，重点聚焦尚无统一标准的AI代理控制引擎，开展结合规则基础、机器学习及大型语言模型的多层控制技术的可行性和市场适应性验证。
同时，计划邀请积极推动AI应用的用户企业参与，通过实际环境测试不断完善产品。
