日本NTT数据公司于24日介绍了其AI代理解决方案系列“LITRON”中的一款产品——“客服AI代理”的相关应用。该方案利用Azure AI Content Safety、Azure AI Language等技术，确保AI代理的安全风险规避及AI治理的合规性，体现了其在AI代理安全防护方面的努力。
NTT数据提出了“Smart AI Agent”构想，旨在通过具备专业业务能力的专用型AI代理自主协作，彻底革新业务流程。“LITRON”系列产品和服务基于NTT数据集团内部的实际应用经验，逐步推广至企业客户。
“Smart AI Agent”构想分为五个阶段：第一阶段为构建客户业务引入AI的基础；第二阶段通过AI提升客户通用业务的效率；第三阶段开始优化客户特有业务；第四阶段推动客户自主优化特有业务；第五阶段实现客户业务流程的全面变革。目前，NTT数据已通过多款产品和服务完成了前两个阶段的目标。
NTT数据计划通过推动Smart AI Agent，到2027财年实现包括国内外在内的AI代理相关业务销售额达到3000亿日元。截至2025财年上半年（4月至9月），已收到约700个咨询，成功签约约200个项目。
“LITRON”系列涵盖多种业务解决方案，包括LITRON Sales、LITRON Marketing、LITRON Service客户支持，以及面向财务和法务等后台业务的服务。此外，还提供AI代理开发平台LITRON CORE，支持多种大型语言模型（LLM）的RAG系统LITRON Generative Assistant，以及通过多LLM进行会议模拟的LITRON Multi Agent Simulation，形成从通用业务到行业专用的全面AI解决方案。
此次介绍的客服AI代理被定位为面向企业客户的独立服务类别，与以往产品线区分开来。
NTT数据电信与公用事业事业本部数字体验事业部设计方法统括部部长嶋田亮介指出，随着劳动力人口减少及服务和商品的饱和与复杂化，客户支持需求不断增加，导致人力和作业质量下降。客服领域仍需大量人工介入，且因用户需求多样化，需针对不同用户提供个性化服务，且服务质量直接影响品牌形象。利用具备灵活对话能力的大型语言模型（LLM）实现劳动效率提升和质量保障，成为降低成本与提升客户体验（CX）的关键。
“客服AI代理”通过数字化方式辅助实体客服，AI代理掌握商品信息和服务经验，结合用户数据，提供个性化的商品销售和客户服务。
具体而言，客户AI代理学习企业理念、文化、品牌形象、客服手册及风格等“客服理解”，同时掌握商品信息、促销资料、服务手册、合同文件等“商品信息”，并通过用户基本信息、历史咨询、购买记录、价值观及兴趣爱好等“用户理解”，实现对客户的最佳响应。
其中一个应用案例是汽车经销商的客服支持。
店铺端通过录音记录商谈内容，基于此设定AI的接待方针。输入提案立场、客户关注点、兴趣爱好及家庭信息等，AI据此为客户提供合适的建议。
客户端可浏览意向车型的目录和报价单，这些数据以RAG形式存储。AI参考这些信息，按照接待方针与用户互动。结合试驾系统，客户还能预约试驾，并通过AI与客户的对话记录，提升后续到店的服务质量。
客服AI代理由“商谈代理”、“接待礼宾”、“推荐销售代理”和“客户支持代理”组成，组合应用以提升客户购买时的生命周期价值（LTV）。
该AI代理运行于Microsoft Azure平台，采用灵活架构支持功能组合，并通过基础设施即代码（IaC）实现自动构建。结合NTT集团研发成果，确保技术独特性，同时满足NTT数据内部标准及OWASP标准，构建坚固的系统安全和AI治理体系。
NTT数据强调其遵循“Security by Design”安全设计原则，确保系统开发和运营的安全性。
数字体验事业部设计方法统括部副课长渋谷文那表示，NTT数据通过安全质量标准和严格的安全漏洞检测，实施有计划的安全对策。安全质量标准定义了针对高风险威胁的安全措施，并定期可视化对策状态，实现安全优化和提升。
在AI应用中，需应对传统IT系统未曾涉及的风险，如不当训练数据导致的偏差、训练数据污染、虚假信息输出引发的不当判断、恶意的提示注入攻击、多代理间的异常行为等。
NTT数据通过伦理视角的护栏功能、社会视角的版权及个人信息保护、AI处理范围和人工干预范围定义、系统视角的日志和推理过程可视化、机器学习视角的RAG及训练数据质量保障等多维度措施，全面应对AI代理开发和运营中的风险。
这些理念同样应用于“客服AI代理”的安全防护。
在网络层面，采用DDoS防护缓解攻击，利用Vnet实现虚拟专用网络空间。数据层面采用Microsoft Managed Key加密服务器端数据。应用层面则部署OWASP推荐的Web应用防火墙（WAF）。
Azure环境中，利用Microsoft Defender for Cloud进行漏洞检测、行为监控和配置管理，借助Microsoft Sentinel实现警报关联分析和自动恢复。
为实现伦理、社会、系统及机器学习视角的风险防控，广泛应用Azure AI Content Safety、Azure AI Language、Microsoft Foundry、Azure AI Search、Azure Open AI等微软服务，保障AI安全与治理。
“客服AI代理”通过应用多种Azure安全产品，从提示输入到生成AI回答的各阶段，设计了风险缓解和规避机制。
通过Azure AI Language过滤提示内容，仅允许服务所需的个人信息通过，降低不必要个人信息流入系统的风险。利用Azure AI Content Safety减少提示注入攻击和不当表达的风险。
经过这些处理的信息进入大型语言模型（LLM），为避免AI代理基于输入数据进行学习，采用Azure Open AI。生成的回答再通过Azure AI Language和Azure AI Content Safety过滤，降低个人信息泄露和不当表达风险。
作为个人识别信息（PII）过滤工具，Azure AI Language实现了99%的F1评分。内容过滤和提示过滤结合Azure AI Content Safety与黑名单使用，F1评分达到90%。
针对高级提示注入攻击和系统异常行为检测，采用Microsoft Defender for AI。AI资源配置管理、推荐配置及漏洞检测则由Microsoft Defender for Cloud核心功能Microsoft Defender CSPM负责。
NTT数据表示，通过保障整体环境的高安全水平，确保用户能够安心使用服务。
