日本全球安全专家株式会社(GSX)于27日宣布,正式推出“AI提示安全诊断(AI Prompt Security)”服务,旨在帮助企业安全地利用生成式AI技术。
该服务针对集成了ChatGPT API等生成式AI的Web应用,专门检测AI特有的安全漏洞,如提示注入(Prompt Injection)和提示泄露(Prompt Leak)等。基于全球通用的OWASP LLM Top 10标准,涵盖8大诊断类别,全面揭示AI环境中的安全风险。
GSX表示,随着生成式AI时代的到来,建立新的安全标准变得尤为重要,该服务将助力企业构建安全可靠的生成式AI应用环境。

根据GSX介绍,OWASP在2025年发布的“LLM应用Top 10”中,将提示注入列为首要风险,超过73%的实际AI部署中发现了该漏洞。尽管越来越多企业将生成式AI应用于业务,但仅有34%的企业已实施针对AI的安全控制,安全防护与应用速度之间存在显著差距。
此外,GSX指出,生成式AI带来的机密信息泄露、版权侵权以及因幻觉现象导致的错误信息传播等风险,可能严重损害企业信誉,若无适当防护,使用生成式AI本身即构成重大经营风险。
AI提示安全诊断针对传统Web应用中未曾出现的AI特有攻击路径,全面检测围绕大型语言模型(LLM)应用的威胁环境。通过结合GSX的实战检测方法与OWASP LLM Top 10全球标准,帮助企业在享受生成式AI便利的同时,确保管理层能够获得可信赖的安全保障。
该诊断覆盖OWASP LLM Top 10的8大风险类别,全面检测包括提示注入、提示泄露、数据投毒等最新攻击手法。
通过四级综合评估,管理层能够直观了解当前风险水平,诊断报告详细说明问题根源及具体整改措施,便于开发团队迅速采取修复行动。
除了漏洞识别,GSX还支持构建系统级“纵深防御(Defense in Depth)”,提出涵盖AI模型安全、权限管理、访问控制及数据安全的整体防护方案。


