日本Elith公司于7月3日推出了针对企业生成式AI使用的可视化、控制和记录的影子AI防护SaaS产品“GENFLUX Security”。该产品初期以浏览器扩展形式提供，后续将推出桌面版和代理版。
GENFLUX Security旨在通过“可视化”“控制”“记录”企业内部生成式AI的使用情况，构建AI时代的安全使用基础。管理员可以清晰掌握谁在何时使用了哪些AI服务，并通过仪表盘查看按部门和用户分类的使用状况。
此外，对于访问禁止的AI服务或发送包含机密信息的提示词等高风险操作，系统会根据企业的政策进行警告、阻断或信息掩码处理。
主要功能
AI使用的可视化
- 统一管理员工的AI使用情况，通过仪表盘展示
- 追踪谁、何时访问了哪些AI服务
- 按部门和用户查看使用详情
- 发现未授权的AI服务使用
- 为管理员提供详细的使用情况可视化
这使得信息系统部门、首席信息安全官（CISO）及管理部门能够清楚了解此前难以掌握的生成式AI使用实况。
风险操作的实时控制
- 阻止访问禁止的AI服务
- 在发送包含机密信息的输入前进行警告或阻断
- 必要时对敏感信息进行掩码处理后发送
- 按部门和用户应用不同的策略
用户会看到阻断原因，增强理解和接受度，从而促进安全的AI使用。
通过DLP保护机密信息
GENFLUX Security会在提示词发送给AI前进行检测，防止机密信息泄露。检测范围包括：
- 个人信息：姓名、地址、电话号码、邮箱
- 日本特有信息：个人编号（My Number）、驾驶证号、保险证号
- 支付及认证信息：信用卡号、API密钥、密码
- 企业机密：并购信息、客户名单、未发布产品、内部术语
若检测到可能包含机密信息，系统会在发送前发出警告或阻断，提示用户修改为安全的提示词。
使用日志与审计支持
- 记录谁、何时使用了哪些AI
- 保存阻断、警告、掩码等控制操作的历史
- 支持审计、责任说明和合规管理
- 提供管理员报告
这有助于企业更好地履行生成式AI使用的责任说明。
兼顾用户体验与管理需求
GENFLUX Security致力于在保障现场生产力的同时，实现企业所需的管理控制。
-
普通员工：
- 允许使用获批的AI服务
- 仅在存在风险操作时收到警告或阻断
- 显示禁止访问的原因
- 必要时对机密信息进行掩码处理
- 设计注重用户理解和接受
-
管理员、CISO及信息系统部门：
- 通过仪表盘掌握整体AI使用状况
- 发现未授权的AI服务使用
- 通过DLP警报通知潜在风险
- 支持策略管理、日志查看及报告导出
- 保留审计和治理所需的证据记录
