Gartner日本分公司近日发布了关于国内企业应对“影子AI”的最新见解。
所谓“影子AI”，是指企业内部IT部门或信息安全部门未正式批准的AI工具，被员工个人擅自用于工作中。这种行为可能带来机密信息泄露和合规风险。根据Gartner的调查，虽然许多国内企业在一定程度上允许用户部门自行选择生成式AI工具，但在管理和风险防范方面仍存在明显不足。
调查数据显示，有43%的企业表示尚未掌握影子AI的使用情况，另有30%的企业虽有所了解但未能采取有效措施，合计73%的企业未能有效管理影子AI的风险。
鉴于AI工具的快速普及，Gartner认为由IT部门单独全面管理所有AI工具已不现实，企业应从追求“完全控制”转向“负责任使用”。这意味着不仅仅是简单禁止或阻断，而是要在明确使用情况的基础上，建立评估、审批和监管机制。
Gartner建议，企业应确立用户部门与IT部门分工明确的“协作管理模式”，并通过三个步骤来实施：
- 采纳前的审查与批准
- 使用过程中的监控
- 定期的使用情况盘点
通过这一系列措施，企业能够更有效地控制影子AI带来的风险，促进AI工具的安全合规使用。
