微软于周一推出了新的安全功能,旨在保护企业免受日益增长的AI代理威胁。此次发布正值微软持续警告企业关于AI及其代理潜在风险之际。
其中最引人注目的是“守护代理”(Guardian Agents),这是一项用于监控企业所使用AI代理的新功能,属于微软今年六月推出的“感知计划”(Project Perception)的一部分。
“感知计划”是微软针对强大黑客模型(如Anthropic的Mythos和Fable,以及OpenAI的安全漏洞扫描系统Daybreak)所做的回应。该计划最初推出了三类代理:模拟黑客攻击的“红队”、检测红队并评估漏洞的“蓝队”,以及负责修复漏洞的“绿队”。
该产品设计时假设AI黑客来自公司外部,但微软CEO萨蒂亚·纳德拉(Satya Nadella)近期警告称,AI的威胁可能正是企业自己部署并付费使用的代理,就像“内部威胁”的流氓员工一样。
本月早些时候,纳德拉在其私人博客中指出,企业应停止盲目信任AI模型提供商,即使他们声称其代理产品安全可靠。他呼吁企业建立独立于AI实验室的系统,来监控和控制这些由AI实验室产品启动的代理。
“我们正在部署这些复杂的代理系统和模型,它们能够访问我们最敏感的数据,并代表我们执行关键任务!”纳德拉写道,“我们不能将智能体所做的事情的责任外包。模型提供商的保证不能免除我们的责任……换句话说,我们需要将智能体的供应与对其的控制权分开。”
微软安全业务负责人海耶特·加洛特(Hayete Gallot)在宣布守护代理时更为直白地表示:“不幸的是,无论来源如何,前沿模型都无法被信任。”她补充道,这并非因为它们恶意或易被攻击,而是因为它们不可预测。它们被训练去完成任务,而非遵循“组织规范或判断”。

此外,这些模型通常被赋予“王国之钥”,拥有访问数据和工具的权限,可能造成严重损害。
微软的解决方案既令人意外又带有自身利益考量。令人意外的是,微软与OpenAI和Anthropic关系密切,均有投资,OpenAI还是其最大云客户之一,微软自身也有AI实验室开发模型。因此,微软实际上是在对其部分商业伙伴产生不信任。
带有自身利益的一面是,微软希望企业从其云服务购买代理安全产品,而非从Anthropic和OpenAI购买。尽管存在利益冲突,其逻辑依然合理:监控代理行为的软件应独立于代理供应商,就像审计人员应独立于被审计组织一样。
正如纳德拉所言:“我们需要将智能体的供应与对其的控制权分开。”
微软正通过多种方式抓住这一商业机会。除了守护代理外,其Microsoft Defender产品新增了代理检测功能,可识别员工带入工作场所的多达60种代理,包括Claude Code、Codex和OpenClaw。微软还增加了限制代理访问数据和系统的功能,并根据任务动态调整代理权限,若代理做出风险决策,还需人工审批。
代理作为不可信内部人员的概念也在整个行业逐渐被接受。
微软是Nvidia新推出的“开放代理安全平台”(Open Agent Safety Platform)的首批成员之一,该平台获得了100多家科技公司的支持。该平台通过硬件隔离代理于安全环境中,并能监控和阻止其行为,类似于“杀死开关”。这与微软此前发布的搭载Nvidia芯片、内置代理安全控制的Surface Laptop Ultra笔记本相呼应。


