NVIDIA今日发布了开放代理安全平台，这是一款开放的软件平台和参考系统设计，旨在增强AI安全性。Anthropic与NVIDIA合作，为代理堆栈增加了更多安全和控制层。
Claude Managed Agents是一套可组合的API，支持大规模构建和部署生产级代理。它将代理所需的凭证存储在保险库中，确保代理本身无法访问这些凭证。开源的NVIDIA OpenShell软件则用于控制代理在工作时可以执行和访问的内容。使用Managed Agents结合OpenShell的客户，可以限制代理的权限，审查代理的操作，并确认限制措施的有效性。
企业正从简单使用AI回答问题，转向部署能够跨业务部门处理复杂任务、使用专有数据并代表用户执行操作的代理。随着模型性能提升，代理的应用场景和访问权限不断扩大。代理权限越大，企业对其行为的控制和审查需求也越强。
多层保护机制
保护始于模型内部的安全措施。Managed Agents和NVIDIA OpenShell则在模型之外设置限制，约束代理的行为。每一层都独立执行限制，确保保护不依赖单一层级。各层模块化设计，企业可根据自身需求灵活采用。
Claude Managed Agents负责执行并保管凭证
Managed Agents将代理循环运行在与沙箱隔离的服务器上，沙箱是代理执行任务的隔离环境。密码和访问密钥等凭证存储在独立的保险库中，代理无法直接访问。
此外，Managed Agents提供审计日志，记录每个代理的操作，并支持与企业现有访问控制系统集成。企业可自定义沙箱环境及其运行方式。
NVIDIA OpenShell定义代理访问权限
OpenShell是NVIDIA开源的安全运行时软件，负责管理和监控所有AI代理行为，执行针对每个动作的策略。OpenShell默认阻止所有操作，只有符合规则的行为才被允许。它会检查代理尝试使用的每个工具，并对代理访问的文件、网络连接和数据施加规则。所有规则均在代理外部执行，OpenShell记录每次允许或阻止的决策。
团队可从严格的权限开始，审查日志，并利用Claude不断收紧规则，确保任务所需的最小访问权限。OpenShell的策略证明器通过数学证明确认代理在规则下的访问范围。
Claude Managed Agents功能亮点
- 生产级代理，内置安全沙箱、身份验证和工具执行管理。
- 支持长时间自主运行的会话，断线后进度和输出依然保留。
- 多代理编排，代理可启动并指挥其他代理并行处理复杂任务。
- 可信治理，代理访问真实系统时具有限定权限、身份管理和执行追踪。
企业应用案例
- Notion让团队在工作区内使用Claude分配任务。工程师用它发布代码，其他员工用它制作网站和演示文稿。数十个任务可并行运行，团队协作处理结果。
- 乐天在工程、产品、销售、市场和财务等部门部署专业代理，每个代理均在一周内上线。
- Asana打造了AI队友，代理与人类协作完成项目任务和草拟交付物。借助Managed Agents，团队更快实现了高级功能。
上线情况
Managed Agents现已可用，支持在企业自有基础设施或托管服务商的沙箱环境中运行。NVIDIA OpenShell作为Apache 2.0许可的开源软件，已发布在GitHub及NVIDIA的开发者资源页面。
