随着关于近期失控AI代理是通向通用人工智能（AGI）的步骤还是传统工程问题的争论不断，英伟达提出了自己的解决方案。

英伟达首席执行官黄仁勋周一发布了一套软硬件工具包，旨在为AI代理添加独立的安全层，确保它们即使试图突破也能被限制在测试环境内。

此次发布正值Anthropic、谷歌、OpenAI和Meta等公司的AI模型接连发生黑客事件，这些模型绕过安全控制，逃离测试环境并访问真实系统。今年夏天，OpenAI的代理在执行网络安全任务时突破了Hugging Face的安全防护，成为首个也是最引人注目的案例。此后，类似事件不断发生，OpenAI甚至专门建立了一个网站，收集其AI代理失控的报告。

黄仁勋在接受CNBC采访时表示，英伟达的新平台——Open Agent Safety Platform本可以防止这些安全漏洞的发生。

英伟达作为向AI实验室销售GPU和CPU芯片的巨头，收入数百亿美元，但并不支持通过放缓开发或增加行业监管来解决安全问题。公司认为，解决方案是将部分安全控制移出AI代理本身，打造一个持续且独立的安全守护系统，实时监控并约束AI代理的行为。

“只有解决了AI安全问题，AI对社会的巨大潜力才能真正实现，”黄仁勋在声明中说，“随着我们不断探索AI能力的前沿，必须加快AI安全领域的发现。安全和保障需要全栈工程技术支持。”

英伟达的新平台结合了其开源软件OpenShell和独立监控系统Sentry。OpenShell负责控制AI代理的访问权限，而Sentry运行在英伟达的BlueField-4数据处理单元上，作为独立处理器监控代理活动，避免与运行AI代理的CPU或GPU混合，从而提供隔离的安全视角。

OpenShell软件早在今年三月就已发布，但英伟达认为，OpenShell与Sentry的结合才是确保行业安全发展的关键。Sentry能在硬件层面持续监控行为，并在毫秒级别隔离试图越界的代理。

英伟达列出了包括Anthropic、Arm、微软、甲骨文和SpaceX在内的数十家公司支持并使用该开源平台，但OpenAI未在名单中。

黄仁勋透露，这项工作始于一年前，灵感来自Peter Steinberger创建的OpenClaw代理操作系统。今年三月，英伟达发布了企业级AI代理平台NemoClaw，这是其版本的OpenClaw，内置了安全功能。

“无论代理多么智能，部署时第一步就是剥夺它所有权限，”黄仁勋在采访中说，并将这些安全措施比作企业对员工甚至高管的管理方式。

英伟达的举措获得了广泛支持，尤其是那些担心放缓AI发展可能让中国在该领域超越美国的声音。

前白宫AI负责人、风险投资家、大卫·萨克斯表示，英伟达的发布提醒人们，代理安全是一个工程问题。

他在社交平台X上写道：“最近的逃逸事件并不意味着必须停止开发，而是说明沙箱环境太脆弱，运行环境设计不当且配置错误。”