当英伟达周一宣布成立一个由100多家公司组成的新联盟,致力于解决失控AI代理问题时,有一个名字格外引人注目地缺席了:OpenAI。

虽然OpenAI并非唯一未加入该联盟的大型科技公司——亚马逊、谷歌和苹果也未参与——但作为人工智能领域的重要玩家,OpenAI的缺席尤为显眼,尤其是在其竞争对手Anthropic已加入的情况下。

尽管OpenAI没有公开承诺加入该联盟,意味着各成员公司将使用并销售该技术的某些版本并为项目贡献功能,OpenAI发言人向TechCrunch表示,公司支持英伟达的相关工作。

这项名为“英伟达开放代理安全平台”的新举措,是英伟达试图将其自主研发且大部分开源的AI代理安全技术推广至整个AI生态系统的努力,旨在应对Anthropic和OpenAI等前沿实验室披露的失控AI代理事件。

英伟达CEO黄仁勋一直将失控AI视为“普通的工程问题”,认为可以像解决其他技术难题一样解决。开放代理安全平台正是黄仁勋言出必行的体现。

OpenAI正与英伟达合作开发代理安全技术,其中包括该平台的关键软件之一OpenShell。OpenShell是一款开源软件,专门设计用于创建沙箱环境,防止AI代理逃逸。

虽然OpenAI没有像竞争对手Anthropic那样公开支持该计划令人好奇,但Anthropic的参与本身就是一个积极信号。

Hugging Face创始人兼CEO Clem Delangue(该公司本月刚以129亿美元被英伟达收购)认为,OpenAI尤其能从这项技术中受益。

Delangue表示:“据我们所知(需谨慎对待,我们需要更多透明度!),如果OpenAI自己运行了攻击我们的代理,他们应该比我们更早发现这些代理!”

Hugging Face已为开放代理安全平台贡献了一项功能,能检测并关闭那些访问授权网站却以未授权方式操作的AI代理。例如,当代理绕过安全防护,在开源代码托管库中相互传递信息协调攻击时,该功能会启动。

这正是OpenAI曾表示其失控代理群体攻击Hugging Face的方式之一。

此外,一些大公司包括OpenAI可能不愿公开承诺加入英伟达计划的另一个原因是,该平台包含一个非开源的硬件组件,仍为专有技术,仅能部署在英伟达硬件上。

开放代理安全平台不仅提供沙箱环境,还在硬件层面强制执行代理行为,确保代理无法察觉自己被监控。(部分AI模型和代理在被监视时会假装遵守规则。)

硬件监控依赖于英伟达的Sentry功能,这是一项运行于名为BlueField-4数据处理单元的专用英伟达处理器上的专有技术。英伟达承诺,Sentry能持续监控代理行为并即时关闭异常代理。

虽然硬件方案显然是个好主意,但这也意味着开放代理安全平台并非完全开源,英伟达借此确保该方案在自家硬件上运行最佳。英伟达表示,对于已使用其最新硬件的用户,部署该平台仅需简单的软件更新。

尽管如此,英伟达的竞争对手如Arm和Intel也已成为该平台的支持者,因为OpenShell沙箱可调整以兼容其他芯片和硬件,且英伟达正在共享整套软硬件的参考设计。

这一切使得OpenAI的缺席更加引人注目。

显然,OpenAI将AI安全视为摆脱其主要投资者英伟达依赖的机会,同时也是展示自身领导力的舞台。尽管正是OpenAI的AI代理在Hugging Face事件中引发了行业担忧。

例如,OpenAI正在为其研究和产品开发自主的安全防护措施,并公开披露其发现的最严重事件。同时,OpenAI拥有自己的AI网络安全联盟“防御工厂”,用于共享信息。支持该联盟的包括Anthropic、亚马逊云服务和谷歌——许多未加入英伟达技术路线的公司。

坦率地说,某种程度上的担忧对业务有利。OpenAI正将网络安全打造为企业服务,从其专注网络安全的模型Daybreak,到不断扩展的合作伙伴网络,帮助企业实施AI安全。