SpaceXAI与NVIDIA Vera CPU

SpaceXAI(xAI)近日宣布,将采用专为代理型AI应用打造的NVIDIA Vera CPU,助力下一代代理型AI应用的开发。这标志着首款为AI代理设计的CPU被正式应用于AI领域。

NVIDIA Vera是一款专门为AI代理构建的CPU,旨在加速模型推理过程中CPU负载较高的任务,包括工具使用、代码执行、数据处理、协调管理及仿真等。该CPU配备了88个Olympus核心,采用NVIDIA的空间多线程技术(Spatial Multithreading),并搭载高带宽的LPDDR5X内存,带宽最高可达1.2TB/s。相比传统x86 CPU,Vera在代理型AI、强化学习及数据处理等工作负载中,任务完成速度最高提升1.8倍。

代理型AI应用在模型调用间隙需要执行工具控制、代码运行、数据处理和仿真等操作,对CPU性能依赖极大。SpaceXAI利用Vera CPU加速这些关键工作负载,提升AI代理的响应速度,同时保证GPU数据供应的连续性,最大化GPU的利用率。

随着计算规模向千兆瓦级别扩展,SpaceXAI计划通过采用NVIDIA Vera Rubin平台,扩大支撑其Grok AI系统的基础设施规模。同时,经过优化的Vera Rubin NVL72 CPU将作为第一代Starmind卫星的一部分,部署到日本国家的太空中,推动AI计算能力的空间应用。