
日本谷歌云服务部门于11月9日(美国时间)发布了最新AI计算芯片产品——“TPU 8tx”和“TPU 8i Max”。TPU(张量处理单元)是谷歌为其内部AI环境(如面向普通用户的Gemini和面向企业的Gemini Enterprise)以及云服务客户提供的专用计算硬件。
这两款新品均为今年4月谷歌云发布的第8代TPU(“TPU 8t”和“TPU 8i”)的衍生版本。TPU 8tx结合了TPU 8t与AMD第5代EPYC处理器的Confidential Computing功能,能够创建可信执行环境(TEE),在该环境中执行计算任务,有效防止外部干扰,提升安全性。
而TPU 8i Max则在单一封装内集成了两个TPU 8i芯片,使得每个机架内的TPU密度翻倍,从而实现机架整体计算性能和内存容量的双倍提升。
自4月发布以来,第8代TPU已陆续部署到谷歌自有数据中心。10月,甲骨文(Oracle)旗下云服务OCI(Oracle Cloud Infrastructure)及其他大型云服务商也开始采用该技术。此次推出的两款新产品将进一步推动TPU的普及。
谷歌云TPU应用范围持续扩大

AI领域的竞争正逐渐转向“谁能以更低成本获得更强算力”。例如,10月27日在美国拉斯维加斯举办的Oracle AI World大会上,OCI负责人Mahesh Shagarajan透露,OpenAI于9月发布的前沿AI模型“GPT-6 Astra”的训练和开发均在OCI搭建的GPU集群上完成。他强调,开发最先进模型需要强大的计算基础设施。
新兴AI软件厂商如OpenAI和Anthropic通常依赖OCI等大型云服务商的基础设施进行大规模AI训练。相比之下,谷歌拥有自家的云服务平台Google Cloud,基本上使用自家基础设施进行开发。
谷歌虽未公开具体比例,但其AI计算基础设施中部分采用自研定制芯片TPU。自2015年以来,谷歌便将TPU作为AI计算的重要组成部分,最初设计用于推理计算,随后扩展到训练用途,近年来又回归推理优化。
谷歌加大对TPU的投入主要有两大原因:一是应对训练用GPU市场供应紧张,二是GPU价格持续上涨。通过引入性价比更高的自研芯片,谷歌旨在降低整体成本。
今年4月的Google Cloud Next'26大会上,谷歌发布了第8代TPU,分别针对训练(TPU 8t)和推理(TPU 8i)优化,满足不同应用需求。
此前TPU主要在谷歌云内部使用,但10月的Oracle AI World大会上,甲骨文宣布将在自家数据中心部署TPU,显示出谷歌TPU生态的扩展趋势。
采用AMD EPYC实现TEE的TPU 8tx与密度翻倍的TPU 8i Max

谷歌此次扩充TPU产品线,TPU 8tx基于TPU 8t,TPU 8i Max则是TPU 8i的衍生型号。芯片本体与原型号基本相同,主要在基础设施层面进行了升级。谷歌云表示,一年内发布四款TPU新品是TPU发展史上的首次。

传统TPU 8t搭配谷歌自研基于Arm架构的Axion CPU使用,而TPU 8tx则将CPU更换为AMD第5代EPYC(代号Turin),借助其硬件级Confidential Computing(SEV)功能实现可信执行环境(TEE)。
TEE利用硬件功能在内存空间中构建安全执行环境,防止恶意软件干扰。软件层面难以实现的安全保障,通过硬件支持得以实现。
TPU 8tx通过AMD CPU的TEE技术,能够安全存储和处理敏感AI训练数据,适合大型企业在安全环境中开发AI模型。

TPU 8i Max则提升了TPU的封装密度。传统封装内含1个TPU 8i芯片,而TPU 8i Max则集成了2个。
单块服务器主板原本可搭载4个TPU 8i,现可支持8个TPU 8i Max,机架内TPU数量翻倍。换言之,在相同数据中心面积下,采用TPU 8i Max可实现理论性能的双倍提升。

此外,谷歌还宣布第8代TPU支持“PyTorch on TPU”正式发布。该功能使TPU原生支持PyTorch框架,简化了将基于CUDA的PyTorch代码迁移至TPU的过程。
这将极大便利开发者在TPU上运行PyTorch训练程序,促进从CUDA GPU向TPU的平滑过渡。


