周三,OpenAI正式发布了其首款定制推理处理器——Jalapeño芯片,该芯片由OpenAI与博通(Broadcom)联合设计和制造。OpenAI表示,其自家的人工智能模型也参与了芯片的开发过程。

虽然该芯片仍处于测试阶段,但OpenAI透露,初步结果显示其每瓦性能显著优于当前最先进的替代方案。

这次合作伙伴关系于去年十月正式宣布,但OpenAI早有传闻计划推出自研芯片,以减少对Nvidia GPU的依赖。谷歌和亚马逊也分别打造了类似的定制芯片,通常被称为“AI加速器”,专门用于加速机器学习任务。

OpenAI总裁Greg Brockman在博通合作宣布后不久的内部播客中介绍了公司开发芯片的思路。他表示:“我们对工作负载有深刻理解,重点关注那些尚未被充分满足的特定任务,思考如何打造能够加速实现可能性的产品。”

Jalapeño芯片专为推理任务设计,即运行预训练AI模型以响应用户指令的过程。OpenAI在发布中强调,该芯片在运行实时编码模型时具有较低的运行成本。尽管更高性能需求的任务如预训练可能仍依赖Nvidia硬件,但即使是推理成本的微小降低,也能显著提升公司的经济效益。

优化推理系统可能成为未来AI经济学的关键因素,这种优化预计将在技术栈的各个层面展开。OpenAI不仅在构建像Codex这样的智能代理产品和驱动它们的模型,还在建设运行这些模型的数据中心。进入定制芯片领域,使公司能够在这一过程中迈出更大步伐。

OpenAI在公告中写道:“我们不仅开发前沿模型或基于它们构建产品,还设计其底层基础设施:芯片架构、内核、内存系统、网络、调度、部署系统以及产品体验。由于OpenAI跨越整个技术栈,每一层都能围绕同一目标进行优化:让模型更快、更可靠且更经济实惠。”