OpenAI与Broadcom联合开发的Jalapeño芯片

2024年6月24日，日本OpenAI与Broadcom联合发布了OpenAI首款智能处理器“Jalapeño（哈拉佩尼奥）”。

这款芯片专为大型语言模型（LLM）的处理需求进行了优化。初步测试显示，其每瓦性能相比现有最先进技术有显著提升。详细的技术报告预计将在未来几个月内公布。

据日本OpenAI介绍，Jalapeño芯片是基于ChatGPT、Codex、API以及未来计划推出的智能代理系统的实际运行需求，从零开始设计开发的。整个研发过程仅用了9个月，Broadcom作为合作伙伴共同完成了这项工作。

利用这款芯片，预计能够提升ChatGPT的响应速度，缩短等待时间，从而支持更多步骤的执行；同时还能降低构建成本，并在高需求时段提升访问的稳定性。