OpenAI的Jalapeño芯片在AI推理性能上超越竞争对手

OpenAI发布了其首款定制AI推理芯片Jalapeño的基准测试结果，展示了在效率和速度方面的行业领先性能。根据OpenAI的数据，Jalapeño相比于NVIDIA的GB300级系统，提供了1.5到1.9倍的每千瓦吞吐量提升，并降低了高达3.6倍的延迟。这些提升标志着AI推理能力的显著飞跃，尤其是针对像GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T这样的大型语言模型（LLMs）。

Jalapeño于2026年6月24日首次宣布，这是与Broadcom合作的成果，标志着OpenAI进军定制硅片开发领域。与通用GPU不同，Jalapeño专为运行已训练的AI模型（如为ChatGPT提供支持的模型）而设计。该芯片专为推理工作负载进行了优化，最大限度地减少了功耗并缩短了响应时间。虽然NVIDIA的GPU由于其可编程性和生态系统在更广泛的AI硬件市场中占据主导地位，但Jalapeño的针对性设计为OpenAI的内部需求提供了竞争优势。

于8月25日发布的基准测试突出显示了Jalapeño在处理交互式AI工作负载方面前所未有的效率。例如，在测试的最大模型Kimi K2.5上，该芯片实现了1.5倍的每瓦峰值性能提升，并将端到端延迟降低了3.4倍。该指标凸显了其处理高需求任务（如实时聊天机器人交互）的能力，同时降低了能源成本——这是AI全球化采用过程中至关重要的因素。

OpenAI的工程团队将Jalapeño开发的加速归功于AI本身。利用内部AI工具，团队在短短九个月内完成了从设计到投片的过程。此外，AI在优化芯片电路和编程方面发挥了直接作用，从而实现了更快的部署和更高的性能。值得注意的是，特定模型块的AI生成实现性能比人工代码高出了1.5到1.8倍，进一步加快了开发周期。

尽管Jalapeño尚未对外出售，但其对OpenAI运营的影响可能是深远的。更快、更节能的推理能力使公司能够降低成本并服务更多用户，从而提高运营杠杆。随着第二代和第三代芯片的开发，OpenAI正在将定制硅片作为战略优势加码投入。

在更广泛的市场中，Jalapeño的性能使OpenAI成为谷歌张量处理单元（TPU）的潜在竞争对手，尽管两者的范围有所不同。谷歌TPU同时支持训练和推理，并通过谷歌云提供商业服务，而Jalapeño严格来说是一种内部推理工具。与NVIDIA的比较同样微妙：虽然NVIDIA的GPU仍是通用性和生态系统支持的首选，但Jalapeño的专业化设计在特定工作负载上提供了更高的效率。

展望未来，OpenAI计划在年底前在其计算基础设施中大规模部署Jalapeño。随着公司不断完善平台并扩展其功能，Jalapeño代表着满足全球对AI驱动应用日益增长需求的关键一步，同时管理成本和环境影响。