OpenAI称其Jalapeño芯片能提供比竞争对手更快的AI响应
内容提要
OpenAI发布新AI芯片Jalapeño，与博通合作制造，专为AI推理设计。在基准测试中，其性能超越英伟达GB200/GB300，能效提升1.5至1.9倍，延迟降低1.7至3.6倍。计划今年底小规模部署，2027年扩大产量，但不会完全替代英伟达芯片。
延伸解读
推理专用芯片的定位
Jalapeño是专为AI推理设计的ASIC芯片，而非通用训练芯片。这意味着它针对的是模型部署后的任务执行阶段，而非训练阶段。OpenAI强调其低延迟和高吞吐量的结合，这在实际应用中意味着更快的响应速度和更高的并发处理能力。
能效与延迟的量化优势
根据OpenAI的基准测试，Jalapeño在能效上比英伟达GB200/GB300提升1.5至1.9倍，端到端延迟降低1.7至3.6倍。这些数据基于GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T三个模型，但需注意测试由OpenAI自己进行，结果可能受测试条件影响。
部署计划与战略考量
OpenAI计划今年底小规模部署Jalapeño，2027年扩大产量，但不会完全替代英伟达芯片。这表明OpenAI采取多元化芯片策略，既依赖英伟达等合作伙伴，也自研芯片以优化特定工作负载。未来两代芯片已在开发中，显示长期投入。
Q&A
OpenAI的Jalapeño芯片是什么？
Jalapeño是OpenAI与博通合作制造的一款专用集成电路（ASIC），专为AI推理设计，即运行训练好的模型来完成任务或部署智能体。
Jalapeño芯片与英伟达的GB200/GB300相比性能如何？
在InferenceX基准测试中，Jalapeño在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T三个模型上，能效比英伟达GB200/GB300高1.5至1.9倍，端到端延迟低1.7至3.6倍。
Jalapeño芯片在能效和延迟方面有什么优势？
Jalapeño芯片在能效上比竞争对手高1.5至1.9倍，延迟低1.7至3.6倍，这意味着它可以用更少的能量完成更多工作，同时提供更快的响应速度。
OpenAI计划何时部署Jalapeño芯片？
OpenAI计划在今年年底小规模部署Jalapeño芯片，并在2027年开始扩大产量。
Jalapeño芯片会完全取代英伟达芯片吗？
不会。OpenAI硬件副总裁Richard Ho表示，OpenAI不打算用Jalapeño完全取代其芯片阵容，其整体计算策略包括与英伟达等合作伙伴合作。
Jalapeño芯片的推出对AI用户有什么好处？
Jalapeño芯片可以提供更快的响应、更灵敏的智能体，以及随着需求增长更可靠的访问。
