内容提要
OpenAI发布首款自研推理芯片Jalapeño,采用台积电N3P工艺,功耗700W,性能超越英伟达GB200/GB300,每瓦吞吐量提升1.5至1.9倍,延迟降低1.7至3.6倍。该芯片通过AI辅助设计缩短研发周期,并支持DeepSeek等非自家模型。此举标志AI芯片竞争加剧,小米、苹果等巨头纷纷布局,芯片定义权正流向AI公司。
延伸解读
性能数据的背后:测试条件与局限
Jalapeño 的亮眼数据来自 OpenAI 自选的 InferenceX 基准,统一设置为 8K 输入、1K 输出,且未开启推测解码。开发者社区指出,疯传的“104.3 倍”只是特定等速解码场景下的单一数据点。SemiAnalysis 也承认,芯片尚未通过多轮长上下文的 AgentX 测试,真正的对手应是采用 HBM4 的 Vera Rubin。因此,这些数据虽具参考价值,但需结合测试条件谨慎解读。
通用推理芯片:不止为自家模型服务
Jalapeño 并非 OpenAI 模型的专属芯片,测试中表现最好的三个模型里,DeepSeek R1 和 Kimi K2.5 并不在最初的投产计划内。团队用 Codex 在两个月内将这两个模型优化到高性能,甚至成功运行了游戏《Doom》。这表明 Jalapeño 是一个通用推理引擎,其设计思路——减少数据搬运、简化内存层级——对不同模型均有适应性,而非单纯为自家模型“开小灶”。
AI 造芯片:CUDA 护城河松动的信号?
Jalapeño 项目从启动到流片仅约 16 个月,AI 深度参与了设计、验证和内核优化,部分 AI 生成的内核比人类手写版本快 1.5~1.8 倍。这形成了一个循环:用英伟达 GPU 训练出的 AI,正在帮助设计不依赖英伟达的芯片。SemiAnalysis 认为 CUDA 的护城河可能正在松动。尽管一颗推理芯片不足以宣判 CUDA 的结局,但它证明了 AI 已进入芯片研发循环,可能降低行业对传统工具链的依赖。
行业趋势:芯片定义权流向 AI 公司
近期小米、苹果、高通、联发科、华为等纷纷发布或计划发布自研芯片,Anthropic 也组建了定制芯片团队。这些动作与 OpenAI 的 Jalapeño 指向同一方向:芯片、系统与模型的垂直整合正在加深。OpenAI 的路径——同时拥有模型、软件栈和负载场景——使其在白纸设计上具备优势,而这一路径并非独享。芯片定义权正从传统芯片公司流向认真对待 AI 的公司,竞争格局正在重塑。
Q&A
OpenAI 自研芯片 Jalapeño 的性能表现如何?
在 InferenceX 基准测试中,Jalapeño 的每瓦吞吐量是英伟达 GB200/GB300 的 1.5 到 1.9 倍,端到端延迟降低 1.7 到 3.6 倍,高交互性工作负载性能提升 2.1 到 4.1 倍。
Jalapeño 芯片采用什么工艺,功耗是多少?
Jalapeño 采用台积电 N3P 工艺,标称功耗 700W,实测持续功耗不超过 550W。
Jalapeño 芯片是否只支持 OpenAI 自家模型?
不是,Jalapeño 是通用推理芯片,除了 OpenAI 的 GPT-OSS 120B,还支持 DeepSeek R1 和 Kimi K2.5 等非自家模型,且性能表现同样出色。
Jalapeño 芯片的设计思路是什么?
核心思路是减少数据搬运,通过将芯片核心和 HBM 切片一一对应,让数据尽量留在原地,并采用专用的高带宽集合通信网络和简化的 NoC,降低延迟和功耗。
OpenAI 如何利用 AI 加速芯片设计?
AI 深度参与了设计,包括探索实现方案、缩短验证循环、优化算术电路,使 SIMD 单元面积缩小 8%、矩阵引擎缩小 10%,部分 AI 生成的内核实现比人类专家手写版本快 1.5~1.8 倍。
Jalapeño 芯片的发布对 AI 芯片行业有何影响?
Jalapeño 展示了 AI 公司自研芯片的可行性,可能削弱英伟达 CUDA 的护城河,并推动芯片定义权从传统芯片公司流向 AI 公司,加剧行业竞争。
Jalapeño 芯片的研发周期是多久?
Jalapeño 项目 2024 年年中启动,2025 年 11 月流片,前后约 16 个月;流片后 9 个月、点亮仅 3 个月就交出性能数据。
Jalapeño 芯片的部署计划是什么?
今年年底 Jalapeño 将开始进入自有算力基础设施部署,下一个目标是 100MW 规模。