OpenAI发布首款自研推理芯片Jalapeño,采用台积电N3P工艺,功耗700W,性能超越英伟达GB200/GB300,每瓦吞吐量提升1.5至1.9倍,延迟降低1.7至3.6倍。该芯片通过AI辅助设计缩短研发周期,并支持DeepSeek等非自家模型。此举标志AI芯片竞争加剧,小米、苹果等巨头纷纷布局,芯片定义权正流向AI公司。
OpenAI自研推理芯片“小辣椒”跑分超越英伟达Blackwell,能效和时延优势显著,但训练仍依赖英伟达。芯片由AI辅助设计,量产计划2027年启动。同时,OpenAI数据中心负责人离职,高管变动频繁,引发外界关注。
OpenAI发布自研推理芯片Jalapeño的首批性能数据,显示其能效和延迟优于现有加速器。该芯片专为AI代理设计,减少数据移动等待,在GPT-OSS等模型上吞吐量提升1.5至1.9倍,延迟降低1.7至3.6倍。OpenAI计划年底部署,并已研发下一代芯片。
OpenAI发布首款自研推理芯片Jalapeño,在InferenceX基准测试中,其峰值吞吐量和延迟优于商业系统,并兼容多种模型。通过整合芯片、软件和硬件,OpenAI提升效率并降低成本,同时构建多元化供应商组合以优化性能与价格。效率提升带来更多使用需求,形成技术、经济与投资的良性循环,推动持续创新。
OpenAI自研推理芯片Jalapeño性能显著,每瓦特可处理更多AI任务,延迟更低,无需在吞吐与延迟间取舍。在GPT-OSS、DeepSeek R1及Kimi K2.5等模型上,其每瓦性能提升1.5至1.9倍,端到端延迟降低1.7至3.6倍。芯片设计优化数据移动,并借助AI加速开发与编程。计划年底部署,为多代平台首代。
OpenAI发布了首款自研人工智能推理芯片“墨西哥辣椒”,与博通合作设计,开发周期仅9个月。该芯片旨在提升推理效率,优化数据移动、计算和内存资源,性能优于现有主流方案,标志着OpenAI向全栈人工智能基础设施的战略转型。
英伟达将在GTC大会上推出新推理芯片,首位客户为OpenAI。该芯片基于Groq团队的LPU架构,旨在提升推理效率,以应对市场需求变化。推理市场正在重塑,英伟达面临竞争压力,需迅速响应。
AI推理将成为主要计算负载,企业希望优化AI堆栈。d-Matrix开发的新型推理芯片采用异构架构,解决内存瓶颈,通过数字内存计算技术在内存单元内直接进行矩阵乘法,提高效率。d-Matrix计划与Nvidia Triton推理服务器集成,简化开发者使用,未来将实现GPU与其他加速器的混合部署。
马斯克的xAI正在研发代号为X1的推理芯片,采用台积电3纳米工艺,预计2026年量产。xAI计划在五年内实现5000万块H100算力,面临激烈竞争。同时,特斯拉也在推进AI5和AI6芯片设计,专注于性能和效率提升。
完成下面两步后,将自动完成登录并继续当前操作。