老黄200亿「钞能力」回应谷歌：联手Groq，补上推理短板

关键要点

• 英伟达以200亿美元收购Groq，以应对谷歌TPU的竞争。
• Groq的LPU在推理速度上优于GPU和TPU，但内存容量较小。
• LPU需要多颗芯片协同工作，整体硬件投资巨大。
• 市场对速度的需求持续增长，英伟达希望借此提升推理能力。
• 推理过程的prefill和decode对芯片能力有不同要求。
• Groq的LPU使用SRAM，速度比GPU快100倍，但内存容量较小。
• 谷歌通过自研TPU成功降低了对英伟达GPU的依赖。
• 推理芯片是高销量、低利润的市场，与GPU的高毛利率截然不同。