最新英伟达经济学:每美元性能是AMD的15倍,“买越多省越多”是真的

💡 原文中文,约2700字,阅读约需7分钟。
📝

内容提要

最新报告显示,英伟达在AI算力上每美元性能是AMD的15倍,尽管价格较高,但整体成本更低。MoE架构使英伟达在复杂推理模型中表现优越,显著提升性能和成本效益。

🎯

关键要点

  • 英伟达在AI算力上每美元性能是AMD的15倍,尽管价格较高,但整体成本更低。
  • 英伟达的MoE架构在复杂推理模型中表现优越,显著提升性能和成本效益。
  • 报告基于SemiAnalysis Inference MAX的公开基准测试数据,覆盖了从密集模型到前沿MoE推理模型的全场景测试。
  • MoE架构通过将模型参数拆分成多个专家子网络,降低计算成本。
  • 英伟达的GB200 NVL72通过NVLink连接多个GPU,突破了8卡系统的通信瓶颈。
  • 在复杂模型上,英伟达的性能优势愈加明显,尤其是在前沿推理模型DeepSeek-R1上。
  • 尽管GB200 NVL72的价格是MI355X的1.86倍,但在性能上仍然具有显著优势。
  • 报告指出,英伟达平台的成本只有AMD的十五分之一,尤其在高交互性条件下。
  • AMD在密集模型和容量驱动场景下仍有竞争力,但英伟达的端到端平台设计已成为成本效益的决定性因素。
➡️

继续阅读