量子位
·
最新英伟达经济学：每美元性能是AMD的15倍，“买越多省越多”是真的
内容提要
最新报告显示，英伟达在AI算力上每美元性能是AMD的15倍，尽管价格较高，但整体成本更低。MoE架构使英伟达在复杂推理模型中表现优越，显著提升性能和成本效益。
关键要点
-
英伟达在AI算力上每美元性能是AMD的15倍，尽管价格较高，但整体成本更低。
-
英伟达的MoE架构在复杂推理模型中表现优越，显著提升性能和成本效益。
-
报告基于SemiAnalysis Inference MAX的公开基准测试数据，覆盖了从密集模型到前沿MoE推理模型的全场景测试。
-
MoE架构通过将模型参数拆分成多个专家子网络，降低计算成本。
-
英伟达的GB200 NVL72通过NVLink连接多个GPU，突破了8卡系统的通信瓶颈。
-
在复杂模型上，英伟达的性能优势愈加明显，尤其是在前沿推理模型DeepSeek-R1上。
-
尽管GB200 NVL72的价格是MI355X的1.86倍，但在性能上仍然具有显著优势。
-
报告指出，英伟达平台的成本只有AMD的十五分之一，尤其在高交互性条件下。
-
AMD在密集模型和容量驱动场景下仍有竞争力，但英伟达的端到端平台设计已成为成本效益的决定性因素。
延伸问答
英伟达的AI算力性能与AMD相比如何？
英伟达在AI算力上每美元性能是AMD的15倍，尽管价格较高，但整体成本更低。
什么是MoE架构，它如何影响AI模型的性能？
MoE架构通过将模型参数拆分成多个专家子网络，使得每个token只激活一小部分，从而降低计算成本并提升性能。
英伟达的GB200 NVL72与AMD的MI355X在价格和性能上有什么区别？
GB200 NVL72的价格是MI355X的1.86倍，但在性能上具有显著优势，尤其在复杂模型上表现更佳。
在复杂模型上，英伟达的性能优势有多明显？
在复杂模型DeepSeek-R1上，GB200 NVL72的性能是MI355X的28倍，显示出英伟达在高强度推理生成中的明显优势。
英伟达的Dynamo推理框架有什么特点？
Dynamo推理框架通过分离式预填充-解码调度和动态KV缓存路由，有效突破了8卡系统的通信瓶颈。
AMD在AI算力市场的竞争力如何？
尽管英伟达占据优势，AMD在密集模型和容量驱动场景下仍有竞争力，且正在开发新的解决方案Helios以缩小差距。
