量子位
·
英伟达年终核弹！全新B300为o1推理大模型打造，RTX5090也曝光了
内容提要
英伟达推出B300和GB300芯片，算力和显存提升50%。B300系列显存从192GB升级至288GB，适合OpenAI推理大模型，显著提高处理效率。同时，RTX5090显卡曝光，预计支持32GB显存和8K游戏。
关键要点
-
英伟达推出B300和GB300芯片，算力和显存均提升50%。
-
B300系列显存从192GB升级至288GB，适合OpenAI推理大模型。
-
B300的算力提升主要来自工艺节点、功率增加和架构微创新。
-
GB300系列将只提供参考板，组件需客户自行采购，给供应链带来新机会。
-
显存升级对推理大模型至关重要，能降低推理成本和延迟。
-
内存增加实现3倍性能提升，成本减少3倍，超越摩尔定律。
-
英伟达RTX5090显卡曝光，预计支持32GB显存和8K游戏。
延伸解读
显存升级的重要性
B300系列显存从192GB提升至288GB，对推理大模型至关重要。显存的增加不仅能降低推理成本和延迟，还能提升模型的处理能力，尤其是在高batch size下，能够处理更长的思维链。这一变化将显著改善用户体验，尤其是在需要快速响应的应用场景中。
供应链新机遇
GB300系列将只提供参考板，组件需客户自行采购，这为OEM和ODM制造商带来了新的机会。这样的变化可能会促使更多的定制化解决方案出现，推动整个行业的创新和竞争。同时，客户在选择组件时也需更加谨慎，以确保兼容性和性能。
与竞争对手的比较
英伟达的B300系列在显存和算力上均有显著提升，尤其是在与AMD MI300系列的竞争中，B300的升级显然是对市场需求的快速响应。虽然其他公司也在提升内存，但英伟达凭借其NVLink技术，仍然在高性能计算领域保持领先地位。
延伸问答
B300芯片的显存提升了多少？
B300系列显存从192GB提升至288GB。
B300芯片的算力提升主要来源于哪些方面？
算力提升主要来自工艺节点、功率增加和架构微创新。
GB300系列与B300系列的主要区别是什么？
GB300系列只提供参考板，组件需客户自行采购，而B300系列则集成更多组件。
显存的升级对推理大模型有什么影响？
显存升级能降低推理成本和延迟，提升处理效率。
RTX5090显卡的显存和游戏支持情况如何？
RTX5090预计支持32GB显存和8K游戏。
B300芯片的内存带宽是多少？
B300系列的显存带宽为8TB/s。
