原文中文,约600字,阅读约需2分钟。
📝
内容提要
Super Micro Computer, Inc.(SMCI)宣布其NVIDIA HGX B200 8-GPU系统在MLPerf Inference v5.0基准测试中表现优异,液冷和风冷系统的性能超过H200系统3倍,新冷却技术显著提升了冷却能力,支持更高密度和性能。
🎯
关键要点
-
Super Micro Computer, Inc.(SMCI)宣布其NVIDIA HGX B200 8-GPU系统在MLPerf Inference v5.0基准测试中表现优异。
-
液冷和风冷系统的性能超过H200系统3倍。
-
新冷却技术显著提升了冷却能力,支持更高密度和性能。
-
Supermicro在Llama2-70B和Llama3.1-405B基准测试中展示了每秒生成令牌数超过3倍的效果。
-
Supermicro是唯一一家发布风冷和液冷NVIDIA HGX B200 8-GPU系统MLPerf推理性能记录的系统供应商。
-
新开发的冷板和250千瓦冷却剂分配单元的冷却能力比上一代产品提高了一倍多。
-
新型风冷10U NVIDIA HGX B200系统采用重新设计的机箱,具有更大的散热空间。
-
最多4个全新10U风冷系统可以安装并完全集成到机架中,提供高达15倍的推理和3倍的训练性能。
🏷️