搭载NVIDIA B200的Supermicro系统性能优于上一代系统

搭载NVIDIA B200的Supermicro系统性能优于上一代系统

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

Super Micro Computer, Inc.(SMCI)宣布其NVIDIA HGX B200 8-GPU系统在MLPerf Inference v5.0基准测试中表现优异,液冷和风冷系统的性能超过H200系统3倍,新冷却技术显著提升了冷却能力,支持更高密度和性能。

🎯

关键要点

  • Super Micro Computer, Inc.(SMCI)宣布其NVIDIA HGX B200 8-GPU系统在MLPerf Inference v5.0基准测试中表现优异。
  • 液冷和风冷系统的性能超过H200系统3倍。
  • 新冷却技术显著提升了冷却能力,支持更高密度和性能。
  • Supermicro在Llama2-70B和Llama3.1-405B基准测试中展示了每秒生成令牌数超过3倍的效果。
  • Supermicro是唯一一家发布风冷和液冷NVIDIA HGX B200 8-GPU系统MLPerf推理性能记录的系统供应商。
  • 新开发的冷板和250千瓦冷却剂分配单元的冷却能力比上一代产品提高了一倍多。
  • 新型风冷10U NVIDIA HGX B200系统采用重新设计的机箱,具有更大的散热空间。
  • 最多4个全新10U风冷系统可以安装并完全集成到机架中,提供高达15倍的推理和3倍的训练性能。
➡️

继续阅读