💡
原文中文,约600字,阅读约需2分钟。
📝
内容提要
Super Micro Computer, Inc.(SMCI)宣布其NVIDIA HGX B200 8-GPU系统在MLPerf Inference v5.0基准测试中表现优异,液冷和风冷系统的性能超过H200系统3倍,新冷却技术显著提升了冷却能力,支持更高密度和性能。
🎯
关键要点
- Super Micro Computer, Inc.(SMCI)宣布其NVIDIA HGX B200 8-GPU系统在MLPerf Inference v5.0基准测试中表现优异。
- 液冷和风冷系统的性能超过H200系统3倍。
- 新冷却技术显著提升了冷却能力,支持更高密度和性能。
- Supermicro在Llama2-70B和Llama3.1-405B基准测试中展示了每秒生成令牌数超过3倍的效果。
- Supermicro是唯一一家发布风冷和液冷NVIDIA HGX B200 8-GPU系统MLPerf推理性能记录的系统供应商。
- 新开发的冷板和250千瓦冷却剂分配单元的冷却能力比上一代产品提高了一倍多。
- 新型风冷10U NVIDIA HGX B200系统采用重新设计的机箱,具有更大的散热空间。
- 最多4个全新10U风冷系统可以安装并完全集成到机架中,提供高达15倍的推理和3倍的训练性能。
➡️