突破新高度：NVIDIA MLPerf Training 结果展示前所未有的性能与弹性
内容提要
NVIDIA在MLPerf Training v4.0基准测试中取得了出色的性能，与去年相比，在大型语言模型（LLM）基准测试中性能提高了三倍。AI超级计算机配备了11,616个NVIDIA H100 Tensor Core GPU和NVIDIA Quantum-2 InfiniBand网络，为此做出了贡献。NVIDIA H200 Tensor GPU的性能也提高了最多47%。软件优化和增强进一步提升了性能。NVIDIA在LLM微调和加速稳定扩散v2训练方面表现出色。NVIDIA平台得到了10个合作伙伴的广泛生态系统支持。MLCommons的基准测试对于AI计算至关重要。NVIDIA的Blackwell平台承诺提供下一级别的AI性能。
延伸解读
性能提升背后的规模与软件优化
NVIDIA在MLPerf Training v4.0中LLM基准性能提升三倍，主要得益于计算规模扩大至11,616个H100 GPU，以及全栈软件优化。例如，512 H100配置的性能比一年前提升27%，表明软件持续优化能显著提升相同硬件的性能。这种规模扩展和软件增强共同推动了性能突破。
H200 GPU的显着性能提升
NVIDIA H200 Tensor GPU在MLPerf Training首次亮相中，性能比H100提升高达47%。H200基于Hopper架构，配备141GB HBM3内存和超过40%的内存带宽提升，使其在AI训练任务中表现更优。这一提升为生成式AI和HPC应用提供了更强算力。
LLM微调与生成式AI训练加速
MLPerf新增LLM微调基准，基于LoRA技术对Meta Llama 2 70B进行微调。NVIDIA平台在8到1,024 GPU上扩展，最大规模提交在1.5分钟内完成。同时，Stable Diffusion v2训练性能提升80%，显示NVIDIA在生成式AI工作负载上的全面优化。
生态系统支持与未来展望
10家NVIDIA合作伙伴提交了MLPerf结果，包括ASUS、Dell、Fujitsu等，表明NVIDIA AI平台被广泛采用。MLCommons基准测试为企业采购提供关键数据。即将推出的Blackwell平台承诺为万亿参数生成式AI模型提供下一级性能，值得关注。
Q&A
NVIDIA在MLPerf Training v4.0基准测试中取得了什么样的成绩？
NVIDIA在MLPerf Training v4.0基准测试中，LLM基准测试性能提高了三倍。
NVIDIA H200 Tensor GPU的性能提升了多少？
NVIDIA H200 Tensor GPU的性能提高了最多47%。
NVIDIA在LLM微调方面的表现如何？
NVIDIA在LLM微调方面表现优异，最大规模提交在1.5分钟内完成基准测试。
NVIDIA的AI超级计算机配置了多少个GPU？
NVIDIA的AI超级计算机配备了11,616个NVIDIA H100 Tensor Core GPU。
NVIDIA的Stable Diffusion v2训练性能提升了多少？
NVIDIA加速了Stable Diffusion v2训练性能，提升幅度达到80%。
MLCommons在AI计算中的作用是什么？
MLCommons的基准测试对AI计算至关重要，提供重要的数据支持企业决策。
