NVIDIA Blog ·

微软Azure推出全球首个NVIDIA GB300 NVL72超级计算集群，专为OpenAI设计

💡 原文英文，约700词，阅读约需3分钟。

📝

内容提要

微软Azure推出NDv6 GB300虚拟机系列，搭载NVIDIA GB300 NVL72系统，专为OpenAI的AI推理工作负载设计，集群拥有4600多块GPU，提升推理和训练能力，巩固美国在AI领域的领导地位。

🎯

微软Azure推出NDv6 GB300虚拟机系列，专为OpenAI的AI推理工作负载设计。
该集群拥有4600多块NVIDIA Blackwell Ultra GPU，提升推理和训练能力。
微软与NVIDIA的深度合作推动了AI基础设施的发展，巩固美国在AI领域的领导地位。
NDv6 GB300系统集成72个NVIDIA Blackwell Ultra GPU和36个NVIDIA Grace CPU，提供37TB内存和1.44 exaflops性能。
NVIDIA Blackwell Ultra平台在训练和推理方面表现优异，MLPerf Inference v5.1基准测试中表现出色。
集群使用NVIDIA Quantum-X800 InfiniBand平台，确保4608个GPU之间的无缝通信。
微软Azure的集群采用先进的自适应路由和性能隔离技术，提升大规模训练和推理的效率。
这一里程碑标志着AI基础设施建设的重要进展，未来将推动更多创新。

🔎

微软Azure推出的NDv6 GB300虚拟机系列标志着AI基础设施建设的重要里程碑。这一超级计算集群不仅提升了推理和训练能力，还为未来的AI创新奠定了基础，可能会推动更多前沿技术的出现。

微软与NVIDIA的紧密合作使得这一超级计算集群的实现成为可能。通过优化内存和网络架构，双方共同推动了AI基础设施的发展，为OpenAI等客户提供了前所未有的计算能力和速度。

NDv6 GB300系统采用了先进的液冷技术和NVIDIA Quantum-X800 InfiniBand网络架构，确保了4600多个GPU之间的高效通信。这种设计不仅提升了性能，还为大规模AI模型的训练和推理提供了必要的支持。

❓

NDv6 GB300虚拟机系列专为OpenAI的AI推理工作负载设计，集成4600多块NVIDIA Blackwell Ultra GPU，提供高效的推理和训练能力。

NVIDIA GB300 NVL72系统每个虚拟机提供1.44 exaflops的FP4 Tensor Core性能和37TB内存，适合大规模AI模型的训练和推理。

微软与NVIDIA的深度合作推动了AI基础设施的发展，确保美国在AI领域的领导地位，并为OpenAI等客户提供了前所未有的基础设施规模和速度。

NVIDIA Blackwell Ultra平台在MLPerf Inference v5.1基准测试中表现优异，提供了高达5倍的推理吞吐量。

集群使用NVIDIA Quantum-X800 InfiniBand平台，提供800 Gb/s的带宽，确保4608个GPU之间的无缝通信。

NDv6 GB300系统通过集成大量GPU和CPU，提供统一的内存空间，支持复杂的推理模型和生成式AI的高效训练。

🏷️