英伟达Vera Rubin NVL72在MLPerf Inference v6.1首次预览提交中领先，吞吐量最高达GB300 NVL72的3.7倍。GB300 NVL72四机架288 GPU实现99%扩展效率，软件优化较v6.0提升最高1.6倍。

微软和Oracle等云服务商正在大规模部署NVIDIA GB300 NVL72系统，以支持低延迟和长上下文的AI应用。NVIDIA Blackwell平台的广泛应用降低了每个token的成本，GB300 NVL72在低延迟和长上下文场景中表现优异，推动了AI编程助手的快速发展。