NVIDIA Blog
·
甲骨文云基础设施部署数千个NVIDIA Blackwell GPU以支持智能代理和推理模型
内容提要
甲骨文已优化首批液冷NVIDIA GB200 NVL72机架，部署数千个NVIDIA Blackwell GPU，以支持下一代推理模型和AI代理。OCI计划构建全球最大Blackwell集群，以满足日益增长的推理需求，多个客户已计划立即使用这些高效能系统。
关键要点
-
甲骨文已优化首批液冷NVIDIA GB200 NVL72机架，部署数千个NVIDIA Blackwell GPU。
-
这些系统支持下一代推理模型和AI代理，已准备好供客户使用。
-
OCI计划构建全球最大Blackwell集群，超越100,000个NVIDIA Blackwell GPU。
-
OCI的GB200部署包括高速度的NVIDIA Quantum-2 InfiniBand和NVIDIA Spectrum-X以实现可扩展、低延迟的性能。
-
OCI提供灵活的部署选项，支持公共、政府和客户自有数据中心的Blackwell使用。
-
多个客户，包括大型科技公司和政府机构，计划立即在OCI GB200系统上部署工作负载。
-
这些机架是NVIDIA DGX Cloud的首批系统，支持AI工作负载的开发和部署。
-
GB200 NVL72机架现已在DGX Cloud和OCI上上线并可用。
延伸解读
AI推理需求的增长
随着AI技术的快速发展，推理模型的需求急剧上升。甲骨文的GB200 NVL72机架部署数千个NVIDIA Blackwell GPU，旨在满足这一需求，尤其是在大型科技公司和政府机构中。这一趋势表明，企业在AI领域的投资将持续增加，推动相关基础设施的建设。
灵活的部署选项
甲骨文提供的灵活部署选项使得客户可以在公共云、政府云及自有数据中心中使用Blackwell GPU。这种多样化的选择不仅满足了不同客户的需求，也为企业在AI工作负载的开发和部署上提供了更多的灵活性和便利性。
高效能与低延迟的结合
GB200 NVL72机架结合了NVIDIA Quantum-2 InfiniBand和Spectrum-X以实现高速度和低延迟的性能。这种技术的应用使得AI推理过程更加高效，能够支持复杂的AI模型和应用，提升整体计算能力，适应未来的技术挑战。
延伸问答
甲骨文部署了多少个NVIDIA Blackwell GPU？
甲骨文部署了数千个NVIDIA Blackwell GPU。
OCI的GB200 NVL72机架有什么特点？
GB200 NVL72机架结合了36个NVIDIA Grace CPU和72个NVIDIA Blackwell GPU，提供卓越的性能和能效。
OCI计划如何满足推理需求？
OCI计划构建全球最大Blackwell集群，规模超过100,000个NVIDIA Blackwell GPU，以满足推理需求。
哪些客户计划使用OCI的GB200系统？
多个客户，包括大型科技公司、政府机构和区域云服务提供商，计划立即在OCI GB200系统上部署工作负载。
OCI的GB200部署如何实现低延迟性能？
OCI的GB200部署包括高速度的NVIDIA Quantum-2 InfiniBand和NVIDIA Spectrum-X，以实现可扩展、低延迟的性能。
GB200 NVL72机架的应用场景有哪些？
GB200 NVL72机架可用于训练推理模型、开发自动驾驶车辆、加速芯片设计和制造，以及开发AI工具。
