NVIDIA Blog
·
甲骨文云基础设施部署数千个NVIDIA Blackwell GPU以支持智能代理和推理模型
内容提要
甲骨文已优化首批液冷NVIDIA GB200 NVL72机架，部署数千个NVIDIA Blackwell GPU，以支持下一代推理模型和AI代理。OCI计划构建全球最大Blackwell集群，以满足日益增长的推理需求，多个客户已计划立即使用这些高效能系统。
关键要点
-
甲骨文已优化首批液冷NVIDIA GB200 NVL72机架，部署数千个NVIDIA Blackwell GPU。
-
这些系统支持下一代推理模型和AI代理，已准备好供客户使用。
-
OCI计划构建全球最大Blackwell集群，超越100,000个NVIDIA Blackwell GPU。
-
OCI的GB200部署包括高速度的NVIDIA Quantum-2 InfiniBand和NVIDIA Spectrum-X以实现可扩展、低延迟的性能。
-
OCI提供灵活的部署选项，支持公共、政府和客户自有数据中心的Blackwell使用。
-
多个客户，包括大型科技公司和政府机构，计划立即在OCI GB200系统上部署工作负载。
-
这些机架是NVIDIA DGX Cloud的首批系统，支持AI工作负载的开发和部署。
-
GB200 NVL72机架现已在DGX Cloud和OCI上上线并可用。
延伸问答
甲骨文部署了多少个NVIDIA Blackwell GPU？
甲骨文部署了数千个NVIDIA Blackwell GPU。
OCI的GB200 NVL72机架有什么特点？
GB200 NVL72机架结合了36个NVIDIA Grace CPU和72个NVIDIA Blackwell GPU，提供卓越的性能和能效。
OCI计划如何满足推理需求？
OCI计划构建全球最大Blackwell集群，规模超过100,000个NVIDIA Blackwell GPU，以满足推理需求。
哪些客户计划使用OCI的GB200系统？
多个客户，包括大型科技公司、政府机构和区域云服务提供商，计划立即在OCI GB200系统上部署工作负载。
OCI的GB200部署如何实现低延迟性能？
OCI的GB200部署包括高速度的NVIDIA Quantum-2 InfiniBand和NVIDIA Spectrum-X，以实现可扩展、低延迟的性能。
GB200 NVL72机架的应用场景有哪些？
GB200 NVL72机架可用于训练推理模型、开发自动驾驶车辆、加速芯片设计和制造，以及开发AI工具。
