NVIDIA Blog
·
Oracle云基础设施扩展NVIDIA GPU加速实例以支持AI、数字孪生等应用
💡
原文英文，约1100词，阅读约需4分钟。
📝
内容提要
Oracle云基础设施（OCI）宣布推出NVIDIA L40S GPU裸金属实例和由NVIDIA H100 Tensor Core GPU加速的新虚拟机。L40S GPU专为生成式AI、图形和视频应用而设计。OCI提供BM.GPU.L40S.4裸金属计算形态，并即将推出VM.GPU.H100.1计算虚拟机形态。配备NVIDIA Grace Hopper Superchip和NVLink-C2C的BM.GPU.GH200计算形态可供客户测试。企业可以在OCI Marketplace上使用NVIDIA NIM微服务最大化GPU加速实例的潜力。
🎯
关键要点
- Oracle云基础设施（OCI）推出NVIDIA L40S GPU裸金属实例和新虚拟机，满足企业对生成式AI和图形应用的需求。
- NVIDIA L40S GPU专为多工作负载加速设计，支持FP8数据格式，适合训练和推理小到中型语言模型。
- L40S GPU在实时光线追踪性能上比前代产品提高了3.8倍，支持NVIDIA DLSS 3，适合开发高级3D应用。
- OCI提供BM.GPU.L40S.4裸金属计算形态，配备四个NVIDIA L40S GPU和高效的服务器架构。
- OCI超级集群与NVIDIA L40S结合，提供高达800Gbps的节点间带宽，适合AI训练等高吞吐量工作负载。
- 即将推出的VM.GPU.H100.1虚拟机形态将提供单个NVIDIA H100 GPU的按需访问，适合小型工作负载和LLM推理。
- BM.GPU.GH200计算形态现已可供客户测试，配备NVIDIA Grace Hopper Superchip，提供高达10倍的性能提升。
- NVIDIA NIM微服务可在OCI Marketplace上使用，帮助企业优化AI模型推理，提升开发效率和安全性。
- 未来将推出更多GPU加速实例，包括NVIDIA H200和Blackwell GPU，持续提升性能。
❓
延伸问答
Oracle云基础设施推出了哪些新的GPU加速实例？
Oracle云基础设施推出了NVIDIA L40S GPU裸金属实例和即将推出的NVIDIA H100 Tensor Core GPU加速的新虚拟机。
NVIDIA L40S GPU的主要特点是什么？
NVIDIA L40S GPU专为生成式AI、图形和视频应用设计，支持FP8数据格式，具有出色的多工作负载加速能力。
OCI的BM.GPU.L40S.4裸金属计算形态有什么配置？
BM.GPU.L40S.4配置四个NVIDIA L40S GPU，每个GPU有48GB GDDR6内存，配备112核的4代Intel Xeon CPU和1TB系统内存。
NVIDIA NIM微服务在OCI Marketplace上有什么作用？
NVIDIA NIM微服务帮助企业优化AI模型推理，提升开发效率和安全性，支持高性能AI应用的部署。
即将推出的VM.GPU.H100.1虚拟机适合哪些工作负载？
VM.GPU.H100.1虚拟机适合小型工作负载和LLM推理，提供按需访问NVIDIA H100 GPU的能力。
OCI超级集群与NVIDIA L40S结合的优势是什么？
OCI超级集群与NVIDIA L40S结合提供高达800Gbps的节点间带宽，适合高吞吐量的AI训练工作负载。
➡️
