Oracle云基础设施扩展NVIDIA GPU加速实例以支持AI、数字孪生等应用

Oracle云基础设施扩展NVIDIA GPU加速实例以支持AI、数字孪生等应用

💡 原文英文,约1100词,阅读约需4分钟。
📝

内容提要

Oracle云基础设施(OCI)宣布推出NVIDIA L40S GPU裸金属实例和由NVIDIA H100 Tensor Core GPU加速的新虚拟机。L40S GPU专为生成式AI、图形和视频应用而设计。OCI提供BM.GPU.L40S.4裸金属计算形态,并即将推出VM.GPU.H100.1计算虚拟机形态。配备NVIDIA Grace Hopper Superchip和NVLink-C2C的BM.GPU.GH200计算形态可供客户测试。企业可以在OCI Marketplace上使用NVIDIA NIM微服务最大化GPU加速实例的潜力。

🎯

关键要点

  • Oracle云基础设施(OCI)推出NVIDIA L40S GPU裸金属实例和新虚拟机,满足企业对生成式AI和图形应用的需求。
  • NVIDIA L40S GPU专为多工作负载加速设计,支持FP8数据格式,适合训练和推理小到中型语言模型。
  • L40S GPU在实时光线追踪性能上比前代产品提高了3.8倍,支持NVIDIA DLSS 3,适合开发高级3D应用。
  • OCI提供BM.GPU.L40S.4裸金属计算形态,配备四个NVIDIA L40S GPU和高效的服务器架构。
  • OCI超级集群与NVIDIA L40S结合,提供高达800Gbps的节点间带宽,适合AI训练等高吞吐量工作负载。
  • 即将推出的VM.GPU.H100.1虚拟机形态将提供单个NVIDIA H100 GPU的按需访问,适合小型工作负载和LLM推理。
  • BM.GPU.GH200计算形态现已可供客户测试,配备NVIDIA Grace Hopper Superchip,提供高达10倍的性能提升。
  • NVIDIA NIM微服务可在OCI Marketplace上使用,帮助企业优化AI模型推理,提升开发效率和安全性。
  • 未来将推出更多GPU加速实例,包括NVIDIA H200和Blackwell GPU,持续提升性能。
➡️

继续阅读