NVIDIA Blog
·
甲骨文云基础设施推出全新NVIDIA GPU加速计算实例
💡
原文英文，约700词，阅读约需3分钟。
📝
内容提要
Oracle Cloud Infrastructure宣布在OCI Compute上推出NVIDIA H100 Tensor Core GPU，可用于训练大型语言模型和推理。使用NVIDIA H100 GPU可获得高达30倍的AI推理性能和4倍的AI训练性能。OCI Compute裸金属实例将于今年晚些时候提供NVIDIA L40S GPU的早期访问，2024年初将正式推出。
🎯
关键要点
-
Oracle Cloud Infrastructure宣布在OCI Compute上推出NVIDIA H100 Tensor Core GPU，满足大型语言模型和推理的计算需求。
-
NVIDIA H100 GPU提供高达30倍的AI推理性能和4倍的AI训练性能。
-
OCI Compute裸金属实例将于2024年初正式推出NVIDIA L40S GPU，早期访问将在今年晚些时候提供。
-
OCI Compute的BM.GPU.H100.8实例包含八个NVIDIA H100 GPU，支持高性能计算和大规模AI工作负载。
-
OCI Supercluster允许组织根据工作负载的时间表和规模，从单节点扩展到数万个H100 GPU。
-
NVIDIA L40S GPU适用于数据中心，提供多工作负载加速，适合中小型AI工作负载和图形视频计算任务。
-
BM.GPU.L40S.4实例包含四个NVIDIA L40S GPU，适用于LLM训练、微调和推理等多种用例。
-
OCI与NVIDIA的合作使各类组织能够参与生成AI革命，提供先进的GPU加速基础设施。
-
最大化NVIDIA GPU在OCI Compute上的潜力需要优化的软件层，NVIDIA AI Enterprise提供支持服务和优化的开源容器。
➡️
