Oracle云基础设施扩展NVIDIA GPU加速实例以支持AI、数字孪生等应用
内容提要
Oracle云基础设施（OCI）宣布推出NVIDIA L40S GPU裸金属实例和由NVIDIA H100 Tensor Core GPU加速的新虚拟机。L40S GPU专为生成式AI、图形和视频应用而设计。OCI提供BM.GPU.L40S.4裸金属计算形态，并即将推出VM.GPU.H100.1计算虚拟机形态。配备NVIDIA Grace Hopper Superchip和NVLink-C2C的BM.GPU.GH200计算形态可供客户测试。企业可以在OCI Marketplace上使用NVIDIA NIM微服务最大化GPU加速实例的潜力。
延伸解读
L40S与H100的定位差异
OCI此次提供的L40S裸金属实例和即将推出的单H100虚拟机，面向不同需求。L40S擅长多工作负载，包括生成式AI、图形和视频，适合中小型模型训练和推理；而单H100虚拟机则提供按需访问，适合小型工作负载和LLM推理。企业可根据工作负载类型和规模选择，避免资源浪费。
裸金属与虚拟机的选择考量
BM.GPU.L40S.4裸金属形态消除了虚拟化开销，适合高吞吐和延迟敏感的AI/ML工作负载；而VM.GPU.H100.1虚拟机则提供成本效益和按需灵活性，适合较小任务。用户需权衡性能隔离、管理便捷性和成本，裸金属更适合大规模训练，虚拟机更适合推理和实验。
软件栈对GPU潜力的影响
文章强调，最大化GPU加速实例的潜力需要优化软件层。NVIDIA NIM微服务在OCI Marketplace上可用，提供预构建容器，可简化高性能AI模型推理的部署，提升开发效率和安全性。企业应关注软件与硬件的协同，以充分发挥GPU性能。
未来GPU路线图与投资保护
OCI计划推出更多GPU加速实例，包括NVIDIA H200和Blackwell GPU，性能将持续提升。这意味着企业当前的投资可能面临快速迭代，但OCI的持续更新也提供了升级路径。用户应评估长期需求，并关注新实例的可用性，以平衡性能与成本。
Q&A
Oracle云基础设施推出了哪些新的GPU加速实例？
Oracle云基础设施推出了NVIDIA L40S GPU裸金属实例和即将推出的NVIDIA H100 Tensor Core GPU加速的新虚拟机。
NVIDIA L40S GPU的主要特点是什么？
NVIDIA L40S GPU专为生成式AI、图形和视频应用设计，支持FP8数据格式，具有出色的多工作负载加速能力。
OCI的BM.GPU.L40S.4裸金属计算形态有什么配置？
BM.GPU.L40S.4配置四个NVIDIA L40S GPU，每个GPU有48GB GDDR6内存，配备112核的4代Intel Xeon CPU和1TB系统内存。
NVIDIA NIM微服务在OCI Marketplace上有什么作用？
NVIDIA NIM微服务帮助企业优化AI模型推理，提升开发效率和安全性，支持高性能AI应用的部署。
即将推出的VM.GPU.H100.1虚拟机适合哪些工作负载？
VM.GPU.H100.1虚拟机适合小型工作负载和LLM推理，提供按需访问NVIDIA H100 GPU的能力。
OCI超级集群与NVIDIA L40S结合的优势是什么？
OCI超级集群与NVIDIA L40S结合提供高达800Gbps的节点间带宽，适合高吞吐量的AI训练工作负载。
