微软Azure推出新款NVIDIA H100、H200 Tensor Core GPU实例，加速AI工作负载
💡
原文英文，约400词，阅读约需2分钟。
📝
内容提要
微软在Ignite大会上宣布将在Azure上推出新的NC H100 v5 VM系列，该系列是首个采用NVIDIA H100 NVL GPU的云实例。微软还计划明年将NVIDIA H200 Tensor Core GPU加入Azure，以支持更大规模的模型推理。这将进一步扩大NVIDIA加速的生成式AI计算在Azure上的可用性。
🎯
关键要点
- 微软在Ignite大会上宣布推出新的NC H100 v5 VM系列，首个采用NVIDIA H100 NVL GPU的云实例。
- 新系列结合了两块通过NVIDIA NVLink连接的PCIe H100 GPU，提供近4 petaflops的AI计算能力和188GB的更快HBM3内存。
- NVIDIA H100 NVL GPU在GPT-3 175B上的性能比前一代提高了12倍，适合推理和主流训练工作负载。
- 微软计划明年将NVIDIA H200 Tensor Core GPU加入Azure，以支持更大规模的模型推理，且不会增加延迟。
- H200 GPU在内存容量和带宽上有显著提升，提供141GB的HBM3e内存和4.8 TB/s的峰值内存带宽。
- 微软还推出了NCC H100 v5实例，允许客户在使用过程中保护数据和应用的机密性和完整性。
- 这些NVIDIA H100 Tensor Core GPU的机密虚拟机将很快进入私人预览阶段。
➡️
