Amazon EC2 P6e-GB200 UltraServers 正式发布,由 NVIDIA Grace Blackwell GPU 提供支持

Amazon EC2 P6e-GB200 UltraServers 正式发布,由 NVIDIA Grace Blackwell GPU 提供支持

💡 原文中文,约2300字,阅读约需6分钟。
📝

内容提要

Amazon EC2 P6e-GB200 UltraServers 正式发布,搭载 NVIDIA GB200 NVL72 加速器,支持多达 72 个 GPU,提供高达 28.8 Tbps 的网络带宽,适合大规模 AI 训练和推理任务。

🎯

关键要点

  • Amazon EC2 P6e-GB200 UltraServers 正式发布,搭载 NVIDIA GB200 NVL72 加速器,支持多达 72 个 GPU。
  • 该服务器提供高达 28.8 Tbps 的网络带宽,适合大规模 AI 训练和推理任务。
  • NVIDIA Grace Blackwell 超级芯片采用 NVLink-C2C 互连技术,提供 10 千亿次浮点运算的 FP8 计算能力和高达 372 GB 的 HBM3e 内存。
  • 通过 EC2 P6e-GB200 UltraServers,用户可在一个 NVLink 域内使用多达 72 个 NVIDIA Blackwell GPU,获得 360 千亿次浮点运算的 FP8 计算能力。
  • EC2 P6e-GB200 UltraServers 支持多种配置选择,适用于计算和内存密集型 AI 工作负载。
  • 用户可以构建智能代理式和生成式人工智能应用程序,涵盖多个领域。
  • EC2 P6e-GB200 UltraServers 现已在达拉斯本地扩展区推出,用户可通过 EC2 控制台预留容量块。
  • 成功预订容量块后,用户可使用 AWS 管理控制台、AWS CLI 或 AWS SDK 运行实例。
  • EC2 P6e-GB200 UltraServers 可与各种 AWS 托管服务无缝集成。

延伸问答

Amazon EC2 P6e-GB200 UltraServers 的主要特点是什么?

该服务器搭载 NVIDIA GB200 NVL72 加速器,支持多达 72 个 GPU,提供高达 28.8 Tbps 的网络带宽,适合大规模 AI 训练和推理任务。

EC2 P6e-GB200 UltraServers 适合哪些类型的工作负载?

适合计算和内存密集型 AI 工作负载,如训练和推理前沿模型,包括混合专家模型和推理模型。

如何预订 EC2 P6e-GB200 UltraServers 的容量块?

用户可以在 Amazon EC2 控制台选择容量预留,购买适用于 ML 的容量块,并指定需要的时长。

EC2 P6e-GB200 UltraServers 的计算能力如何?

在一个 NVLink 域内使用多达 72 个 NVIDIA Blackwell GPU,获得 360 千亿次浮点运算的 FP8 计算能力。

EC2 P6e-GB200 UltraServers 如何与其他 AWS 服务集成?

该服务器可以与各种 AWS 托管服务无缝集成,支持用户构建智能代理式和生成式人工智能应用程序。

NVIDIA Grace Blackwell 超级芯片的特点是什么?

采用 NVLink-C2C 互连技术,提供 10 千亿次浮点运算的 FP8 计算能力和高达 372 GB 的 HBM3e 内存。

➡️

继续阅读