💡
原文中文,约2300字,阅读约需6分钟。
📝
内容提要
Amazon EC2 P6e-GB200 UltraServers 正式发布,搭载 NVIDIA GB200 NVL72 加速器,支持多达 72 个 GPU,提供高达 28.8 Tbps 的网络带宽,适合大规模 AI 训练和推理任务。
🎯
关键要点
- Amazon EC2 P6e-GB200 UltraServers 正式发布,搭载 NVIDIA GB200 NVL72 加速器,支持多达 72 个 GPU。
- 该服务器提供高达 28.8 Tbps 的网络带宽,适合大规模 AI 训练和推理任务。
- NVIDIA Grace Blackwell 超级芯片采用 NVLink-C2C 互连技术,提供 10 千亿次浮点运算的 FP8 计算能力和高达 372 GB 的 HBM3e 内存。
- 通过 EC2 P6e-GB200 UltraServers,用户可在一个 NVLink 域内使用多达 72 个 NVIDIA Blackwell GPU,获得 360 千亿次浮点运算的 FP8 计算能力。
- EC2 P6e-GB200 UltraServers 支持多种配置选择,适用于计算和内存密集型 AI 工作负载。
- 用户可以构建智能代理式和生成式人工智能应用程序,涵盖多个领域。
- EC2 P6e-GB200 UltraServers 现已在达拉斯本地扩展区推出,用户可通过 EC2 控制台预留容量块。
- 成功预订容量块后,用户可使用 AWS 管理控制台、AWS CLI 或 AWS SDK 运行实例。
- EC2 P6e-GB200 UltraServers 可与各种 AWS 托管服务无缝集成。
❓
延伸问答
Amazon EC2 P6e-GB200 UltraServers 的主要特点是什么?
该服务器搭载 NVIDIA GB200 NVL72 加速器,支持多达 72 个 GPU,提供高达 28.8 Tbps 的网络带宽,适合大规模 AI 训练和推理任务。
EC2 P6e-GB200 UltraServers 适合哪些类型的工作负载?
适合计算和内存密集型 AI 工作负载,如训练和推理前沿模型,包括混合专家模型和推理模型。
如何预订 EC2 P6e-GB200 UltraServers 的容量块?
用户可以在 Amazon EC2 控制台选择容量预留,购买适用于 ML 的容量块,并指定需要的时长。
EC2 P6e-GB200 UltraServers 的计算能力如何?
在一个 NVLink 域内使用多达 72 个 NVIDIA Blackwell GPU,获得 360 千亿次浮点运算的 FP8 计算能力。
EC2 P6e-GB200 UltraServers 如何与其他 AWS 服务集成?
该服务器可以与各种 AWS 托管服务无缝集成,支持用户构建智能代理式和生成式人工智能应用程序。
NVIDIA Grace Blackwell 超级芯片的特点是什么?
采用 NVLink-C2C 互连技术,提供 10 千亿次浮点运算的 FP8 计算能力和高达 372 GB 的 HBM3e 内存。
➡️