宣布推出由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 加速的 Amazon EC2 G7e 实例

宣布推出由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 加速的 Amazon EC2 G7e 实例

💡 原文中文,约2200字,阅读约需6分钟。
📝

内容提要

亚马逊正式发布 EC2 G7e 实例,采用 NVIDIA RTX PRO 6000 Blackwell GPU,显著提升生成式人工智能和图形工作负载的性能。与 G6e 实例相比,推理性能提升高达 2.3 倍,支持更大模型和多 GPU 任务,网络带宽提升四倍。G7e 实例现已在美国东部地区上线,适用于机器学习工作负载。

🎯

关键要点

  • 亚马逊正式发布 EC2 G7e 实例,采用 NVIDIA RTX PRO 6000 Blackwell GPU。

  • G7e 实例的推理性能相比 G6e 实例提升高达 2.3 倍。

  • G7e 实例支持更大模型和多 GPU 任务,网络带宽提升四倍。

  • G7e 实例的 GPU 内存容量是 G6e 实例的 2 倍,内存带宽是后者的 1.85 倍。

  • G7e 实例支持 NVIDIA GPUDirect P2P,降低多 GPU 工作负载的延迟。

  • G7e 实例提供的网络带宽是 G6e 实例的四倍,适用于小规模多节点工作负载。

  • G7e 实例配备多达 8 个 NVIDIA RTX PRO 6000 GPU,总内存高达 768 GB。

  • G7e 实例现已在美国东部地区上线,适用于机器学习工作负载。

延伸问答

EC2 G7e 实例的主要特点是什么?

EC2 G7e 实例采用 NVIDIA RTX PRO 6000 Blackwell GPU,推理性能提升高达 2.3 倍,支持更大模型和多 GPU 任务,网络带宽提升四倍。

G7e 实例相比 G6e 实例有哪些性能提升?

G7e 实例的推理性能提升高达 2.3 倍,GPU 内存容量是 G6e 实例的 2 倍,内存带宽是后者的 1.85 倍,网络带宽提升四倍。

G7e 实例适合哪些类型的工作负载?

G7e 实例适用于生成式人工智能推理、图形工作负载、空间计算和科学计算等各类支持 GPU 的工作负载。

如何开始使用 EC2 G7e 实例?

可以使用 AWS Deep Learning AMI 运行机器学习工作负载,通过 AWS 管理控制台、AWS CLI 或 AWS SDK 启动实例。

G7e 实例的网络带宽有多大?

G7e 实例的网络带宽最高可达 1600 Gbps,是 G6e 实例的四倍。

G7e 实例支持多少个 GPU?

G7e 实例最多支持 8 个 NVIDIA RTX PRO 6000 GPU,总内存可达 768 GB。

➡️

继续阅读