💡
原文中文,约2200字,阅读约需6分钟。
📝
内容提要
亚马逊正式发布 EC2 G7e 实例,采用 NVIDIA RTX PRO 6000 Blackwell GPU,显著提升生成式人工智能和图形工作负载的性能。与 G6e 实例相比,推理性能提升高达 2.3 倍,支持更大模型和多 GPU 任务,网络带宽提升四倍。G7e 实例现已在美国东部地区上线,适用于机器学习工作负载。
🎯
关键要点
- 亚马逊正式发布 EC2 G7e 实例,采用 NVIDIA RTX PRO 6000 Blackwell GPU。
- G7e 实例的推理性能相比 G6e 实例提升高达 2.3 倍。
- G7e 实例支持更大模型和多 GPU 任务,网络带宽提升四倍。
- G7e 实例的 GPU 内存容量是 G6e 实例的 2 倍,内存带宽是后者的 1.85 倍。
- G7e 实例支持 NVIDIA GPUDirect P2P,降低多 GPU 工作负载的延迟。
- G7e 实例提供的网络带宽是 G6e 实例的四倍,适用于小规模多节点工作负载。
- G7e 实例配备多达 8 个 NVIDIA RTX PRO 6000 GPU,总内存高达 768 GB。
- G7e 实例现已在美国东部地区上线,适用于机器学习工作负载。
❓
延伸问答
EC2 G7e 实例的主要特点是什么?
EC2 G7e 实例采用 NVIDIA RTX PRO 6000 Blackwell GPU,推理性能提升高达 2.3 倍,支持更大模型和多 GPU 任务,网络带宽提升四倍。
G7e 实例相比 G6e 实例有哪些性能提升?
G7e 实例的推理性能提升高达 2.3 倍,GPU 内存容量是 G6e 实例的 2 倍,内存带宽是后者的 1.85 倍,网络带宽提升四倍。
G7e 实例适合哪些类型的工作负载?
G7e 实例适用于生成式人工智能推理、图形工作负载、空间计算和科学计算等各类支持 GPU 的工作负载。
如何开始使用 EC2 G7e 实例?
可以使用 AWS Deep Learning AMI 运行机器学习工作负载,通过 AWS 管理控制台、AWS CLI 或 AWS SDK 启动实例。
G7e 实例的网络带宽有多大?
G7e 实例的网络带宽最高可达 1600 Gbps,是 G6e 实例的四倍。
G7e 实例支持多少个 GPU?
G7e 实例最多支持 8 个 NVIDIA RTX PRO 6000 GPU,总内存可达 768 GB。
➡️