亚马逊AWS官方博客
·
宣布推出由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 加速的 Amazon EC2 G7e 实例
内容提要
亚马逊正式发布 EC2 G7e 实例，采用 NVIDIA RTX PRO 6000 Blackwell GPU，显著提升生成式人工智能和图形工作负载的性能。与 G6e 实例相比，推理性能提升高达 2.3 倍，支持更大模型和多 GPU 任务，网络带宽提升四倍。G7e 实例现已在美国东部地区上线，适用于机器学习工作负载。
关键要点
-
亚马逊正式发布 EC2 G7e 实例，采用 NVIDIA RTX PRO 6000 Blackwell GPU。
-
G7e 实例的推理性能相比 G6e 实例提升高达 2.3 倍。
-
G7e 实例支持更大模型和多 GPU 任务，网络带宽提升四倍。
-
G7e 实例的 GPU 内存容量是 G6e 实例的 2 倍，内存带宽是后者的 1.85 倍。
-
G7e 实例支持 NVIDIA GPUDirect P2P，降低多 GPU 工作负载的延迟。
-
G7e 实例提供的网络带宽是 G6e 实例的四倍，适用于小规模多节点工作负载。
-
G7e 实例配备多达 8 个 NVIDIA RTX PRO 6000 GPU，总内存高达 768 GB。
-
G7e 实例现已在美国东部地区上线，适用于机器学习工作负载。
延伸解读
性能提升的实际意义
EC2 G7e 实例的推理性能提升高达 2.3 倍，意味着用户在处理生成式人工智能和图形工作负载时，可以显著缩短计算时间。这对于需要快速迭代和实时反馈的应用场景，如自动驾驶、医疗影像分析等，具有重要的实际意义。
多 GPU 任务的优势
G7e 实例支持 NVIDIA GPUDirect P2P 技术，能够降低多 GPU 工作负载的延迟。这使得用户可以在处理超大模型时，将任务分配到多个 GPU 上，从而提高整体计算效率，适合需要高性能计算的科研和工业应用。
网络带宽的提升
G7e 实例的网络带宽是 G6e 实例的四倍，这对于小规模多节点工作负载尤为重要。用户在进行分布式计算时，可以更快地传输数据，减少通信延迟，从而提升整体系统的响应速度和效率。
适用场景与未来发展
G7e 实例适用于机器学习工作负载，尤其是需要处理大规模数据和复杂模型的场景。随着对 AI 和深度学习需求的不断增长，G7e 实例的推出将为企业和研究机构提供更强大的计算能力，推动相关技术的发展。
延伸问答
EC2 G7e 实例的主要特点是什么？
EC2 G7e 实例采用 NVIDIA RTX PRO 6000 Blackwell GPU，推理性能提升高达 2.3 倍，支持更大模型和多 GPU 任务，网络带宽提升四倍。
G7e 实例相比 G6e 实例有哪些性能提升？
G7e 实例的推理性能提升高达 2.3 倍，GPU 内存容量是 G6e 实例的 2 倍，内存带宽是后者的 1.85 倍，网络带宽提升四倍。
G7e 实例适合哪些类型的工作负载？
G7e 实例适用于生成式人工智能推理、图形工作负载、空间计算和科学计算等各类支持 GPU 的工作负载。
如何开始使用 EC2 G7e 实例？
可以使用 AWS Deep Learning AMI 运行机器学习工作负载，通过 AWS 管理控制台、AWS CLI 或 AWS SDK 启动实例。
G7e 实例的网络带宽有多大？
G7e 实例的网络带宽最高可达 1600 Gbps，是 G6e 实例的四倍。
G7e 实例支持多少个 GPU？
G7e 实例最多支持 8 个 NVIDIA RTX PRO 6000 GPU，总内存可达 768 GB。
