New – Amazon EC2 P5 Instances Powered by NVIDIA H100 Tensor Core GPUs for Accelerating Generative AI and HPC Applications
原文约500字/词，阅读约需2分钟。发表于：。2023 年 3 月，AWS 和 NVIDIA 宣布了一项多部分合作，重点是构建最具可扩展性的按需人工智能 […]
AWS和NVIDIA合作推出了Amazon EC2 P5实例，采用NVIDIA H100 Tensor Core GPU，可提供高性能和可扩展性，训练时间最多可缩短6倍。P5实例适用于生成式人工智能应用程序和HPC工作负载，可加速训练和推理。P5实例还提供高带宽GPU内存、AMD EPYC处理器、本地存储空间等功能。可在EC2 UltraClusters中部署，提供更低的延迟和更大规模的机器学习基础设施。客户可以使用DLAMI、Amazon ECS、Amazon EKS和Amazon SageMaker等工具来运行容器化应用程序和训练模型。P5实例已在美国东部和美国西部区域推出。
