Amazon SageMaker HyperPod 引入对 Amazon EKS 的支持
原文中文，约4300字，阅读约需11分钟。
📝
内容提要
亚马逊宣布为基础模型开发的Amazon SageMaker HyperPod引入了对Amazon Elastic Kubernetes Service（EKS）的支持，使客户能够使用EKS来编排HyperPod集群。HyperPod有助于高效扩展到一千多个AI加速器上，将训练时间减少多达40%。增强的可观测性覆盖了整个集群的资源利用情况，有助于高效完成故障排除和优化。Amazon SageMaker HyperPod成为AI初创企业和希望高效训练及部署大规模模型的企业的首选解决方案。
❓
Q&A
Amazon SageMaker HyperPod 如何支持 Amazon EKS？
Amazon SageMaker HyperPod 引入了对 Amazon EKS 的支持，使客户能够使用 EKS 来编排 HyperPod 集群，结合 Kubernetes 的功能和 HyperPod 的韧性环境。
使用 Amazon SageMaker HyperPod 可以减少多少训练时间？
使用 Amazon SageMaker HyperPod 可以将训练时间减少多达 40%。
Amazon SageMaker HyperPod 提供哪些监控功能？
HyperPod 集成了 CloudWatch Observability，提供全面监控，包括 CPU、网络、硬盘等低级节点指标的洞察。
Amazon SageMaker HyperPod 的主要用户群体是谁？
主要用户群体包括 AI 初创企业和希望高效训练及部署大规模模型的企业。
如何在 Amazon SageMaker HyperPod 中实现自动节点恢复？
HyperPod 支持自动检测并修复故障实例，确保节点恢复功能的自动化。
Amazon SageMaker HyperPod 如何提高资源利用率？
HyperPod 允许在现有 EKS 集群上运行，支持动态扩展 FM 训练和推理工作负载，从而提高资源利用率。
🏷️
