HAMi是CNCF孵化项目,用于Kubernetes GPU共享。Kubernetes DRA(动态资源分配)自v1.34起GA,支持可消耗容量,使调度器原生处理GPU切片请求,但仅跟踪承诺,不执行运行时限制。HAMi保留其核心执行层(拦截CUDA调用),并推出HAMi-DRA驱动和webhook,将传统扩展资源转换为DRA声明,实现向后兼容。两者互补,DRA负责调度,HAMi-core负责强制限制,生产环境需按版本和供应商选择模式。
Kubernetes 1.34引入动态资源分配(DRA),通过CEL表达式让工作负载按需选择GPU(如内存、型号、MIG切片或NVLink连接),替代传统节点标签和硬编码,解决异构GPU集群中调度不均、资源浪费问题,简化运维并提升效率。
本文介绍了如何在 DRA 模式下使用 Kueue 管理 GPU 配额。首先,创建 Kubernetes 集群并安装 GPU Operator 和 Kueue。接着,接入 NVIDIA DRA Driver,配置 Kueue 映射资源。通过 ResourceClaimTemplate 申请整卡 GPU,Kueue 负责准入管理,确保资源分配合理。最后,强调 Kueue 与 DRA 的配合,以确保 GPU 资源的有效利用。
本文介绍了如何从零开发自定义 DRA 驱动 i-dra-driver,比较了 DevicePlugin 和 DRA 的实现差异,强调 DRA 在设备发现、调度参与和设备注入方面的优势。DRA 通过 ResourceSlice API 提供更丰富的设备信息,支持全局调度,遵循开放标准,简化了驱动开发者的工作。
DRA工作流程包括六个阶段:设备注册、分类定义、用户需求声明、调度器分配、设备准备与注入、Pod运行与清理。DRA Driver通过NVML扫描GPU并注册到Kubelet,用户创建Pod和ResourceClaim,调度器选择并分配设备。Kubelet负责准备设备并注入到容器,Pod终止后进行清理。DRA简化了设备管理流程,调度器负责分配决策。
本文介绍了Kubernetes上HAMi DRA模式的安装与使用。HAMi是一个开源GPU虚拟化平台,能够将物理GPU细分为多个虚拟GPU供不同Pod共享。DRA模式通过调度器动态分配资源,解决资源不足的问题。用户可选择手动创建ResourceClaim的原生模式或使用兼容模式自动转换资源申请,简化迁移过程。文章详细描述了安装步骤、验证方法及两种模式的区别。
DRA(设备资源管理)通过ResourceSlice、DeviceClass和ResourceClaim三个API对象实现资源的灵活管理与申请。ResourceSlice提供设备信息,DeviceClass定义设备分类,ResourceClaim描述用户需求。DRA的设计思路与CSI相似,支持GPU共享和精确资源分配,优化了Kubernetes中的设备管理流程。
HAMi v2.9.0 正式发布,增强了异构设备的虚拟化和调度能力。新特性包括用户态虚拟化、生产就绪的 HAMi-DRA、增强的安全性和稳定性,以及对瀚博半导体设备的支持。HAMi-core 模式实现了显存与算力的细粒度共享,提升了资源利用率,已在招商银行验证。此外,该版本还更新了可观测性和安全性功能,推动了 DRA 生态联盟的发展。
DRA(动态资源分配)是Kubernetes为克服DevicePlugin局限性而推出的新框架,允许用户精确申请GPU资源,调度器能够获取设备详细信息,避免调度冲突。DRA支持资源预留和共享,提升了资源管理的灵活性和效率,通过ResourceSlice和DeviceClass实现了对设备属性的全面描述,标志着Kubernetes在资源管理上的重大进步。
KCD Beijing 2026 是大型 Kubernetes 社区大会,HAMi 社区介绍了 GPU 调度的 DRA 模型,强调 GPU 从“设备”转变为“资源对象”。DRA 提升了资源建模能力,但用户体验有所下降。HAMi-DRA 通过自动化迁移简化用户操作,提高了 Pod 创建速度和可观测性,推动了 AI 基础设施的发展。
The Azure Kubernetes Service team shared a detailed guide on how to use Dynamic Resource Allocation (DRA) with NVIDIA vGPU technology on AKS. This update improves control and efficiency for shared...
随着数据中心电力和硬件成本上升,组织们在Kubernetes上运行AI项目时寻求提高效率。Cloud Native Computing Foundation推出了Kubernetes调度器的增强功能DRA,允许用户更精确地分配资源,通过新的API提供设备属性,优化资源调度,提升GPU和CPU集群的性能。
Kubernetes v1.34引入动态资源分配(DRA),支持跨多个Pod和容器的设备共享。用户可根据需求请求特定设备并定义自定义配置,允许多个资源请求共享同一设备,从而提升资源管理的灵活性和效率,适用于带宽等动态资源分配场景。
Kubernetes v1.34引入了新的alpha功能,允许Pods报告设备健康状态,增强了对GPU等硬件故障的可见性。通过DRA驱动,Kubelet能够接收设备健康更新,帮助快速诊断问题,减少停机时间,为后续改进奠定基础。
动态资源分配(DRA)是Kubernetes的新特性,旨在提高GPU等专用硬件的管理效率。与传统设备插件架构相比,DRA支持动态资源分配、共享和细粒度配置,解决了资源利用不足的问题。通过新API对象如资源声明和设备类别,DRA优化了资源调度和管理,以适应现代工作负载需求。
Kubernetes v1.34正式发布,动态资源分配(DRA)核心功能上线,提供灵活的硬件管理框架。多个功能升级至beta,增强资源管理的控制和可观察性。新特性包括设备共享模型和资源健康状态监控,未来将持续优化DRA的性能和可靠性。
Kubernetes v1.33引入了动态资源分配(DRA)新功能,DRA在v1.32进入beta,计划在v1.34正式发布。新特性包括驱动程序资源状态报告、可分区设备、设备污点与容忍、优先设备列表等,提升了设备管理的灵活性和用户体验。
Kubernetes v1.31.0引入了AI/ML工作负载处理和网络方面的改进。它允许开发人员通过更改OCI镜像轻松更改语言模型。它还改进了硬件设备信息,并引入了设备资源分配(DRA)功能的支持。在网络方面,它通过新的nftables bucket增强了Kube-proxy,以提高性能。DRA标准化了硬件设备的分配和管理。其他改进包括对AppArmor的支持、持久卷最后阶段转换时间以及服务的流量分配。
完成下面两步后,将自动完成登录并继续当前操作。