小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI
在 Amazon EKS 上共享 GPU:Time-Slicing、NVIDIA DRA 与 HAMi 的功能验证和选型建议

本文在 Amazon EKS 与 A10G 上实测三种 GPU 共享方案。Device Plugin Time-Slicing 部署简单,但无显存与算力隔离,双活跃时单服务吞吐约减半,显存超配会导致后启动服务失败。NVIDIA DRA 支持结构化设备发现与 Claim 生命周期管理,分时功能仍为 alpha 且无运行时隔离。HAMi 提供用户态显存配额与计算节流,可限制显存并触发 OOM,但属软件隔离,非 MIG 硬件隔离。建议可信、错峰负载用 Time-Slicing,需软件配额选 HAMi,关键业务独占 GPU。

在 Amazon EKS 上共享 GPU:Time-Slicing、NVIDIA DRA 与 HAMi 的功能验证和选型建议

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2026-11-03T05:46:36Z
KubeVirt的下一个十年

KubeVirt正从在Kubernetes上运行虚拟机,发展为更广泛的虚拟化生态。未来重点包括:用DRA统一分配GPU、网卡和CPU;支持机密虚拟机与远程证明;通过插件机制扩展核心功能;让虚拟化栈可插拔,以支持Cloud Hypervisor、Firecracker等替代方案。项目坚持Kubernetes原生和核心稳定原则,并推动成为CNCF毕业项目。

KubeVirt的下一个十年

The New Stack The New Stack · 2026-10-26T14:00:00Z
谁说云原生过时了?Kubernetes 等主流项目正在为 Agent 重做“地基”

云原生并未过时,而是被Agent倒逼重构地基。K8s调度单元从Pod升级为Workload,DRA成为GPU标准抽象;Agent Sandbox与Google AX/Substrate解决有状态、冷启动问题;网关从Header转向Payload处理;Cilium与OpenTelemetry补齐安全与可观测性。全栈正收敛于开放标准。

谁说云原生过时了?Kubernetes 等主流项目正在为 Agent 重做“地基”

Tony Bai Tony Bai · 2026-10-07T22:00:00Z
从参会者胸牌到演讲者胸牌:我在2026年印度KubeCon + CloudNativeCon的首次KubeCon之旅

作者首次参加KubeCon即登台演讲,与父亲Janakiram MSV分享在DGX Spark上搭建AI集群、用Kubernetes和DRA调度GPU的经验。他获得金Kubestronaut认证,成为印度最年轻完成者。他强调社区免费资源的价值,并结识Saiyam Pathak、Mumshad Mannambeth等人。他总结收获为信心、人脉与动力,鼓励新人提交CFP并参会。

从参会者胸牌到演讲者胸牌:我在2026年印度KubeCon + CloudNativeCon的首次KubeCon之旅

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-09-22T13:34:05Z
CPU + GPU:为何AI平台工程是一个异构基础设施问题

AI基础设施不应只关注GPU,而应视为CPU、内存、存储和网络协同工作的整体系统。平台团队需匹配各阶段资源需求,而非孤立优化GPU。通过Kubernetes及DRA等工具统一编排异构资源,并观察CPU到GPU的完整链路,以识别瓶颈。设计应围绕整个系统,而非单一组件,才能将算力转化为有效AI基础设施。

CPU + GPU:为何AI平台工程是一个异构基础设施问题

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-09-04T11:00:00Z

Kubernetes 1.37发布,动态资源分配(DRA)多项功能升级:扩展资源支持转正,设备污点与容忍稳定,新增标准NUMA属性。工作负载资源声明、设备属性向下API等进入Beta或Alpha。引入派生属性、兼容组、预排队提示等新特性,提升调度效率与灵活性,支持分数容量,推动DRA成熟。

Kubernetes v1.37:DRA 更新

Kubernetes Blog Kubernetes Blog · 2026-09-03T18:30:00Z
Kubernetes DRA会取代HAMi吗?

HAMi是CNCF孵化项目,用于Kubernetes GPU共享。Kubernetes DRA(动态资源分配)自v1.34起GA,支持可消耗容量,使调度器原生处理GPU切片请求,但仅跟踪承诺,不执行运行时限制。HAMi保留其核心执行层(拦截CUDA调用),并推出HAMi-DRA驱动和webhook,将传统扩展资源转换为DRA声明,实现向后兼容。两者互补,DRA负责调度,HAMi-core负责强制限制,生产环境需按版本和供应商选择模式。

Kubernetes DRA会取代HAMi吗?

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-08-07T11:30:00Z
告别K8s GPU之痛:DRA如何改变一切

Kubernetes 1.34引入动态资源分配(DRA),通过CEL表达式让工作负载按需选择GPU(如内存、型号、MIG切片或NVLink连接),替代传统节点标签和硬编码,解决异构GPU集群中调度不均、资源浪费问题,简化运维并提升效率。

告别K8s GPU之痛:DRA如何改变一切

The New Stack The New Stack · 2026-08-06T16:00:00Z
Kueue 如何管理 DRA 模式下的 GPU 配额

本文介绍了如何在 DRA 模式下使用 Kueue 管理 GPU 配额。首先,创建 Kubernetes 集群并安装 GPU Operator 和 Kueue。接着,接入 NVIDIA DRA Driver,配置 Kueue 映射资源。通过 ResourceClaimTemplate 申请整卡 GPU,Kueue 负责准入管理,确保资源分配合理。最后,强调 Kueue 与 DRA 的配合,以确保 GPU 资源的有效利用。

Kueue 如何管理 DRA 模式下的 GPU 配额

探索云原生 探索云原生 · 2026-07-01T22:00:00Z
DRA P4:从零开发自己的 DRA 驱动

本文介绍了如何从零开发自定义 DRA 驱动 i-dra-driver,比较了 DevicePlugin 和 DRA 的实现差异,强调 DRA 在设备发现、调度参与和设备注入方面的优势。DRA 通过 ResourceSlice API 提供更丰富的设备信息,支持全局调度,遵循开放标准,简化了驱动开发者的工作。

DRA P4:从零开发自己的 DRA 驱动

探索云原生 探索云原生 · 2026-05-26T20:00:00Z
DRA P3:DRA 工作流程与源码分析

DRA工作流程包括六个阶段:设备注册、分类定义、用户需求声明、调度器分配、设备准备与注入、Pod运行与清理。DRA Driver通过NVML扫描GPU并注册到Kubelet,用户创建Pod和ResourceClaim,调度器选择并分配设备。Kubelet负责准备设备并注入到容器,Pod终止后进行清理。DRA简化了设备管理流程,调度器负责分配决策。

DRA P3:DRA 工作流程与源码分析

探索云原生 探索云原生 · 2026-05-20T20:00:00Z
Kubernetes GPU 虚拟化实战:HAMi DRA 模式完整指南

本文介绍了Kubernetes上HAMi DRA模式的安装与使用。HAMi是一个开源GPU虚拟化平台,能够将物理GPU细分为多个虚拟GPU供不同Pod共享。DRA模式通过调度器动态分配资源,解决资源不足的问题。用户可选择手动创建ResourceClaim的原生模式或使用兼容模式自动转换资源申请,简化迁移过程。文章详细描述了安装步骤、验证方法及两种模式的区别。

Kubernetes GPU 虚拟化实战:HAMi DRA 模式完整指南

探索云原生 探索云原生 · 2026-05-14T12:00:00Z
DRA P2:理解 DRA:ResourceSlice、Claim、Class 三角关系

DRA(设备资源管理)通过ResourceSlice、DeviceClass和ResourceClaim三个API对象实现资源的灵活管理与申请。ResourceSlice提供设备信息,DeviceClass定义设备分类,ResourceClaim描述用户需求。DRA的设计思路与CSI相似,支持GPU共享和精确资源分配,优化了Kubernetes中的设备管理流程。

DRA P2:理解 DRA:ResourceSlice、Claim、Class 三角关系

探索云原生 探索云原生 · 2026-05-12T20:00:00Z
HAMi v2.9.0 深度解读:昇腾用户态切分、DRA 生产就绪与调度生态扩展

HAMi v2.9.0 正式发布,增强了异构设备的虚拟化和调度能力。新特性包括用户态虚拟化、生产就绪的 HAMi-DRA、增强的安全性和稳定性,以及对瀚博半导体设备的支持。HAMi-core 模式实现了显存与算力的细粒度共享,提升了资源利用率,已在招商银行验证。此外,该版本还更新了可观测性和安全性功能,推动了 DRA 生态联盟的发展。

HAMi v2.9.0 深度解读:昇腾用户态切分、DRA 生产就绪与调度生态扩展

dotNET跨平台 dotNET跨平台 · 2026-05-12T00:01:01Z
DRA P1:DRA 能解决什么问题?从部署到使用的完整体验

DRA(动态资源分配)是Kubernetes为克服DevicePlugin局限性而推出的新框架,允许用户精确申请GPU资源,调度器能够获取设备详细信息,避免调度冲突。DRA支持资源预留和共享,提升了资源管理的灵活性和效率,通过ResourceSlice和DeviceClass实现了对设备属性的全面描述,标志着Kubernetes在资源管理上的重大进步。

DRA P1:DRA 能解决什么问题?从部署到使用的完整体验

探索云原生 探索云原生 · 2026-05-06T20:00:00Z
KCD Beijing 2026 分享回顾:从 Device Plugin 到 DRA——GPU 调度范式升级与 HAMi-DRA 实践

KCD Beijing 2026 是大型 Kubernetes 社区大会,HAMi 社区介绍了 GPU 调度的 DRA 模型,强调 GPU 从“设备”转变为“资源对象”。DRA 提升了资源建模能力,但用户体验有所下降。HAMi-DRA 通过自动化迁移简化用户操作,提高了 Pod 创建速度和可观测性,推动了 AI 基础设施的发展。

KCD Beijing 2026 分享回顾:从 Device Plugin 到 DRA——GPU 调度范式升级与 HAMi-DRA 实践

dotNET跨平台 dotNET跨平台 · 2026-04-02T00:03:34Z

The Azure Kubernetes Service team shared a detailed guide on how to use Dynamic Resource Allocation (DRA) with NVIDIA vGPU technology on AKS. This update improves control and efficiency for shared...

Microsoft Adds DRA-Backed NVIDIA vGPU Support to AKS

InfoQ InfoQ · 2026-03-19T10:00:00Z
Kubernetes:充分利用动态资源分配

随着数据中心电力和硬件成本上升,组织们在Kubernetes上运行AI项目时寻求提高效率。Cloud Native Computing Foundation推出了Kubernetes调度器的增强功能DRA,允许用户更精确地分配资源,通过新的API提供设备属性,优化资源调度,提升GPU和CPU集群的性能。

Kubernetes:充分利用动态资源分配

The New Stack The New Stack · 2025-12-23T14:00:44Z
Kubernetes v1.34:DRA 可消耗容量

Kubernetes v1.34引入动态资源分配(DRA),支持跨多个Pod和容器的设备共享。用户可根据需求请求特定设备并定义自定义配置,允许多个资源请求共享同一设备,从而提升资源管理的灵活性和效率,适用于带宽等动态资源分配场景。

Kubernetes v1.34:DRA 可消耗容量

Kubernetes Blog Kubernetes Blog · 2025-09-18T18:30:00Z
Kubernetes v1.34:Pods报告DRA资源健康状态

Kubernetes v1.34引入了新的alpha功能,允许Pods报告设备健康状态,增强了对GPU等硬件故障的可见性。通过DRA驱动,Kubelet能够接收设备健康更新,帮助快速诊断问题,减少停机时间,为后续改进奠定基础。

Kubernetes v1.34:Pods报告DRA资源健康状态

Kubernetes Blog Kubernetes Blog · 2025-09-17T18:30:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码