小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI
将 KubeRay 捐赠给 CNCF

KubeRay正式加入CNCF,使PyTorch、AI模型、Ray与Kubernetes组成的PARK开源栈全部归入Linux基金会治理。KubeRay连接Ray分布式AI应用与Kubernetes,提供RayCluster、RayJob、RayService三类CRD,分别管理集群生命周期、批处理任务和在线推理服务,并与OpenTelemetry、Prometheus、Kueue等云原生工具深度集成,Spotify等企业已用于生产。

将 KubeRay 捐赠给 CNCF

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-11-10T16:00:00Z

The PARK stack (PyTorch, AI models, Ray, and Kubernetes) is emerging as the de facto open source standard for production AI. Within that stack, KubeRay has become the bridge connecting scalable AI...

Donating KubeRay to CNCF

Cloud Native Computing Foundation Cloud Native Computing Foundation · 2026-11-09T16:00:00Z
从源码理解 KubeRay 与 Volcano:系列目录

本系列从源码角度解析 KubeRay 与 Volcano。先介绍 Ray、Kubernetes、KubeRay 与 Volcano 的职责与架构;KubeRay 部分涵盖组件分工、Reconcile 协调、并发管理、Operator 重启恢复与高可用;Volcano 部分涵盖 Job、PodGroup、Queue 架构、Gang 调度、队列资源竞争与抢占,以及 KubeRay 接入和生命周期协作;最后总结 Operator 设计。

从源码理解 KubeRay 与 Volcano:系列目录

谭新宇的博客 谭新宇的博客 · 2026-09-15T16:00:00Z
第 0 篇|从 Ray 到 Kubernetes:KubeRay 与 Volcano 各自解决什么问题

本系列文章阅读KubeRay与Volcano源码。Ray以task和actor表达分布式计算,Kubernetes以Pod管理容器部署;KubeRay通过CRD和Operator管理RayCluster、RayJob等资源,Volcano提供Gang成组调度与队列资源共享。系列共十篇:前五篇追踪RayJob从提交到Pod运行的协调与恢复,后四篇引入Volcano分析批调度。

第 0 篇|从 Ray 到 Kubernetes:KubeRay 与 Volcano 各自解决什么问题

谭新宇的博客 谭新宇的博客 · 2026-09-15T15:45:00Z
第 1 篇|KubeRay 架构:组件分工与协作

本文沿一次 RayJob 提交过程追踪 KubeRay 源码:RayJob Controller 根据 spec.rayClusterSpec 创建专用 RayCluster,RayCluster Controller 再创建 head 与 worker Pod;集群就绪后以 K8sJobMode 创建 submitter Job,通过 Ray Jobs API 提交入口程序并跟踪状态,结束后按 TTL 清理集群。

第 1 篇|KubeRay 架构:组件分工与协作

谭新宇的博客 谭新宇的博客 · 2026-09-15T15:40:00Z
第 2 篇|KubeRay 协调:从 Pod 变化到 Reconcile

本文梳理 KubeRay 中 Pod 变化触发 Reconcile 的完整链路:kubelet 写入 Pod 状态,informer 缓存更新后由 handler 依据 owner reference 定位 RayCluster 并入队;Reconcile 重新读取对象,对比期望与现状后写回 status;RayJob 通过 Owns(RayCluster) 感知变化并提交作业。同时介绍 predicate 过滤、RequeueAfter 延时重排,以及排查事件未入队的方法。

第 2 篇|KubeRay 协调:从 Pod 变化到 Reconcile

谭新宇的博客 谭新宇的博客 · 2026-09-15T15:35:00Z
第 3 篇|KubeRay 并发:一个 Operator 如何管理 100 个 RayCluster

KubeRay Operator 通过工作队列和协调协程管理大量 RayCluster。并发数限制同时执行的 Reconcile 轮数,默认 1,设为 2 则两个协程轮流处理不同对象。同一对象按键锁定,不会被并发处理。由于缓存滞后,需用 scale expectations 避免重复创建 Pod。版本冲突靠 resourceVersion 乐观并发检查处理。是否提高并发应依据队列积压、协调耗时和错误率等指标判断。

第 3 篇|KubeRay 并发:一个 Operator 如何管理 100 个 RayCluster

谭新宇的博客 谭新宇的博客 · 2026-09-15T15:30:00Z
第 4 篇|KubeRay 恢复:Operator 重启后如何继续工作

KubeRay Operator 重启后不依赖内存状态,而是通过 Kubernetes 中持久化的 spec、status 及已有资源恢复协调。RayJob 使用 jobDeploymentStatus 记录管理阶段,jobStatus 记录 Ray 作业状态。重启不会被记为失败或开启新执行轮次;若资源已创建但状态未写回,新 Operator 会根据 status 中的集群名和 submission ID 查找并复用已有资源。Ray 服务端以 submission ID 防止重复提交,但无法保证业务层面的 exactly-once。

第 4 篇|KubeRay 恢复:Operator 重启后如何继续工作

谭新宇的博客 谭新宇的博客 · 2026-09-15T15:25:00Z
第 5 篇|KubeRay 高可用:从主备切换到 Ray 服务恢复

本文分析 KubeRay Operator 的主备切换与 Ray 服务恢复。选主通过 Lease 竞争,默认仅一个副本,需配置多副本才有备用。新 leader 依赖已有资源重新协调,但无 fencing 机制,在途请求可能重复执行;控制面失联时无法补 Pod 或回写状态。worker 丢失可补建,但 actor 内存难恢复;head 丢失后 GCS 元数据需 Redis 容错才能恢复。RayService 蓝绿切换非原子操作,不保证请求零失败。

第 5 篇|KubeRay 高可用:从主备切换到 Ray 服务恢复

谭新宇的博客 谭新宇的博客 · 2026-09-15T15:20:00Z
第 9 篇|KubeRay 与 Volcano:接入与生命周期协作

KubeRay Operator 通过 Volcano 适配器将 RayJob 转换为 PodGroup 等调度资源。适配器创建 PodGroup,设置 owner 引用、分组注解和 schedulerName;最低成员数不含 submitter 以避免启动死锁,但其资源仍提前计入。资源计算基于模板 requests,未涵盖 init 容器等。收尾时按存活集群重算需求,而非直接清零。

第 9 篇|KubeRay 与 Volcano:接入与生命周期协作

谭新宇的博客 谭新宇的博客 · 2026-09-15T15:00:00Z
第 10 篇|总结:从 KubeRay 与 Volcano 看 Operator 设计

本文总结KubeRay与Volcano源码阅读:用户提交RayJob后,KubeRay创建RayCluster及head、worker Pod,集群就绪后由submitter经Ray Jobs API提交程序。启用Volcano时,先写PodGroup,再在Pod上标注调度器与组信息,由Volcano负责Pod绑定。KubeRay协调、Volcano调度与Ray运行时三套循环通过Kubernetes对象和Ray API衔接,各自独立重试。恢复依赖可重建状态链,高可用需分层看待。

第 10 篇|总结:从 KubeRay 与 Volcano 看 Operator 设计

谭新宇的博客 谭新宇的博客 · 2026-09-15T14:55:00Z
让 Ray Distributed Debugger 在 Kuberay 下可用

本文探讨了在Kubernetes环境中使用Ray分布式调试器的挑战与解决方案。通过将Code Server部署为Ray Head的Sidecar容器,成功解决了网络隔离问题,实现了无缝调试,简化了操作流程,并提供了实用的配置与使用指南。

让 Ray Distributed Debugger 在 Kuberay 下可用

谭新宇的博客 谭新宇的博客 · 2025-08-16T16:39:26Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码