Volcano v1.13 重磅发布！大模型训练与推理等调度能力全面增强
💡
原文中文，约13000字，阅读约需31分钟。
📝
内容提要
Volcano v1.13版本发布，增强了大模型训练与推理调度能力，支持LWS、Cron任务管理和网络拓扑发现，提升了AI计算框架的兼容性，简化了复杂工作负载管理，旨在提供高效稳定的计算平台。
🎯
关键要点
- Volcano v1.13版本发布，增强了大模型训练与推理调度能力。
- 新增对大模型推理LWS的支持，解决多主机推理问题。
- 引入Cron Volcano Job，支持定时任务管理。
- 新增基于Label的HyperNode自动发现机制，简化网络拓扑管理。
- 原生支持Ray框架，简化Ray集群的部署与管理。
- 新增HCCL插件支持，自动为Pod分配HCCL Rank。
- 增强NodeGroup功能，支持层级队列亲和性继承。
- 新增ResourceStrategyFit插件，支持按资源类型配置独立策略。
- 实现混部与OS解耦，支持不支持混部能力的OS用户。
- 支持自定义混部超卖资源名称，提升灵活性。
- 扩展网络拓扑感知调度能力至Kubernetes标准工作负载。
- 适配Kubernetes 1.33版本，确保功能和可靠性。
- 感谢36位社区贡献者的支持与贡献。
❓
延伸问答
Volcano v1.13版本有哪些主要功能增强？
Volcano v1.13版本增强了大模型训练与推理调度能力，支持LWS、Cron任务管理和网络拓扑发现，提升了AI计算框架的兼容性。
什么是LeaderWorkerSet (LWS)？
LeaderWorkerSet (LWS)是一个用于在Kubernetes上部署一组Pod的API，主要用于解决AI/ML推理工作负载中的多主机推理问题。
如何使用Cron Volcano Job进行定时任务管理？
用户可以通过标准的Cron表达式定义作业的执行周期，并设置时区和并发策略来管理定时任务。
Volcano v1.13如何支持网络拓扑发现？
新版本引入了基于Label的HyperNode自动发现机制，简化了网络拓扑管理，允许用户通过节点标签描述网络拓扑。
Volcano v1.13对Ray框架的支持有哪些改进？
新版本原生支持Ray框架，用户可以直接通过Volcano Job创建和管理Ray集群，简化了Ray工作负载的部署与管理。
什么是ResourceStrategyFit插件，它解决了什么问题？
ResourceStrategyFit插件允许用户为不同资源配置独立的调度策略，解决了在异构计算环境中资源调度的局限性。
➡️
