Volcano v1.13 重磅发布！大模型训练与推理等调度能力全面增强
内容提要
Volcano v1.13版本发布，增强了大模型训练与推理调度能力，支持LWS、Cron任务管理和网络拓扑发现，提升了AI计算框架的兼容性，简化了复杂工作负载管理，旨在提供高效稳定的计算平台。
关键要点
-
Volcano v1.13版本发布，增强了大模型训练与推理调度能力。
-
新增对大模型推理LWS的支持，解决多主机推理问题。
-
引入Cron Volcano Job，支持定时任务管理。
-
新增基于Label的HyperNode自动发现机制，简化网络拓扑管理。
-
原生支持Ray框架，简化Ray集群的部署与管理。
-
新增HCCL插件支持，自动为Pod分配HCCL Rank。
-
增强NodeGroup功能，支持层级队列亲和性继承。
-
新增ResourceStrategyFit插件，支持按资源类型配置独立策略。
-
实现混部与OS解耦，支持不支持混部能力的OS用户。
-
支持自定义混部超卖资源名称，提升灵活性。
-
扩展网络拓扑感知调度能力至Kubernetes标准工作负载。
-
适配Kubernetes 1.33版本，确保功能和可靠性。
-
感谢36位社区贡献者的支持与贡献。
延伸解读
大模型推理的优势
Volcano v1.13版本引入了对LeaderWorkerSet (LWS)的支持，解决了多主机推理的挑战。这一功能使得用户能够在Kubernetes环境中高效地部署和管理大型语言模型，提升了AI推理的性能和灵活性，尤其适合需要跨多个节点进行分布式推理的场景。
Cron任务管理的实用性
新版本的Cron Volcano Job功能允许用户按预定时间周期性地运行任务，这对于需要定时执行的AI和大数据计算任务尤为重要。通过标准的Cron表达式，用户可以灵活地管理任务调度，提高了工作效率，减少了手动干预的需求。
网络拓扑自动发现的灵活性
Volcano v1.13引入的基于Label的HyperNode自动发现机制，简化了网络拓扑管理。用户可以通过简单的节点标签定义网络结构，避免了手动维护的复杂性。这一机制适用于多种硬件环境，提升了异构集群的管理效率，降低了运维成本。
延伸问答
Volcano v1.13版本有哪些主要功能增强？
Volcano v1.13版本增强了大模型训练与推理调度能力，支持LWS、Cron任务管理和网络拓扑发现，提升了AI计算框架的兼容性。
什么是LeaderWorkerSet (LWS)？
LeaderWorkerSet (LWS)是一个用于在Kubernetes上部署一组Pod的API，主要用于解决AI/ML推理工作负载中的多主机推理问题。
如何使用Cron Volcano Job进行定时任务管理？
用户可以通过标准的Cron表达式定义作业的执行周期，并设置时区和并发策略来管理定时任务。
Volcano v1.13如何支持网络拓扑发现？
新版本引入了基于Label的HyperNode自动发现机制，简化了网络拓扑管理，允许用户通过节点标签描述网络拓扑。
Volcano v1.13对Ray框架的支持有哪些改进？
新版本原生支持Ray框架，用户可以直接通过Volcano Job创建和管理Ray集群，简化了Ray工作负载的部署与管理。
什么是ResourceStrategyFit插件，它解决了什么问题？
ResourceStrategyFit插件允许用户为不同资源配置独立的调度策略，解决了在异构计算环境中资源调度的局限性。
