Maestro:Netflix 开源工作流编排器
原文中文,约8700字,阅读约需21分钟。发表于: 。我们很高兴地宣布,Maestro 源代码现已向公众开放!请访问Maestro GitHub 存储库开始使用。什么是 MaestroMaestro 是一种通用的、可水平扩展的工作流编排器,旨在管理大规模工作流,例如:数据管道和机器学习模型训练管道。 它监督工作流的整个生命周期,从开始到结束,包括重试、排队、将任务分配给计算引擎等。 用户可以将其业务逻辑打包成各种格式,例如 Docker...
Netflix开源了Maestro工作流编排器,用于管理大规模工作流。它支持无环和有环工作流,包括多种可重用模式。每天平均启动数千个工作流程实例并运行50万个任务。支持ETL管道、ML工作流、AB测试管道等用例。提供了运行策略、参数支持、步骤依赖关系和信号、重试策略等功能。还支持断点、时间线、聚合视图和汇总等功能。