资源利用率提高30%，揭秘华为云Serverless高效、高密度调度优化原理
💡
原文中文，约6600字，阅读约需16分钟。
📝
内容提要
华为云通过JIAGU系统优化Serverless计算资源调度，提升利用率超过30%。该系统解耦预测与决策，采用并发度感知调度和两阶段扩缩容策略，降低调度成本和冷启动延迟，确保服务质量。
🎯
关键要点
- 华为云通过JIAGU系统优化Serverless计算资源调度，提升利用率超过30%。
- JIAGU系统解耦预测与决策，降低调度成本和冷启动延迟，确保服务质量。
- Serverless领域面临资源利用率提升的挑战，主要由规格过配和空闲实例造成资源浪费。
- 现有方案通过超分和快速缩容来优化资源利用率，但存在性能下降和冷启动开销的挑战。
- JIAGU系统采用预决策调度和两阶段扩缩容设计，有效应对负载波动。
- JIAGU的QoS预测模型基于函数粒度进行性能预测，降低了训练开销。
- 容量表的异步更新确保了调度决策的实时性，避免了额外的调度开销。
- 并发度感知调度在负载高峰时批处理实例调度，减少了调度开销。
- JIAGU在调度性能上优于现有基于模型的调度器，调度成本降低81%至93%。
- JIAGU在资源利用率和QoS保障方面表现优异，实例密度显著高于其他调度器。
- 华为云持续优化调度能力，探索GPU等异构资源的精准调度。
🏷️
标签
➡️
