The Cloudflare Blog
·
消除冷启动 2：分片与征服
💡
原文英文，约3700词，阅读约需14分钟。
📝
内容提要
Cloudflare Workers五年前推出预热技术以减少冷启动，最近引入“Worker分片”机制，通过一致性哈希环优化请求路由，热请求率从99.9%提升至99.99%，冷启动率下降十倍，显著提高系统效率。
🎯
关键要点
- Cloudflare Workers五年前推出预热技术以减少冷启动。
- 新引入的“Worker分片”机制通过一致性哈希环优化请求路由。
- 热请求率从99.9%提升至99.99%，冷启动率下降十倍。
- 冷启动是Worker生命周期中最昂贵的部分，涉及脚本源代码获取、编译和初始调用。
- TLS握手时间长于冷启动时间是优化的关键。
- 放宽Worker脚本大小和启动CPU时间限制导致冷启动时间增加。
- 通过路由请求到现有Worker实例来减少冷启动的绝对数量。
- 一致性哈希环用于优化Worker的请求路由，避免重复工作。
- Worker的负载处理需要能够优雅地拒绝请求以避免过载。
- 通过乐观发送分片请求来减少延迟，避免请求路径中的“长号效应”。
- Workers可以相互调用，支持复杂的请求流。
- 新机制使得Worker的驱逐率降低了十倍，热请求率显著提高。
- 企业流量的热请求率从99.9%提升至99.99%，冷启动率减少至0.01%。
🏷️
标签
➡️
