The Cloudflare Blog
·
消除冷启动 2：分片与征服
内容提要
Cloudflare Workers五年前推出预热技术以减少冷启动，最近引入“Worker分片”机制，通过一致性哈希环优化请求路由，热请求率从99.9%提升至99.99%，冷启动率下降十倍，显著提高系统效率。
关键要点
-
Cloudflare Workers五年前推出预热技术以减少冷启动。
-
新引入的“Worker分片”机制通过一致性哈希环优化请求路由。
-
热请求率从99.9%提升至99.99%，冷启动率下降十倍。
-
冷启动是Worker生命周期中最昂贵的部分，涉及脚本源代码获取、编译和初始调用。
-
TLS握手时间长于冷启动时间是优化的关键。
-
放宽Worker脚本大小和启动CPU时间限制导致冷启动时间增加。
-
通过路由请求到现有Worker实例来减少冷启动的绝对数量。
-
一致性哈希环用于优化Worker的请求路由，避免重复工作。
-
Worker的负载处理需要能够优雅地拒绝请求以避免过载。
-
通过乐观发送分片请求来减少延迟，避免请求路径中的“长号效应”。
-
Workers可以相互调用，支持复杂的请求流。
-
新机制使得Worker的驱逐率降低了十倍，热请求率显著提高。
-
企业流量的热请求率从99.9%提升至99.99%，冷启动率减少至0.01%。
延伸解读
冷启动的挑战与解决方案
冷启动是Cloudflare Workers生命周期中最昂贵的部分，涉及脚本获取、编译和初始调用。随着用户对复杂应用的需求增加，冷启动时间也随之增长。新引入的Worker分片机制通过一致性哈希环优化请求路由，显著降低了冷启动率，提升了系统效率。
一致性哈希环的优势
一致性哈希环在Worker分片中发挥了关键作用。它允许请求被有效地路由到现有的Worker实例，避免了重复的冷启动。这种方法不仅提高了热请求率，还减少了内存使用，优化了资源分配，确保系统在高流量情况下的稳定性。
负载处理与请求拒绝机制
在高流量情况下，Worker可能会过载，因此需要优雅地拒绝请求。文章提到的两种负载处理方案，分别是请求确认和乐观发送，能够有效减少延迟并提高系统响应速度。这种设计确保了即使在高峰期，系统也能保持高效运行。
延伸问答
什么是Worker分片机制？
Worker分片机制通过一致性哈希环优化请求路由，减少冷启动次数，提高系统效率。
冷启动对Worker的影响是什么？
冷启动是Worker生命周期中最昂贵的部分，涉及脚本源代码获取、编译和初始调用，导致请求延迟。
Cloudflare Workers如何减少冷启动率？
通过引入Worker分片机制和优化请求路由，Cloudflare Workers将冷启动率降低至0.01%。
一致性哈希环在Worker分片中的作用是什么？
一致性哈希环用于优化Worker的请求路由，确保请求被路由到现有的Worker实例，避免重复工作。
Worker的热请求率提升了多少？
企业流量的热请求率从99.9%提升至99.99%。
Cloudflare Workers的冷启动时间是如何变化的？
随着脚本大小和启动CPU时间限制的放宽，冷启动时间增加，导致冷启动变得更长。
