InfoQ
·
Uber通过CacheFront改进实现每秒150万次读取
内容提要
Uber工程师更新了CacheFront架构，实现每秒超过1.5亿次读取，并增强了一致性。新协议解决了延迟敏感服务中的过时读取问题，支持更高的缓存命中率，确保在高负载下不提供过时数据，CacheFront的缓存命中率超过99.9%。
关键要点
-
Uber工程师更新了CacheFront架构，实现每秒超过1.5亿次读取，并增强了一致性。
-
新协议解决了延迟敏感服务中的过时读取问题，支持更高的缓存命中率。
-
CacheFront的缓存命中率超过99.9%。
-
早期CacheFront设计通过请求去重和缓存频繁访问的键实现每秒4000万次读取，但缺乏端到端一致性。
-
新实现引入了写透一致性协议和去重层，确保在高负载下不提供过时数据。
-
存储引擎层包括删除行的墓碑标记和严格单调的时间戳，确保数据新鲜性。
-
事务完成时，存储引擎返回提交时间戳和受影响的行键，立即使Redis中之前缓存的条目失效。
-
通过集成，Uber工程师能够简化系统，去除早期引入的专用API。
-
增强的遥测和可观察性仪表板用于监控缓存健康和实时binlog尾随。
-
Cache Inspector工具比较binlog事件与缓存中的条目，允许将表的TTL延长至24小时。
延伸解读
一致性的重要性
在高负载环境下，数据的一致性至关重要。Uber的新协议通过引入写透一致性，确保在读取数据时不会返回过时的信息。这对于延迟敏感的服务尤为重要，能够提升用户体验，减少因数据不一致导致的错误。
缓存命中率的提升
CacheFront的缓存命中率超过99.9%，这意味着大部分请求都能直接从缓存中获取数据，显著降低了数据库的负担。这种高命中率不仅提高了系统的响应速度，还能有效节省资源，降低运营成本。
系统复杂性的简化
通过整合新协议，Uber工程师成功去除了早期设计中的专用API，简化了系统架构。这种简化不仅降低了维护成本，还提高了系统的可扩展性，使得未来的更新和优化变得更加高效。
延伸问答
Uber的CacheFront架构更新了什么？
Uber的CacheFront架构更新实现了每秒超过1.5亿次读取，并增强了一致性。
新协议如何解决延迟敏感服务中的过时读取问题？
新协议引入了写透一致性协议和去重层，确保在高负载下不提供过时数据。
CacheFront的缓存命中率达到了多少？
CacheFront的缓存命中率超过99.9%。
早期CacheFront设计的缺陷是什么？
早期设计缺乏端到端一致性，导致在读取更新数据时可能返回过时值。
Uber如何确保数据的新鲜性？
通过存储引擎层的墓碑标记和严格单调的时间戳，确保数据在读取时是最新的。
Cache Inspector工具的作用是什么？
Cache Inspector工具比较binlog事件与缓存中的条目，帮助监控缓存健康。
