InfoQ
·
Uber通过CacheFront改进实现每秒150万次读取
💡
原文英文，约500词，阅读约需2分钟。
📝
内容提要
Uber工程师更新了CacheFront架构，实现每秒超过1.5亿次读取，并增强了一致性。新协议解决了延迟敏感服务中的过时读取问题，支持更高的缓存命中率，确保在高负载下不提供过时数据，CacheFront的缓存命中率超过99.9%。
🎯
关键要点
- Uber工程师更新了CacheFront架构，实现每秒超过1.5亿次读取，并增强了一致性。
- 新协议解决了延迟敏感服务中的过时读取问题，支持更高的缓存命中率。
- CacheFront的缓存命中率超过99.9%。
- 早期CacheFront设计通过请求去重和缓存频繁访问的键实现每秒4000万次读取，但缺乏端到端一致性。
- 新实现引入了写透一致性协议和去重层，确保在高负载下不提供过时数据。
- 存储引擎层包括删除行的墓碑标记和严格单调的时间戳，确保数据新鲜性。
- 事务完成时，存储引擎返回提交时间戳和受影响的行键，立即使Redis中之前缓存的条目失效。
- 通过集成，Uber工程师能够简化系统，去除早期引入的专用API。
- 增强的遥测和可观察性仪表板用于监控缓存健康和实时binlog尾随。
- Cache Inspector工具比较binlog事件与缓存中的条目，允许将表的TTL延长至24小时。
➡️
