【系统架构设计百科】缓存架构：从本地到分布式的多级缓存体系
💡
原文中文，约28000字，阅读约需67分钟。
📝
内容提要
去年双十一，一电商平台因批量更新商品促销价格导致缓存失效，命中率骤降至60%，引发数据库请求激增，影响支付和物流。文章分析了缓存架构的核心问题，包括读写模式、失效策略及防止缓存穿透、击穿和雪崩的方法，并提出多级缓存设计，结合Facebook的Memcache论文，探讨在分布式场景下保障缓存一致性。
🎯
关键要点
- 去年双十一，某电商平台因批量更新商品促销价格导致缓存失效，命中率骤降至60%。
- 缓存设计决策直接影响系统的稳定性和可用性，包括读写模式、失效策略等。
- Cache-Aside模式是最常用的缓存模式，应用程序管理缓存的读写。
- Read-Through模式中，缓存层负责从数据库加载数据，应用只与缓存交互。
- Write-Through模式保证缓存和数据库的强一致性，但写延迟较高。
- Write-Behind模式性能最好，但风险最高，适用于写入频率极高的场景。
- Refresh-Ahead模式在缓存即将过期前主动异步刷新数据，避免缓存未命中。
- 缓存失效策略包括基于TTL的过期、事件驱动的失效和基于版本号的失效。
- 缓存穿透、击穿和雪崩是常见问题，解决方案包括缓存空值、互斥锁和随机化TTL。
- 多级缓存架构可以提高系统性能，分为L1（进程内缓存）、L2（分布式缓存）和L3（CDN缓存）。
- 在分布式场景下，缓存一致性是一个难题，常用的解决方案包括延迟双删和基于CDC的缓存失效。
- Facebook的Memcache论文提供了大规模缓存系统设计的重要参考，提出了请求合并、滑动窗口UDP协议等优化方案。
- 电商商品目录的多级缓存设计案例显示，通过引入本地缓存和CDC驱动的缓存失效，显著提高了缓存命中率和系统性能。
❓
延伸问答
电商平台在双十一期间遇到了什么缓存问题？
电商平台因批量更新商品促销价格导致缓存失效，命中率骤降至60%，引发数据库请求激增。
什么是Cache-Aside模式，它的优缺点是什么？
Cache-Aside模式是应用程序管理缓存的读写，优点是简单直观，缺点是首次请求必定未命中，且应用代码与缓存逻辑耦合。
如何防止缓存穿透、击穿和雪崩？
可以通过缓存空值、互斥锁和随机化TTL等方法来防止缓存穿透、击穿和雪崩。
多级缓存架构的优势是什么？
多级缓存架构可以提高系统性能，分为L1（进程内缓存）、L2（分布式缓存）和L3（CDN缓存），有效降低延迟和数据库压力。
在分布式场景下，如何保障缓存一致性？
在分布式场景下，常用的解决方案包括延迟双删和基于CDC的缓存失效，以确保缓存的一致性。
Facebook的Memcache论文对缓存设计有什么贡献？
Facebook的Memcache论文提出了请求合并、滑动窗口UDP协议等优化方案，为大规模缓存系统设计提供了重要参考。
➡️
