服务端应用多级缓存架构方案 | 京东云技术团队
💡
原文中文，约1400字，阅读约需4分钟。
📝
内容提要
在20w的QPS场景下，可以使用分布式缓存如redis集群来抗压。当出现缓存热点时，可使用本地缓存解决问题，避免单台redis服务器负载过高，且访问速度更快。请求优先访问应用本地缓存，不存在时再从redis集群获取。使用redis的发布订阅功能实现缓存更新策略。本地缓存随应用重启而失效，需适时加载分布式缓存。
🎯
关键要点
- 在20w的QPS场景下，使用分布式缓存如redis集群来抗压。
- redis集群采用6主6从架构，主提供读写服务，从作为备份。
- 本地缓存可以解决缓存热点问题，避免单台redis服务器负载过高。
- 请求优先访问本地缓存，若不存在则从redis集群获取。
- 使用redis的发布订阅功能实现缓存更新策略。
- 本地缓存随应用重启而失效，需适时加载分布式缓存。
- redis的发布订阅模式是推模式，支持异步消息推送。
- 本地缓存占用jvm内存，需评估缓存大小，适合短暂数据不一致的场景。
- 缓存更新策略包括主动更新和被动更新，本地缓存需设置有效期。
- 定时任务同步缓存机制以防极端情况数据丢失。
- rpc调用需避免本地缓存污染，可通过深拷贝解决。
- 在pub/sub模式下更新缓存策略时需注意避免大数据传递和数据丢失。
➡️
