服务端应用多级缓存架构方案 | 京东云技术团队
原文中文,约1400字,阅读约需4分钟。发表于: 。20w的QPS的场景下,服务端架构应如何设计?常规解决方案可使用分布式缓存来抗,比如redis集群,6主6从,主提供读写,从作为备,不提供读写服务。1台平均抗3w并发,还可以抗住,如果QPS达到100w,通过增加redis集群中的机器数量,可以扩展缓存的容量和并发读写能力。同时,缓存数据对于应用来讲都是共享的,主从架构,实现高可用。
在20w的QPS场景下,可以使用分布式缓存如redis集群来抗压。当出现缓存热点时,可使用本地缓存解决问题,避免单台redis服务器负载过高,且访问速度更快。请求优先访问应用本地缓存,不存在时再从redis集群获取。使用redis的发布订阅功能实现缓存更新策略。本地缓存随应用重启而失效,需适时加载分布式缓存。