24. 亿级流量商品详情页的多级缓存架构以及架构中每一层的意义

商品详情页系统,缓存架构,90%大量的业务代码(没有什么技术含量),10%的最优技术含量的就是架构,上亿流量,每秒QPS几万,上十万的,读并发,高可用缓存架构

三级缓存

上亿流量的商品详情页系统的多级缓存架构

  1. 采用三级缓存:nginx本地缓存+redis分布式缓存+tomcat堆缓存的多级缓存架构
    24. 亿级流量商品详情页的多级缓存架构以及架构中每一层的意义
  2. 时效性要求非常高的数据库存,都是时效性要求会相对高,因为随着商品的不断的交易,库存会不断的变化,我们希望当库存变化的时候,尽可能更快将库存显示到页面上去,而不是说等了很长时间,库存才反应到页面上去
  3. 时效性要求不高的数据商品的基本信息(名称、颜色、版本、规格参数....),比如说你现在改变了商品的名称,稍微晚个几分钟反应到商品页面上,也还能接受
  4. 商品价格/库存等时效性要求高的数据,每次发生了变更的时候,直接采取数据库和redis缓存双写的方案,缓存时效性最高
  5. 商品基本信息等时效性不高的数据,种类繁多,来自多种不同的系统,采取MQ异步通知的方式,写一个数据生产服务,监听MQ消息,然后异步拉取服务的数据,更新tomcat jvm缓存+redis缓存
  6. nginx+lua脚本做页面动态生成的工作,每次请求过来,优先从nginx本地缓存中提取各种数据,结合页面模板,生成需要的页面;
  7. 如果nginx本地缓存过期了,那么就从nginx到redis中去拉取数据,更新到nginx本地
  8. 如果redis中缓存被LRU算法清理掉了,那么就从nginx走http接口到后端的服务中拉取数据,数据生产服务中,先在本地tomcat里的jvm堆缓存中找,ehcache,如果也被LRU清理掉了,那么就重新发送请求到源头的服务中去拉取数据,然后再次更新tomcat堆内存缓存+redis缓存,并返回数据给nginx,nginx缓存到本地。

多级缓存架构中每一层的意义

nginx本地缓存

  1. nginx本地缓存,抗的是热数据的高并发访问,一般来说,商品的购买总是有热点的,比如每天购买iphone、nike、海尔等知名品牌的东西的人,总是比较多的
  2. 这些热数据,利用nginx本地缓存,由于经常被访问,所以可以被锁定在nginx的本地缓存内
  3. 大量的热数据即经常会访问的数据,就会被保留在nginx本地缓存内,那么对这些热数据的大量访问,就直接走nginx就可以了
  4. 那么大量的访问,直接就可以走到nginx就行了,不需要走后续的各种网络开销

redis分布式大规模缓存

  1. redis分布式大规模缓存,抗的是很高的离散访问,支撑海量的数据,高并发的访问,高可用的服务
  2. redis缓存最大量的数据,最完整的数据和缓存,1T+数据;支撑高并发的访问,QPS最高到几十万;可用性,非常好,提供非常稳定的服务
  3. nginx本地内存有限,也就能cache住部分热数据,除了各种iphone、nike等热数据,其他相对不那么热的数据,可能流量会经常走到redis那里
  4. 利用redis cluster的多master写入,横向扩容,1T+以上海量数据支持,几十万的读写QPS,99.99%高可用性,那么就可以抗住大量的离散访问请求

tomcat jvm堆内存缓存

  1. tomcat jvm堆内存缓存,主要是抗redis大规模灾难的,作为最后一层防护措施;
  2. 如果redis出现了大规模的宕机,导致nginx大量流量直接涌入数据生产服务,那么最后的tomcat堆内存缓存至少可以再抗一下,不至于让数据库直接裸奔
  3. 同时tomcat jvm堆内存缓存,也可以抗住redis没有cache的最后那少量的部分缓存