快速Redis容量评估

前言:

1、jemalloc内存分配规则

jemalloc是一种通用的内存管理方法,着重于减少内存碎片和支持可伸缩的并发性,我们部门的redis版本中就引入了jemalloc,做redis容量评估前必须对jemalloc的内存分配规则有一定了解。

jemalloc基于申请内存的大小把内存分配分为三个等级:small,large,huge:

  • Small Object 的size以8字节,16字节,32字节等分隔开,小于页大小;

  • Large Object 的size以分页为单位,等差间隔排列,小于chunk的大小;

  • Huge Object 的大小是chunk大小的整数倍。

对于64位系统,一般chunk大小为4M,页大小为4K,内存分配的具体规则如下:

快速Redis容量评估

2、bucket:bucket是一个数组,数组的每个元素都是指向dictEntry结构的指针。redis中bucket数组的大小计算规则如下:大于dictEntry个数的、最小的2^n;例如,如果有1000个dictEntry,那么bucket大小为1024;如果有1500个dictEntry,则bucket大小为2048。

容量评估:

1、string:

总内存消耗 = (40 + jemalloc(length(key) +9) +jemalloc(length(value) +9)) * size + bucket个数 ×  8

2、list:

总内存消耗 = ( jemalloc(length(value) +9) + 40 ) × value个数 +  jemalloc(length(key) +9) + 104

3、hash

总内存消耗= ( jemalloc(length(field) +9) +jemalloc(length(value) +9) + 56)× field个数 + field_bucket个数× 8 + jemalloc(length(key) +9) + 152

4、set

总内存消耗 = ( jemalloc(length(field) +9) + 71)× field个数 + field_bucket个数× 8 + jemalloc(length(key) +9) + 152

5、zset

总内存消耗 = (jemalloc(length(value) +9) +94)×value个数 +value_bucket个数 ×8  + jemalloc(length(key) +9) + 732