redis系列之 压缩列表
压缩列表
压缩列表(ziplist)是列表键和哈希键的底层实现之一。当一个列表键只包含少量列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现。
另外,当一个哈希键只包含少量键值对,并且每个键值对的键和值要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做哈希键的底层实现。
压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值。
实现
1 压缩列表
示例:
2 压缩列表节点
每个压缩列表节点可以保存一个字节数组或者一个整数值,
其中,字节数组可以是以下三种长度的其中一种:
❑长度小于等于63(2 6–1)字节的字节数组;
❑长度小于等于16383(2 14–1)字节的字节数组;
❑长度小于等于4294967295(2 32–1)字节的字节数组;
而整数值则可以是以下六种长度的其中一种:
❑4位长,介于0至12之间的无符号整数;
❑1字节长的有符号整数;
❑3字节长的有符号整数;
❑int16_t类型整数;
❑int32_t类型整数;
❑int64_t类型整数。
每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成。
1) previous_entry_length
节点的previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。
previous_entry_length属性的长度可以是1字节或者5字节:
❑如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一节点的长度就保存在这一个字节里面。
❑如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制值254),而之后的四个字节则用于保存前一节点的长度。
压缩列表的从表尾向表头遍历操作就是使用这一原理实现的,只要我们拥有了一个指向某个节点起始地址的指针,那么通过这个指针以及这个节点的previous_entry_length属性,程序就可以一直向前一个节点回溯,最终到达压缩列表的表头节点。
2)encoding
节点的encoding属性记录了节点的content属性所保存数据的类型以及长度:
❑一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录;
❑一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录;表7-2记录了所有可用的字节数组编码,而表7-3则记录了所有可用的整数编码。表格中的下划线“_”表示留空,而b、x等变量则代表实际的二进制数据,为了方便阅读,多个字节之间用空格隔开。
3)content
节点的content属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的encoding属性决定。
图7-9展示了一个保存字节数组的节点示例:
❑编码的最高两位00表示节点保存的是一个字节数组;
❑编码的后六位001011记录了字节数组的长度11;
❑content属性保存着节点的值"hello world"。
❑编码11000000表示节点保存的是一个int16_t类型的整数值;
❑content属性保存着节点的值10086。
连锁更新
每个节点的previous_entry_length属性都记录了前一个节点的长度:
❑如果前一节点的长度小于254字节,那么previous_entry_length属性需要用1字节长的空间来保存这个长度值。
❑如果前一节点的长度大于等于254字节,那么previous_entry_length属性需要用5字节长的空间来保存这个长度值。
现在,考虑这样一种情况:在一个压缩列表中,有多个连续的、长度介于250字节到253字节之间的节点e1至eN,包含节点el至eN的压缩列表因为e1至eN的所有节点的长度都小于254字节,所以记录这些节点的长度只需要1字节长的previous_entry_length属性,换句话说,e1至eN的所有节点的previous_entry_length属性都是1字节长的。这时,如果我们将一个长度大于等于254字节的新节点new设置为压缩列表的表头节点,那么new将成为e1的前置节点,如图7-12所示。添加新节点到压缩列表因为e1的previous_entry_length属性仅长1字节,它没办法保存新节点new的长度,所以程序将对压缩列表执行空间重分配操作,并将e1节点的previous_entry_length属性从原来的1字节长扩展为5字节长。现在,麻烦的事情来了,e1原本的长度介于250字节至253字节之间,在为previous_entry_length属性新增四个字节的空间之后,e1的长度就变成了介于254字节至257字节之间,而这种长度使用1字节长的previous_entry_length属性是没办法保存的。因此,为了让e2的previous_entry_length属性可以记录下e1的长度,程序需要再次对压缩列表执行空间重分配操作,并将e2节点的previous_entry_length属性从原来的1字节长扩展为5字节长。
删除节点有时候也会发生连锁更新。
因为连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配的最坏复杂度为O(N),所以连锁更新的最坏复杂度为O(N 2)。要注意的是,尽管连锁更新的复杂度较高,但它真正造成性能问题的几率是很低的:❑首先,压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点,连锁更新才有可能被引发,在实际中,这种情况并不多见;❑其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响:比如说,对三五个节点进行连锁更新是绝对不会影响性能的;因为以上原因,ziplistPush等命令的平均复杂度仅为O(N),在实际中,我们可以放心地使用这些函数,而不必担心连锁更新会影响压缩列表的性能。
总结
❑压缩列表是一种为节约内存而开发的顺序型数据结构。
❑压缩列表被用作列表键和哈希键的底层实现之一。
❑压缩列表可以包含多个节点,每个节点可以保存一个字节数组或者整数值。
❑添加新节点到压缩列表,或者从压缩列表中删除节点,可能会引发连锁更新操作,但这种操作出现的几率并不高。