redis 底层数据结构


1、演示数据类型的实现

  上篇博客我们在介绍 key 相关命令的时候,介绍了如下命令:

OBJECT ENCODING    key 

  该命令是用来显示那五大数据类型的底层数据结构。

  比如对于 string 数据类型:

  我们可以看到实现string数据类型的数据结构有 embstr 以及 int。

  再比如 list 数据类型:

  这里我们就不做过多的演示了,那么上次出现的 embstr 以及 int 还有 quicklist 是什么数据结构呢?下面我们就来介绍Redis中几种主要的数据结构。

回到顶部回到顶部这篇博客。

  链表定义:

1 2 3 4 5 6 7 8 typedef  struct listNode{        //前置节点        struct listNode *prev;        //后置节点        struct listNode *next;        //节点的值        void *value;   }listNode

  通过多个 listNode 结构就可以组成链表,这是一个双向链表,Redis还提供了操作链表的数据结构:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 typedef struct list{      //表头节点      listNode *head;      //表尾节点      listNode *tail;      //链表所包含的节点数量      unsigned long len;      //节点值复制函数      void (*free) (void *ptr);      //节点值释放函数      void (*free) (void *ptr);      //节点值对比函数      int (*match) (void *ptr,void *key); }list;

  Redis链表特性:

  ①、双端:链表具有前置节点和后置节点的引用,获取这两个节点时间复杂度都为O(1)。

  ②、无环:表头节点的 prev 指针和表尾节点的 next 指针都指向 NULL,对链表的访问都是以 NULL 结束。  

  ③、带链表长度计数器:通过 len 属性获取链表长度的时间复杂度为 O(1)。

  ④、多态:链表节点使用 void* 指针来保存节点值,可以保存各种不同类型的值。

回到顶部这篇博客。

  哈希表结构定义:

1 2 3 4 5 6 7 8 9 10 11 12 typedef struct dictht{      //哈希表数组      dictEntry **table;      //哈希表大小      unsigned long size;      //哈希表大小掩码,用于计算索引值      //总是等于 size-1      unsigned long sizemask;      //该哈希表已有节点的数量      unsigned long used;   }dictht

  哈希表是由数组 table 组成,table 中每个元素都是指向 dict.h/dictEntry 结构,dictEntry 结构定义如下:

1 2 3 4 5 6 7 8 9 10 11 12 13 typedef struct dictEntry{      //键      void *key;      //值      union{           void *val;           uint64_tu64;           int64_ts64;      }v;        //指向下一个哈希表节点,形成链表      struct dictEntry *next; }dictEntry

  key 用来保存键,val 属性用来保存值,值可以是一个指针,也可以是uint64_t整数,也可以是int64_t整数。

  注意这里还有一个指向下一个哈希表节点的指针,我们知道哈希表最大的问题是存在哈希冲突,如何解决哈希冲突,有开放地址法和链地址法。这里采用的便是链地址法,通过next这个指针可以将多个哈希值相同的键值对连接在一起,用来解决哈希冲突

  ①、哈希算法:Redis计算哈希值和索引值方法如下:

1 2 3 4 #1、使用字典设置的哈希函数,计算键 key 的哈希值 hash = dict->type->hashFunction(key); #2、使用哈希表的sizemask属性和第一步得到的哈希值,计算索引值 index = hash & dict->ht[x].sizemask;

  ②、解决哈希冲突:这个问题上面我们介绍了,方法是链地址法。通过字典里面的 *next 指针指向下一个具有相同索引值的哈希表节点。

  ③、扩容和收缩:当哈希表保存的键值对太多或者太少时,就要通过 rerehash(重新散列)来对哈希表进行相应的扩展或者收缩。具体步骤:

      1、如果执行扩展操作,会基于原哈希表创建一个大小等于 ht[0].used*2n 的哈希表(也就是每次扩展都是根据原哈希表已使用的空间扩大一倍创建另一个哈希表)。相反如果执行的是收缩操作,每次收缩是根据已使用空间缩小一倍创建一个新的哈希表。

      2、重新利用上面的哈希算法,计算索引值,然后将键值对放到新的哈希表位置上。

      3、所有键值对都迁徙完毕后,释放原哈希表的内存空间。

  ④、触发扩容的条件:

      1、服务器目前没有执行 BGSAVE 命令或者 BGREWRITEAOF 命令,并且负载因子大于等于1。

      2、服务器目前正在执行 BGSAVE 命令或者 BGREWRITEAOF 命令,并且负载因子大于等于5。

    ps:负载因子 = 哈希表已保存节点数量 / 哈希表大小。

  ⑤、渐近式 rehash

    什么叫渐进式 rehash?也就是说扩容和收缩操作不是一次性、集中式完成的,而是分多次、渐进式完成的。如果保存在Redis中的键值对只有几个几十个,那么 rehash 操作可以瞬间完成,但是如果键值对有几百万,几千万甚至几亿,那么要一次性的进行 rehash,势必会造成Redis一段时间内不能进行别的操作。所以Redis采用渐进式 rehash,这样在进行渐进式rehash期间,字典的删除查找更新等操作可能会在两个哈希表上进行,第一个哈希表没有找到,就会去第二个哈希表上进行查找。但是进行 增加操作,一定是在新的哈希表上进行的。

回到顶部http://blog.jobbole.com/111731/

  跳跃表(skiplist)是一种有序数据结构,它通过在每个节点中维持多个指向其它节点的指针,从而达到快速访问节点的目的。具有如下性质:

  1、由很多层结构组成;

  2、每一层都是一个有序的链表,排列顺序为由高层到底层,都至少包含两个链表节点,分别是前面的head节点和后面的nil节点;

  3、最底层的链表包含了所有的元素;

  4、如果一个元素出现在某一层的链表中,那么在该层之下的链表也全都会出现(上一层的元素是当前层的元素的子集);

  5、链表中的每个节点都包含两个指针,一个指向同一层的下一个链表节点,另一个指向下一层的同一个链表节点;

  Redis中跳跃表节点定义如下:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 typedef struct zskiplistNode {      //层      struct zskiplistLevel{            //前进指针            struct zskiplistNode *forward;            //跨度            unsigned int span;      }level[];        //后退指针      struct zskiplistNode *backward;      //分值      double score;      //成员对象      robj *obj;   } zskiplistNode

  多个跳跃表节点构成一个跳跃表:

1 2 3 4 5 6 7 8 9 typedef struct zskiplist{      //表头节点和表尾节点      structz skiplistNode *header, *tail;      //表中节点的数量      unsigned long length;      //表中层数最大的节点的层数      int level;   }zskiplist;

  ①、搜索:从最高层的链表节点开始,如果比当前节点要大和比当前层的下一个节点要小,那么则往下找,也就是和当前层的下一层的节点的下一个节点进行比较,以此类推,一直找到最底层的最后一个节点,如果找到则返回,反之则返回空。

  ②、插入:首先确定插入的层数,有一种方法是假设抛一枚硬币,如果是正面就累加,直到遇见反面为止,最后记录正面的次数作为插入的层数。当确定插入的层数k后,则需要将新元素插入到从底层到k层。

  ③、删除:在各个层中找到包含指定值的节点,然后将节点从链表中删除即可,如果删除以后只剩下头尾两个节点,则删除这一层。

回到顶部回到顶部回到顶部

8、总结

  大多数情况下,Redis使用简单字符串SDS作为字符串的表示,相对于C语言字符串,SDS具有常数复杂度获取字符串长度,杜绝了缓存区的溢出,减少了修改字符串长度时所需的内存重分配次数,以及二进制安全能存储各种类型的文件,并且还兼容部分C函数。

  通过为链表设置不同类型的特定函数,Redis链表可以保存各种不同类型的值,除了用作列表键,还在发布与订阅、慢查询、监视器等方面发挥作用(后面会介绍)。

  Redis的字典底层使用哈希表实现,每个字典通常有两个哈希表,一个平时使用,另一个用于rehash时使用,使用链地址法解决哈希冲突。

  跳跃表通常是有序集合的底层实现之一,表中的节点按照分值大小进行排序。

  整数集合是集合键的底层实现之一,底层由数组构成,升级特性能尽可能的节省内存。

  压缩列表是Redis为节省内存而开发的顺序型数据结构,通常作为列表键和哈希键的底层实现之一。

  以上介绍的简单字符串、链表、字典、跳跃表、整数集合、压缩列表等数据结构就是Redis底层的一些数据结构,用来实现上一篇博客介绍的Redis五大数据类型,那么每种数据类型是由哪些数据结构实现的呢?下一篇博客进行介绍。

参考文档:《Redis设计与实现》