Memcache和Redis
Memcache
Memcache是一个高性能,分布式内存对象缓存系统,通过在内存里维护一个统一的巨大的hash表,它能够用来存储各种格式的数据,包括图像,视频,文件以及数据库检索的结果等,简单地说就是将数据调用到内存中,然后从内存中读取,从而大大提高读取速度
Memcache特性:
1)使用物理内存作为缓存区,可独立运行在服务器上,每个进程最大是2G,如果想缓存更多的数据,可以开辟更多的memcache进程(不同端口)或者使用分布式memcache进行缓存,将数据缓存到不同的物理机或者虚拟机上
2)使用key-value的方式来存储数据,这是一种单索引的结构化数据组织形式,可使数据项查询时间复杂度为O(1)
3)协议简单: 基于文本行的协议,直接通过telnet在memcached服务器上可进行存取数据操作,简单,方便多种缓存参考此协议:
4)基于libevent高性能通信:Libevent是一套利用C开发的程序库,他将BSD系统的kqueue,Linux系统的epoll等事件处理功能封装成一个接口,与传统的select相比,提高了性能
5)内置的内存管理方式: 所有数据都保存在内存中,存取数据比硬盘快,当内存满后,通过LRU算法自动删除不使用的缓存,但没有考虑数据的容灾问题,重启服务,所有数据会丢失
6)分布式: 各个memcached服务器之间互不通信,各自独立存取数据,不共享任何信息,服务器并不具有分布式功能,分布式部署取决于memcache客户端
7)缓存策略: Memcached的缓存策略是LRU(最近最少使用)到期失效策略,在memcached内存储数据项时,可以指定他在缓存的失效时间,默认为永久,当memcached服务器用完分配时,失效的数据被首先替换,然后也是最近未使用的数据,在LRU中,memcached使用的是一种Lazy Expiration策略,自己不会监控存入的key/value是否过期,而是在获取key值时查看记录的时间戳,检查key/value对空间是否过期,这样可减轻服务器的负载
Memcache的工作流程如下:
1)先检查客户端的请求数据是否在memcached中,如有,直接把请求数据返回,不再对数据库进行任何操作
2)如果请求的数据不再memcached中,就去查数据库,把从数据库中获取的数据返回给客户端,同时把数据缓存一份到memcached中(memcached客户端不负责,需要程序实现)
3)每次更新数据库的同时更新memcached中的数据,保证数据一致性
4)当分配给memcached内存空间用完之后,会使用LRU策略加上到期失效策略,失效数据首先被替换,然后再替换最近未使用的数据
Redis
Redis是一个开源(BSD许可)的,基于内存的,多数据结构存储系统,可以用作数据库,缓存和消息中间件,支持多种类型的数据结构,如字符串(strings),散列(hashes),列表(lists),集合(sets),有序集合(sorted sets)与范围查询,bitmaps,hyperloglogs和地理空间(geospatial)索引半径查询
内置了 复制(replication),LUA脚本(Lua scripting),LRU驱动事件(LRU eviction),事务(transactions) 和不同级别的 磁盘持久化(persistence), 并通过Redis哨兵(Sentinel)和自动分区(Cluster)提供高可用性(high availability)
Redis常用数据类型
Redis最为常用的数据类型主要有以下:
a)String b)Hash c)List d)Set e)Sorted set f)pub/sub g)Transactions
各种数据类型应用和实现方式
下面我们先来逐一的分析这7种数据类型的使用和内部实现方式
a)String:
Strings数据结构是简单的key-value类型,value其实不仅是String,也可以是数字
常用命令:set,get,decr,incr,mget等
应用场景:String是最常用的一种数据类型,普通的key/value存储都可以归为此类,即可以完全实现目前Memcached的功能,并且效率更高。还可以享受Redis的定时持久化,操作日至以及Replication等功能,除了提供与Memcached一样的get、set、incr、decr等操作外,Redis还提供了下面一些操作:
比如我们要存储一个用户信息对象数据,包含以下信息:
用户ID为查找的key,存储的value用户对象包含姓名,年龄,生日等信息,如果用普通的key/value结构来存储,主要有以下2中存储方式:
第一张方式将用户id作为查找key,把其他信息封装成一个对象以序列化的方式存储,这种方式的缺点是,增加了序列化/反序列化的开销,并且在需要修改其中一项信息时,需要把整个对象取回,并且修改操作需要对并发进行保护,引入CAS等复杂问题
第二种方法是这个用户信息对象有多少成员就存在多少个key-value对儿,用户id+对应属性的名称作为唯一标识来取得对应属性的值,虽然省去了序列化开销和并发问题,但是用户id为重复存储,如果存在大量这样的数据,内存浪费还是非常可观的.
那么Redis提供的Hash很好的解决了这个问题,Redis的Hash实际是内部存储的Value为一个HashMap,并提供了直接存取这个Map成员的接口,如下图:
也就是说,Key仍然是用户ID, value是一个Map,这个Map的key是成员的属性名,value是属性值,这样对数据的修改和存取都可以直接通过其内部Map的Key(Redis里称内部Map的key为field), 也就是通过 key(用户ID) + field(属性标签) 就可以操作对应属性数据了,既不需要重复存储数据,也不会带来序列化和并发修改控制的问题。很好的解决了问题。
这里同时需要注意,Redis提供了接口(hgetall)可以直接取到全部的属性数据,但是如果内部Map的成员很多,那么涉及到遍历整个内部Map的操作,由于Redis单线程模型的缘故,这个遍历操作可能会比较耗时,而另其它客户端的请求完全不响应,这点需要格外注意。
实现方式:
上面已经说到Redis Hash对应Value内部实际就是一个HashMap,实际这里会有2种不同实现,这个Hash的成员比较少时Redis为了节省内存会采用类似一维数组的方式来紧凑存储,而不会采用真正的HashMap结构,对应的value redisObject的encoding为zipmap,当成员数量增大时会自动转成真正的HashMap,此时encoding为ht。
a)List
常用命令: lpush,rpush,lpop,rpop,lrange等
应用场景: Redis list的应用场景很多,也是Redis最重要的数据结构之一,比如twitter的关注列表,粉丝列表等都可以用redis的list结构来实现.
List就是链表,相信略有数据结构知识的人都应该能理解其结构,使用Lists结构,我们可以轻松地实现最新消息排行等功能,Lists的另一个应用就是消息队列,可以利用Lists的PUSH操作,然后工作线程再用POP操作将任务取出进行执行,Redis还提供了Lists中某一段的api,你可以直接查询,删除Lists中某一段的元素
实现方式: Redis list的实现为一个双向链表,即可以支持反向查找和遍历,更方便操作,不过带来了部分额外的内存开销,Redis内部的很多实现,包括发送缓冲队列等也都是用的这个数据结构.
b)Set
常用命令:sadd,spop,smembers,sunion等
应用场景:Redis set对外提供的功能与list类似是一个列表的功能,特殊之处在于set是可以自动排重的,当你需要存储一个列表数据,又不希望出现重复数据时,set是一个很好的选择,并且set提供了判断某个成员是否在一个set集合内的重要接口,这个也是list所不能提供的.
Sets集合的概念就是一堆不重复值得组合,利用Redis提供的Sets数据结构,可以存储一些集合性的数据,比如在微博应用中,可以将一个用户所有的关注人存在一个集合中,将其所有粉丝存在一个集合. Redis还为集合提供了求交集,并集,差集等操作,可以非常方便的实现如同共同关注,共同喜好,二度好友等功能,对上面的所有集合操作,还可以使用不同的命令选择将结果返回给客户端还是存集到一个新的集合中
实现方式: set的内部实现是一个value永远为null的HashMap,实际就是通过计算hash的方式来快速排重的,这也是set能提供的判断一个成员是否在集合内的原因
c)Sorted Set
常用命令:
zadd,zrange,zrem,zcard等
使用场景:
Redis sorted set的使用场景与set类似,区别是set不是自动有序的,而sorted set可以通过用户额外提供一个优先级(score)的参数来为成员排序,并且是插入有序的,即自动排序。当你需要一个有序的并且不重复的集合列表,那么可以选择sorted set数据结构,比如twitter 的public timeline可以以发表时间作为score来存储,这样获取时就是自动按时间排好序的。
另外还可以用Sorted Sets来做带权重的队列,比如普通消息的score为1,重要消息的score为2,然后工作线程可以选择按score的倒序来获取工作任务。让重要的任务优先执行。
实现方式:
Redis sorted set的内部使用HashMap和跳跃表(SkipList)来保证数据的存储和有序,HashMap里放的是成员到score的映射,而跳跃表里存放的是所有的成员,排序依据是HashMap里存的score,使用跳跃表的结构可以获得比较高的查找效率,并且在实现上比较简单。
d)Pub/Sub
Pub/Sub 从字面上理解就是发布(Publish)与订阅(Subscribe),在Redis中,你可以设定对某一个key值进行消息发布及消息订阅,当一个key值上进行了消息发布后,所有订阅它的客户端都会收到相应的消息。这一功能最明显的用法就是用作实时消息系统,比如普通的即时聊天,群聊等功能。
e)Transactions谁说NoSQL都不支持事务,虽然Redis的Transactions提供的并不是严格的ACID的事务(比如一串用EXEC提交执行的命令,在执行中服务器宕机,那么会有一部分命令执行了,剩下的没执行),但是这个Transactions还是提供了基本的命令打包执行的功能(在服务器不出问题的情况下,可以保证一连串的命令是顺序在一起执行的,中间有会有其它客户端命令插进来执行)。Redis还提供了一个Watch功能,你可以对一个key进行Watch,然后再执行Transactions,在这过程中,如果这个Watched的值进行了修改,那么这个Transactions会发现并拒绝执行。
Memcache与Redis比较:
1)数据结构: Memcache只支持key value存储方式,Redis支持更多的数据类型,比如key,value,hash,list,set,zset
2)多线程: Memcache支持多线程,Redis支持单线程; CPU利用方面Memcache优于Redis
3)持久化: Memcache不支持持久化,Redis支持持久化
4)内存利用率: memcache高,redis低(采用压缩的情况下比memcache高)
5)过期策略: memcache过期后,不删除缓存,会导致下次取数据数据的问题,redis有专门的线程,清除缓存数据