Redis-06丨Redis过期策略和内存淘汰机制

Posted by jiefang on November 20, 2019

Redis过期策略和淘汰机制

三种过期策略

  • 定时删除
    • 含义:在设置key的过期时间的同时,为该key创建一个定时器,让定时器在key的过期时间来临时,对key进行删除。
    • 优点:保证内存被尽快释放。
    • 缺点:
      • 若过期key很多,删除这些key会占用很多的CPU时间,在CPU时间紧张的情况下,CPU不能把所有的时间用来做要紧的事儿,还需要去花时间删除这些key。
      • 定时器的创建耗时,若为每一个设置过期时间的key创建一个定时器(将会有大量的定时器产生),性能影响严重。
      • 没人用。
  • 惰性删除
    • 含义:key过期的时候不删除,每次从数据库获取key的时候去检查是否过期,若过期,则删除,返回null。
    • 优点:删除操作只发生在从数据库取出key的时候发生,而且只删除当前key,所以对CPU时间的占用是比较少的,而且此时的删除是已经到了非做不可的地步(如果此时还不删除的话,我们就会获取到了已经过期的key了)。
    • 缺点:若大量的key在超出超时时间后,很久一段时间内,都没有被获取过,那么可能发生内存泄露(无用的垃圾占用了大量的内存)。
  • 定期删除
    • 含义:每隔一段时间执行一次删除过期key操作。
    • 优点: 通过限制删除操作的时长和频率,来减少删除操作对CPU时间的占用–处理”定时删除”的缺点,定期删除过期key–处理”惰性删除”的缺点
  • 缺点
    • 在内存友好方面,不如”定时删除”。
  • 在CPU时间友好方面,不如”惰性删除”。
  • 难点 合理设置删除操作的执行时长(每次删除执行多长时间)和执行频率(每隔多长时间做一次删除)(这个要根据服务器运行情况来定了)。

Redis过期策略

惰性删除+定期删除

  • 惰性删除流程
    • 在进行get或setnx等操作时,先检查key是否过期;
    • 若过期,删除key,然后执行相应操作;
    • 若没过期,直接执行相应操作。
  • 定期删除流程
    • 遍历每个数据库(就是redis.conf中配置的”database”数量,默认为16);
    • 检查当前库中的指定个数个key(默认是每个库检查20个key,注意相当于该循环执行20次);
      • 如果当前库中没有一个key设置了过期时间,直接执行下一个库的遍历;
      • 随机获取一个设置了过期时间的key,检查该key是否过期,如果过期,删除key;
      • 判断定期删除操作是否已经达到指定时长,若已经达到,直接退出定期删除;

RDB对过期key的处理

过期key对RDB没有任何影响。

  • 从内存数据库持久化数据到RDB文件:持久化key之前,会检查是否过期,过期的key不进入RDB文件;
  • 从RDB文件恢复数据到内存数据库:数据载入数据库之前,会对key先进行过期检查,如果过期,不导入数据库(主库情况);

AOF对过期key的处理

过期key对AOF没有任何影响。

  • 从内存数据库持久化数据到AOF文件:
    • 当key过期后,还没有被删除,此时进行执行持久化操作(该key是不会进入aof文件的,因为没有发生修改命令);
    • 当key过期后,在发生删除操作时,程序会向aof文件追加一条del命令(在将来的以aof文件恢复数据的时候该过期的键就会被删掉);
  • AOF重写
    • 重写时,会先判断key是否过期,已过期的key不会重写到aof文件 ;

内存淘汰机制

Redis 内存淘汰机制有以下几个:

  • noeviction(默认):当内存不足以容纳新写入数据时,对于写请求不再提供服务,直接返回错误;
  • volatile-lru:当内存不足以容纳新写入数据时,从设置了过期时间的key中使用LRU算法进行淘汰;
  • volatile-random:当内存不足以容纳新写入数据时,volatile-random:从设置了过期时间的key中随机淘汰;
  • volatile-ttl:当内存不足以容纳新写入数据时,在设置了过期时间的key中,根据key的过期时间进行淘汰,越早过期的越优先被淘汰;
  • volatile-lfu:从已设置过期时间的数据集挑选使用频率最低的数据淘汰;
  • allkeys-lru:当内存不足以容纳新写入数据时,从所有key中使用LRU算法进行淘汰;
  • allkeys-lfu:从数据集中挑选使用频率最低的数据淘汰;
  • allkeys-random:当内存不足以容纳新写入数据时,从所有key中随机淘汰数据;

实现LRU

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
class LruCache<K,V>  extends LinkedHashMap {
    private final int CACHE_SIZE;

    LruCache(int cacheSize) {
        // true 表示让 linkedHashMap 按照访问顺序来进行排序,最近访问的放在头部,最老访问的放在尾部。
        super((int) Math.ceil(cacheSize / 0.75) + 1, 0.75f, true);
        CACHE_SIZE = cacheSize;
    }

    @Override
    protected boolean removeEldestEntry(Map.Entry eldest) {
        //当 map中的数据量大于指定的缓存个数的时候,就自动删除最老的数据。
        return size() > CACHE_SIZE;
    }
}