Redis内存回收
Redis之所以性能强,最主要的原因就是基于内存操作。然而单节点的Redis其内存大小不宜过大,否则会影响持久化或主从同步性能。
可以通过修改配置文件来设置Redis的最大内存:
# 格式:
# maxmemory <bytes>
# 例如:
maxmemory 1gb
当内存使用达到上限时,就无法存储更多数据了。为了解决这个问题,Redis提供了一些策略实现内存回收:
内存过期
策略内存淘汰
策略
过期策略
通过expire命令给Redis的key设置TTL(存活时间):
当key的TTL到期以后,再次访问name返回的是nil,说明这个key已经不存在了,对应的内存也得到释放。从而起到内存回收的目的。
DB结构
Redis本身是一个典型的key-value内存存储数据库,所有的key、value都保存在Dict结构中。不过在其database结构体中,有两个Dict:一个用来记录key-value;另一个用来记录key-TTL。
Redis利用两个Dict分别记录key-value对及key-ttl对
知道一个key是否过期
TTL到期也不是立即删除,有以下两种策略:
- 惰性删除
- 周期删除
惰性删除
惰性删除: 顾明思议并不是在TTL到期后就立刻删除,而是在访问(增删改查)一个key的时候,检查该key的存活时间,如果已经过期才执行删除
。
有一些key已过期但是这些key长时间未被访问,就不会触发惰性删除,此时周期删除就起作用了
周期删除
周期删除:顾明思议是通过一个定时任务
,周期性的抽样部分过期的key,然后执行删除。执行周期有两种:
- Redis服务初始化函数initServer()中设置定时任务,按照server.hz的频率来执行过期key清理,模式为SLOW
- Redis的每个事件循环前会调用beforeSleep()函数,执行过期key清理,模式为FAST
SLOW模式规则:
①执行频率受server.hz影响,默认为10,即每秒执行10次,每个执行周期100ms。
②执行清理耗时不超过一次执行周期的25%.默认slow模式耗时不超过25ms
③逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期
④如果没达到时间上限(25ms)并且过期key比例大于10%,再进行一次抽样,否则结束
FAST模式规则(过期key比例小于10%不执行 ):
①执行频率受beforeSleep()调用频率影响,但两次FAST模式间隔不低于2ms
②执行清理耗时不超过1ms
③逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期
④如果没达到时间上限(1ms)并且过期key比例大于10%,再进行一次抽样,否则结束
小结
RedisKey的TTL记录方式:
- 在RedisDB中通过一个Dict记录每个Key的TTL时间
过期key的删除策略:
惰性清理
:每次查找key时判断是否过期,如果过期则删除定期清理
:定期抽样部分key,判断是否过期,如果过期则删除。
定期清理的两种模式
:
- SLOW模式执行频率默认为10,每次不超过25ms
- FAST模式执行频率不固定,但两次间隔不低于2ms,每次耗时不超过1ms
八种淘汰策略
redis内存已满(没有过期key要删除),仍要添加一些key,此时需要删除一些key
内存淘汰:就是当Redis内存使用达到设置的上限时,主动挑选部分key删除以释放更多内存的流程。Redis会在处理客户端命令
的方法processCommand()中尝试做内存淘汰:
Redis支持8种不同策略
来选择要删除的key:
- noeviction: 不淘汰任何key,但是内存满时不允许写入新数据,默认策略。
- volatile-ttl: 对设置了TTL的key,比较key的剩余TTL值,TTL越小越先被淘汰
- allkeys-random:对全体key ,随机进行淘汰。也就是直接从db->dict中随机挑选
- volatile-random:对设置了TTL的key ,随机进行淘汰。也就是从db->expires中随机挑选。
- allkeys-lru: 对全体key,基于LRU算法进行淘汰
- volatile-lru: 对设置了TTL的key,基于LRU算法进行淘汰
- allkeys-lfu: 对全体key,基于LFU算法进行淘汰
- volatile-lfu: 对设置了TTL的key,基于LFI算法进行淘汰
allkeys/volatile -> 所有key/待过期的key里挑选
- LRU(Least Recently Used),
最少最近使用
。用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高。 - LFU(Least Frequently Used),
最少频率使用
。会统计每个key的访问频率,值越小淘汰优先级越高。
配置文件配置策略:
Redis的数据都会被封装为RedisObject结构:
LFU的访问次数之所以叫做逻辑访问次数,是因为并不是每次key被访问都计数,而是通过运算:
①生成0~1之间的随机数R
②计算 (旧次数 * lfu_log_factor + 1),记录为P
③如果 R < P ,则计数器 + 1,且最大不超过255(八位只能存到255,因此不能存储真实访问次数,高并发场景一个key会被访问数万次)
④访问次数会随时间衰减,距离上一次访问时间每隔 lfu_decay_time 分钟,计数器 -1(上来一个key访问频率很高,使得逻辑访问次数达到了255,长时间不访问,逻辑访问次数会衰减)
淘汰策略流程图:
池子容量有限,存入池子之前(池子满了的情况下)需要判断是否小于池子中最小key,满足直接删除,一定要大于池子中某个key才能存入池子