Redis原理篇—内存回收
笔记整理自 b站_黑马程序员Redis入门到实战教程
内存过期策略-过期key处理
Redis 之所以性能强,最主要的原因就是基于内存存储。然而单节点的 Redis 其内存大小不宜过大,会影响持久化或主从同步性能。
我们可以通过修改配置文件来设置 Redis 的最大内存:
当内存使用达到上限时,就无法存储更多数据了。
为了解决这个问题,Redis 提供了一些策略实现内存回收:
- 内存过期策略
- 内存淘汰策略
在学习 Redis 缓存的时候我们说过,可以通过 expire 命令给 Redis 的 key 设置 TTL(存活时间):
可以发现,当 key 的 TTL 到期以后,再次访问 name 返回的是 nil,说明这个 key 已经不存在了,对应的内存也得到释放。从而起到内存回收的目的。
这里有两个问题需要我们思考:
- Redis 是如何知道一个 key 是否过期呢?
- 是不是 TTL 到期就立即删除了呢?
过期策略-DB结构
Redis 本身是一个典型的 key-value 内存存储数据库,因此所有的 key、value 都保存在之前学习过的 Dict 结构中。
不过在其 database 结构体中,有两个 Dict:一个用来记录 key-value;另一个用来记录 key-TTL。
答案
- Redis 是如何知道一个 key 是否过期呢?
- 利用两个 Dict 分别记录 key-value 对 及 key-ttl 对
- 是不是 TTL 到期就立即删除了呢?
- 惰性删除
- 周期删除
惰性删除
- 并不是在 TTL 到期后就立刻删除,而是在访问一个 key 的时候,检查该 key 的存活时间,如果已经过期才执行删除。
这样就可能会存在一个问题:假如这个 key 已经过期了很久了,但一直未被访问过,所以它一直没有被删除。所以就需要下面的周期删除。
周期删除
- 通过一个定时任务,周期性的抽样部分过期的 key,然后执行删除。
执行周期有两种:
-
Redis 服务初始化函数 initServer() 中设置一个定时任务 serverCron(),按照 server.hz 的频率来执行过期 key 清理,模式为 SLOW
-
Redis 的每个事件循环前会调用 beforeSleep() 函数,执行过期 key 清理,模式为 FAST
SLOW 模式规则:
- 执行频率受 server.hz 影响,默认为 10,即每秒执行 10 次,每个执行周期 100ms
- 执行清理耗时不超过一次执行周期的 25%,默认 slow 模式耗时不超过 25ms
- 逐个遍历 db,逐个遍历 db 中的 bucket,抽取 20 个 key 判断是否过期
- 如果没达到时间上限(25ms)并且过期 key 比例大于 10%,再进行一次抽样,否则结束
FAST 模式规则(过期 key 比例小于 10% 不执行):
- 执行频率受 beforeSleep() 调用频率影响,但两次 FAST 模式间隔不低于 2ms
- 执行清理耗时不超过 1ms
- 逐个遍历 db,逐个遍历 db 中的 bucket,抽取 20 个 key 判断是否过期
- 如果没达到时间上限(1ms)并且过期 key 比例大于 10%,再进行一次抽样,否则结束
总结
Redis-Key 的 TTL 记录方式:
- 在 RedisDB 中通过一个 Dict 记录每个 Key 的 TTL 时间
过期 key 的删除策略:
- 惰性清理:每次查找 key 时判断是否过期,如果过期则删除
- 定期清理:定期抽样部分 key,判断是否过期,如果过期则删除。
- 定期清理的两种模式:
- SLOW 模式执行频率默认为 10,每次不超过 25ms
- FAST 模式执行频率不固定,但两次间隔不低于 2ms,每次耗时不超过 1ms
- 定期清理的两种模式:
内存淘汰策略
内存淘汰
内存淘汰:就是当 Redis 内存使用达到设置的上限时,主动挑选部分 key 删除以释放更多内存的流程。
Redis 会在任何的命令执行之前去做内存检查,它会在处理客户端命令的方法 processCommand() 中尝试做内存淘汰:
淘汰策略
Redis 支持 8 种不同策略来选择要删除的 key:
- noeviction:不淘汰任何 key,但是内存满时不允许写入新数据,默认就是这种策略
- volatile-ttl:对设置了 TTL 的 key,比较 key 的剩余 TTL 值,TTL 越小越先被淘汰
- allkeys-random:对全体 key,随机进行淘汰。也就是直接从 db->dict 中随机挑选
- volatile-random:对设置了 TTL 的 key,随机进行淘汰。也就是从 db->expires 中随机挑选
- allkeys-lru:对全体 key,基于 LRU 算法进行淘汰
- volatile-lru:对设置了 TTL 的 key,基于 LRU 算法进行淘汰
- allkeys-lfu:对全体 key,基于 LFU 算法进行淘汰
- volatile-lfu:对设置了 TTL 的 key,基于 LFU 算法进行淘汰
比较容易混淆的有两个:
- LRU(Least Recently Used),最少最近使用。用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高。
- LFU(Least Frequently Used),最少频率使用。会统计每个 key 的访问频率,值越小淘汰优先级越高。
Redis 的数据都会被封装为 RedisObject 结构:
LFU 的访问次数之所以叫做逻辑访问次数,是因为并不是每次 key 被访问都计数,而是通过运算:
- 生成 0~1 之间的随机数 R
- 计算
1/(旧次数 * lfu_log_factor + 1)
,记录为 P,lfu_log_factor 默认为 10 - 如果 R < P,则计数器 + 1,且最大不超过 255
- 访问次数会随时间衰减,距离上一次访问时间每隔 lfu_decay_time 分钟(默认为 1),计数器 -1
最后用一副图来描述当前的这个流程吧: