redis 持久化 RDB + AOF
1.redis持久化----两种方式
RDB(Redis DataBase)和AOF(Append Only File)
RDB,简而言之,就是在不同的时间点,将redis存储的数据生成快照并存储到磁盘等介质上
AOF,那就是将redis执行过的所有写指令记录下来,在下次redis重新启动时,只要把这些写指令从前到后再重复执行一遍,就可以实现数据恢复了。
RDB + AOF 如果redis重启的话,则会优先采用AOF方式来进行数据恢复,这是因为AOF方式的数据恢复完整度更高。
2.RDB快照(Redis DataBase snapshot)
在默认情况下,Redis 将内存数据库快照保存在名字为 dump.rdb 的二进制文件中。你可以对 Redis 进行设置, 让它在“下秒内数据集至少有M个改动”这一条件被满足时,自动保存一次数据集。比如说,以下设置会让 Redis 在满足“60 秒内有至少有 1000 个键被改动”这一条件时,自动保存一次数据集:
# save 60 1000 //关闭RDB只需要将所有的save保存策略注释掉即可 save会阻塞其他命令
还可以手动执行命令生成RDB快照,进入redis客户端执行命令save或bgsave可以生成dump.rdb文件,每次命令执行都会将所有redis内存快照到一个新的rdb文件里,并覆盖原有rdb快照文件。
2.1bgsave的写时复制(COW)机制
Redis 借助操作系统提供的写时复制技术 (Copy-0n-Wite,COW),在生成快照的同时,依然可以正常处理写命令。简单来说ogsave 子进程是由主线程 fok 生成的,可以共享主线程的所有内存数据。bgsave 子进程运行后,开始读取主线程的内存数据,并把它们写入 RDB 文件。此时,如果主线程对这些数据也都是读操作,那么,主线程和 basave 子进程相互不影响。但是,如果主线程要修改块数据,那么,这块数据就会被复制一份,生成该数据的副本,然后,bgsave 子进程会把这个副本数据写入 RDB 文件,而在这个过程中,主线程仍然可以直接修改原来的数据
Save 会阻塞redis的其他命令,bgsave 不会阻塞会在一段时间内完成对redis的内容的复制,在这段时间内也会有redis的命令会同步到这个RDB文件当中
2.2 RDB的会出现的问题
2.2.1 sava和bgsave会出现的问题
Save 会阻塞redis的其他命令,bgsave 不会阻塞会在一段时间内完成对redis的内容的复制,在这段时间内也会有redis的命令会同步到这个RDB文件当中
2.2.2 save 会出现的问题
save 是在间隔一点时间的某个时间点、每n次操作,去记录redis的全部数据,但是在这段时间内某个数据可能已经呗修改过很多次,如果redis宕机 也会丢失文件,AOF可以解决这个问题
开启appendonly yes 记录每次redis操作的命令
appendfsync always: 每次有新命令追加到 AOF 文件时就执行一次 fsync ,非常慢,也非常安全 「对redis性能有很大影响」
appendfsync everysec:(默认)每秒 fsync 一次,足够快,并且在故障时只会丢失 1 秒钟的数据。
appendfsync no: 从不 fsync ,将数据交给操作系统来处理。更快,也更不安全的选择。
执行的命令 set lakers KB
*3 //三个参数
$3 //第一个参数的长度3
set //第一个参数的值
$6
lakers
$2
KB
AOF中有很多的文件没有实际的被存储的价值,比如累加等命令,AOF中会记录n条记录,实际上在回复的时候只需要set 为n 一条命令就可以恢复,于是提出了AOF重写的优化
# auto-aof-rewrite-min-size 64mb //aof文件至少要达到64M才会自动重写,文件太小恢复速度本来就很快,重写的意义不大
# auto-aof-rewrite-percentage 100 //aof文件自上一次重写后文件大小增长了100%则再次触发重写
达到64mb会优化一次,对AOF的命令进行重写,减少没有必要的命令
redisRDB和AOF都可以开启,当redis宕机的时候redis默认使用AOF回复数据,因为AOF数据会更安全一点
3.Redis 4.0 混合持久化
重启Redis时,我们很少使用RDB来恢复内存状态,因为会丢失大量数据。我们通常使用AOF 日志重放,但是重放 AOF日志性能相对RDB来说要慢很多,这样在Redis实例很大的情况下,启动需要花费很长的时间。Redis4.0为了解决这个问题,带来了一个新的持久化选项–混合持久化。
通过如下配置可以开启混合持久化(必须先开启aof):
aof-use-rdb-preamble yes
如果开启了混合持久化,AOF在重写时,不再是单纯将内存数据转技换为RESP命令写入AOF文件,而是将重写这一刻之前的内存做RDB快照处理,并且将RDB快照内容和增量的AOF修改内存数据的命令有存在一起,都写入新的AOF文件,新的文件一开始不叫 appendonlyaof,等到重写完新的AOF文件才会进行改名,覆盖原有的AOF文件,完成新旧两个AOF文件的替换。
于是在Redis重启的时候,可以先加载RDB的内容,然后再重放增量AOF日志就可以完全替代之前的AOF全量文件重放,因此重启效率大幅得到提升。
混合持久化AOF文件结构如下
每AOF重写一次就会将AOF文件转化为RDB文件
混合持久化必须开启AOF可以关掉RDB,实质是使用AOF方式在重写的过程中将之前的AOF文件优化成RDB
4.redis文件恢复
只要启动的时候存储数据的aof文件或者rdb文件存在就可以主动的恢复redis
4.1Redis数据备份策略:
1.写crontab定时调度脚本,每小时都copy一份rdb或aof的备份到一个目录中去,仅仅保留最近48小时的备份
2.每天都保留一份当日的数据备份到一个目录中去,可以保留最近1个月的备份
3.每次copy备份的时候,都把太旧的备份给删了
4.每天晚上将当前机器上的备份复制一份到其他机器上,以防机器损坏