redis持久化配置

news2024/9/21 2:41:10

回顾:rpcbind111    nfs2049

redis高可用高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务(99.9%,99.99%,99.999%等)

还要考虑提供主从分离,快速容灾技术,考虑数据容量的扩展,数据安全不丢失等,

持久化:持久化最简单的高可用方法主要通过数据备份,保证数据不会因进程退出而不丢失

主从复制:主从复制是高可用的基础,哨兵和集群都是在主从复制的基础上实现的高可用,主从复制主要实现数据的多机备份,以及对读操作的负载均衡和简单故障回复,,缺陷故障回复无法自动化,写操作无法负载均衡,存储能力受到单机的限制

哨兵:主从复制的基础上,哨兵实现自动化故障回复,缺陷写操作无法负载均衡,存储能力收到单机的限制(单个组)

cluster集群:通过集群redis剞劂写操作无法负载均衡,以及存储能力收到单机限制的问题,实现较为完善的高可用方案(六台以上redis)

## Redis持久化 ##

方法:持久化的功能:Bedis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致redis进程异常退出后数据的永久丢失,需要定期将Rdis中的数据以某种形式(数据或命今)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。除此之外,为了进行灾难备份,以将持久化文件拷贝到一个远程位置。

rdb持久化:原理是将reids在内存中的数据记录定时保存在磁盘上(丢失58s)

aof:原理将redis的操作日志以追加的方式写入文件,类似于mysql的binlog(丢失1s)

rdb持久化是指在指定时间间隔内将内存中当进程中数据生成快照婢妾会做二进制压缩,保存的文件以rdb结尾

重启redis时,可以读取快照文件数据恢复

触发条件

手动出发:save会阻塞服务器进程到rdb文件创建完成fork(父进程生成子进程过程)

自动出发:

在自动触发RDB持久化时,Redis 也会选择bgsave而不是save来进行持久化。

自动触发最常见的情况是在配置文件中通过 save m n 指定当m秒内发生n次变化时,会触发bgsave。

save命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在Redis服务器阻塞期间,服务器不能处理任何命令请求。

而bgsave命令会创建一个子进程,由子进程来负责创建RDB文件,父进程(即Redis主进程)则继续处理请求。

bgsave命令执行过程中,只有fork子进程时会阻塞服务器,而对于save命令,整个过程都会阻塞服务器,因此save已基本被废弃,线上环境要杜绝save的使用,本地的源下载配置文件位置vim /usr/local/redis/conf/redis.conf

vim /etc/redis/6379.conf
--219行--以下三个save条件满足任意一个时,都会引起bgsave的调用
save 900 1 :当时间到900秒时,如果redis数据发生了至少1次变化,则执行bgsave
save 300 10 :当时间到300秒时,如果redis数据发生了至少10次变化,则执行bgsave
save 60 10000 :当时间到60秒时,如果redis数据发生了至少10000次变化,则执行bgsave
--254行--指定RDB文件名
dbfilename dump.rdb
--264行--指定RDB文件和AOF文件所在目录
dir /var/lib/redis/6379
--242行--是否开启RDB文件压缩
rdbcompression yes

save设置规则

配置文件save m n设置定时保存 其他一些过程会触发bgsave

主从复制场景,从节点全量复制

shutdown自动执行rdb持久化

rdb持久化过程

bgsave命令执行过程

2,执行流程

(1) Redis父进程首先判断:当前是否在执行save,或bgsave/bgrewriteaof的子进程,如果在执行则bgsave命令直接返回.bgsave/bgrewriteaof的子进程不能同时执行,主要是基于性能方面的考虑:两个并发的了进程同时预行人量的盛盘写操作,可能引起”重的性能题。

(2)父进程执行fork操作创建子进程,这个过程中父进程是阻寒的,Redis不能执行来自客户端的任何命令(3)父进程fork后,bgsave命令返回"Background saving started"信息并不再阻塞父进程,并可以响应其他命令

(4)子进程创建RDB文件,根据父进程内存快照生成临时快照文件,完成后对原有文件进行原子替换

(5)子进程发送信号给父进程表示完成,父进程更新统计信息

3.启动时加载RDB文件的载入工作是在服务器启动时自动执行的,并没有专门的命令。但是由于AOF的优先级更高,因此当AOF开启时,Bedis会优先载入GOF文件来恢复数据,只有当AOF关团时,才会在Redis服务器启动时检测RB文件,并自动载入。服务器载入RDB文件期间处于阳寒状态,直到载入成为止。Redis载入RDB文件时,会对RDB文件进行校验,如果文件损坏,则日志中会打印错误,Redis启动失败。

aof持久化

aof文件重写流程

rdb持久化是将进程数据写入文件,而aof持久化,则是将redis执行的没次写,删除命令记录到单独的日志,查询操作不会记录;

当redis重启是在执行aof

appendonly.aof

aof-lord-truncated yes 宕机等原因导致最后一条命令错误忽略最后一行错的文件

保存的文件

cd /usr/local/redis/data/appendonly

执行流程(过期数据删除,重复数据压缩)

由于需要记录Redis的每条写命令,因此AOF不需要触发,下面介绍AOF的执行流程。

AOF的执行流程包括:命令追加(append):将Redis的写命令追加到缓冲区aof_buf;文件写入(write)和文件同步(sync): 根据不同的同步策略将aof_buf中的内容同步到硬盘;文件重写(rewrite): 定期重写AOF文件,达到压缩的目的。

(1) 命令追加(append)

redis先将写命令追加到缓冲区,而不是直接写入文件,主要是为了避免每次有写命今都直接写入硬盘,导致硬盘IO成为Redis负载的瓶颈。命令追加的格式是Redis命今请求的协议格式,它是一种纯文本格式,具有兼容性好、可读性强、容易处理、操作简单避免二次开销等优点。在AOE文住中,除了用于指定数据库的select命令(如select 0为选中0号数据库) 是由Redis添加的,其他都是客户端发送来的写命令。

(2) 文件写入(write)和文件同步(sync)Redis提供了多种AOE缓存区的同步文件策略,策略涉及到操作系统的write函数和fsync函数,说明如下:为了提高文件写入效率,在现代操作系统中,当用户调用write函数将数据写入文件时,操作系统通常会将数据暂存到一个内存缓冲区里,当缓冲区被填满或超过了指定时限后,才真正将缓冲区的数据写入到硬盘里。这样的换作虽然提高了效率,但也带来了安全问题,如果计算机停机,内存缓区中的数据会丢失;因此系统同时提供了fsync、fdatasync等同步函数,可以强制操作系统立刻将缓冲区中的数据写入到硬盘里,从而确保数据的安全性

AOF缓存区的同步文件策略存在三种同步方式,它们分别是:vim /usr/local/redis/conf/redis.conf

-1439--

appendfsync always;

appendfsync no;

appendfsync everysec;

文件重写

AOF重写是把redis进程内的数据转化为写命令mysql dump进程只有现有数据的写入操作,二进制日志中

文件重写之所以能够压缩AOE文件,原因在于:。过期的数据不再写入文件无效的命令不再写入文件:如有些数据被重复设值(set mykey vlset mykey v2)、有些数据被删除了(set myset vl,del myset)等多条命今可以合并为一个: 如sadd myset vl,sadd myset v2,sadd myset v3可以合并为sad myset vl v2 v3通过上述内容可以看出,由于重写后AOE执行的命令减少了,文件重写既可以减少文件占用的空间,也可以加快恢复速度。文件重写的触发,分为手动触发和自动触发.

手动触发:直接调用bgremriteaof命令,该命令的执行与bgsave有些类似:都是fork子进程进行具体的工作,且都只有在fork时阳塞。

自动触发:通过设置auto-aof-rewrite-min-size选项和auto-aof-rewrite-percentage选项来自动执行BGREMRITEAOF。只有当aut-aof-remrite-min-sizeauto-aof-rerite-percentage两个选项同时满足时,才会自动触发AOF重写,即bgrewriteaof操作。

包括其他命令

vim /usr/local/redis/conf/redis.conf

1480

auto-aof-rewrite-percentage 100

当前AOF文件大小(即aof_current_size)是上次日志重写时AOE文件大小(aof_base_size)两倍时,发生BGREMRITEAOF操作

auto-aof-rewrite-min-size 64mb

当前AOE文件执行BGREMRITEAOE命令的最小值,避免刚开始启动Reids时由于文件尺寸较小导致频繁的BGREWRITEAOE

rdb持久化和aof优缺点

RDB持久化优点:EDB文件紧凑,体积小,网络传输快,适合全量复制,恢复速度比EOE快很多。当然,与A相比,EDB最重要的优点之一是对性能的影响相对。

缺点:EDB文件的致命缺点在于其数据快照的持久化方式决定了必然做不到实时持久化,而在数据越来越重要的今天,数据的大量丢失很名时候是于法接受的,因此AOF持久化成为主流。此外,RDB文件需要满足特定格式,兼容性差(如老版本的Redis不兼容新版本的RDB文件)。对于RDB持久化,一方面是basave在进行fork操作时Redis主进程会阻塞,另一方面,子进程向硬写数据也会带来IO压力。

AOF持久化与RDB持久化相对应,AOE的优点在于支持秒级持久化、兼容性好,缺点是文件大、恢复速度慢、对性能影响大。对于AOF持久化,向硬盘写数据的频率大大提高(everysec策略下为秒级),10压力更大,甚至可能造成AOF追加阻塞问题。AOE文件的重写与RDB的bqsave类似,会有frk时的阻塞和子进程的I0压力问题。相对来说,由于AOE向硬盘中写数据的频率更高,因此对Redis主进程性能的影响会更人。

rdb持久化和aof的区别?

rdb持久化,定时把redis内存中的数据进行快照和压缩保存rdb保存的文件占用空间小,网络速度快,恢复速度比aof快,但兼容性较差,rdb持久化期间在fork子进程时会阻塞父进程,由于是定时持久化,实时性不如aof

aof持久化,以追加的方式将redis写的操作命令记录到文件中,实时性较好,支持秒级持久化,兼容性较好,缺点是持久化的问文件占用空间较大,恢复速度较慢,对io性能消耗更大aof文件重写期间,在fork子进程时会阻塞父进程,且对io性能损耗更大

info memory查看内存使用

mem_fragmentation_ratio 内存碎片率

used_memiry_rss 是redis向操作系统申请的内存

used_memiry 是redis中数据占用的内存

used_memiry_peak 是内存使用的峰值

redis实例的内存使用率超过最大内存,操作系统开始进行内存与swap空间交换

避免内存交换的方法:

针对缓存数据大小选择安装redis实例

设置key的过期时间

尽可能使用hash存储数据结构

#内存碎片如何产生的?
Redis内部有自己的内存管理器,为了提高内存使用的效率,来对内存的申请和释放进行管理。
Redis中的值删除的时候,并没有把内存直接释放,交还给操作系统,而是交给了Redis内部有内存管理器。
Redis中申请内存的时候,也是先看自己的内存管理器中是否有足够的内存可用。
Redis的这种机制,提高了内存的使用率,但是会使Redis中有部分自己没在用,却不释放的内存,导致了内存碎片的发生。

#跟踪内存碎片率对理解Redis实例的资源性能是非常重要的:
●内存碎片率在1到1.5之间是正常的,这个值表示内存碎片率比较低,也说明 Redis 没有发生内存交换。
●内存碎片率超过1.5,说明Redis消耗了实际需要物理内存的150%,其中50%是内存碎片率。
●内存碎片率低于1的,说明Redis内存分配超出了物理内存,操作系统正在进行内存交换。需要增加可用物理内存或减少 Redis内存占用。
 

内存回收策略

key回收策略默认是禁止删除

vim /usr/local/redis/conf/redis.conf

1149

volatile-lru移除最近最少的key,针对设置ttl的key

volatile-ttl即将过期的键

volatile-random随机ttl里设置的key随机删

allkeys-lru最少

allkeys-random从数据集合随机淘汰key

redis优化

开启aof优化

设置config set activefrag yes 开启内存碎片自动清理或,定时执行memory purge清理内存碎片

设置 内存数据淘汰测策略 maxmemory-policy实现保证内

布隆特性过滤不到数据一定没有,避免对底层存储系统的查询

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/536374.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

在 React 中使用 highlight.js 和 Clipboard.js 实现代码块和复制功能

参考链接:https://blog.csdn.net/huangjuan0229/article/details/130319050 在前端开发中,代码块高亮和复制功能是十分常见的需求。而在 React 中,常用的代码高亮库是 highlight.js,常用的复制库是 Clipboard.js。本篇文章将介绍…

新版 钥证书模式加签模式支付宝官方支付对接·错误代码 missing-signature 错误原因: 缺少签名参数 解决方案

新版密钥证书加签模式支付宝官方支付对接错误代码 missing-signature 错误原因: 缺少签名参数 解决方案 大家好我是优雅草伊凡,最近处理的问题特别多每天忙得不可开交,但是我相信后续要写的内容和记录下的问题是越来越多了,其他同事忙着开发…

10-02 单元化架构核心问题与概念

单元化架构产生的原因 应对增长 传统架构无法处理日益增长的互联网用户需求扩容 需要新架构更近一部提升了系统的扩展能力系统稳定性 新架构需要高可用、相对独立和故障隔离使整体系统更稳定灰度发布 系统和组件都纳入版本管理,按需部署进行灰度发布 核心问题 应…

成都待慕电商:抖音百亿现金扶持商家

新京报贝壳财经讯5月16日,抖音电商在广州举办第三届生态大会。抖音电商总裁魏雯雯透露,过去一年,抖音电商GMV(商品交易总额)同比增长80%,其中,货架场景GMV占比达30%,平台售出超300亿…

公司新招了个字节拿36K的人,让我见识到了什么才是测试扛把子......

5年测试,应该是能达到资深测试的水准,即不仅能熟练地开发业务,而且还能熟悉项目开发,测试,调试和发布的流程,而且还应该能全面掌握数据库等方面的技能,如果技能再高些的话,甚至熟悉分…

【目标检测】基于yolov5的交通标志检测和识别(可识别58种类别,附代码和数据集)

写在前面: 首先感谢兄弟们的订阅,让我有创作的动力,在创作过程我会尽最大能力,保证作品的质量,如果有问题,可以私信我,让我们携手共进,共创辉煌。 文末附项目代码和数据集,请看检测效果: 1. 介绍 YOLOv5是一种用于目标检测的深度学习算法,它能够在高速和高精度的情…

Spring中的@Value注解详解

Spring中的Value注解详解 概述 本文配置文件为yml文件 在使用spring框架的项目中,Value是经常使用的注解之一。其功能是将与配置文件中的键对应的值分配给其带注解的属性。在日常使用中,我们常用的功能相对简单。本文使您系统地了解Value的用法。 Value…

人工智能的新时代:讯飞星火大模型Vs ChatGPT

近日,科大讯飞召开了星火认知大模型成果发布会,会上表示讯飞星火大模型将突破开放式问答,对标ChatGPT,在中文能力上超过ChatGPT,在英文能力上与ChatGPT相当。对此,你怎么看? 一、你有使用过这种…

在 Golang 中执行 Shell 命令

原文标题:Executing Shell Commands in Golang 作者:Soham Kamani 之前自己也写过 os/exec 包执行 Shell 命令的文章,但是没有这篇讲的详细,感兴趣可以看看,点此处。 在本教程中,我们将学习如何在 Golang …

融云 WICC 2023 定档!「出海嘉年华」穂城来袭!

集赞获纸质版《作战地图》 阔别一年,通信行业年度盛会 WICC 即将重磅回归。移步【融云全球互联网通信云】回复“地图”免费领 6 月 2 日(周五),融云与白鲸出海联合主办、以“聚势突围,布局全球”为主题的“WICC 社交…

进程线程常见面试题及基础知识

1 进程 我们编写的代码只是一个存储在硬盘的静态文件,通过编译后就会生成二进制可执行文件,当我们运行这个可执行文件后,它会被装载到内存中,接着 CPU 会执行程序中的每一条指令,那么这个运行中的程序,就被…

一起内核线程异常占用CPU资源的排查过程

1、软硬件环境 硬件: NXP LS1043A 4核 cortex-A53 软件: linux 5.10.35 2、问题现象 最近有个产品要把内核从4.19升级到 5.10.35版本,产品在内核版本4.19工作正常,升级到5.10.35以后,产品在不接任何外设,…

【基础1】SQL 数据库分类 代码建库、代码修改属性 代码建表 代码修改数据表属性 代码为数据表插入信息 数据的修改与删除

目录 数据库基础 代码建库 数据完整性 代码建表 数据库基础 系统数据库:master、model、tempdb、madb数据库文件的组成:【数据文件可以放在不同的文件组里】 主数据文件:*.mdf 主数据文件只能有一个次要数据文件:*.ndf日志文…

DolphinScheduler 集群模式部署

文章目录 DolphinScheduler 集群模式部署一、集群规划1、前置准备工作2、解压DolphinScheduler 安装包3、创建元数据库及用户 二、配置一键部署脚本1、初始化数据库2、一键部署 DolphinScheduler3、DolphinScheduler 启停命令 DolphinScheduler 集群模式部署 一、集群规划 集…

01.数据结构和算法概述

前言 数据结构是一个古老的课题。他与程序开发息息相关,但是我们日常开发中,好像很少让我们自己设计一个数据结构。只求程序能跑,并不太关注性能。但是它是我们软件开发人员的基本功,也是拉开普通程序员和高级程序员的一个门槛&a…

Selenium浏览器交互原理与应用,玩转Web自动化测试

目录 前言: 浏览器交互: Selenium的实现方式: Selenium WebDriver: WebDriver的等待机制: 总结: Web自动化测试: 前言: Web自动化测试是现代软件开发中必不可少的一个环节,它可以帮助开发人员快速自动…

ChatGPT4通道开放接入基于OPEN AI 平台你的任何APP 可一键接入AI 智能

你一定很好奇什么是 OPEN AI快速开发平台 顾名思义,开放的OPEN AI平台。 基于这个平台你的上层应用,如何 APP,小程序,H5,WEB, 公众号,任何一切终端都可以轻松接入,AI智能应用。 开发初衷 爆肝一周,我开源了ChatGPT 中文版接口&a…

Win11右键菜单选项变成英文了怎么恢复回来?

Win11右键菜单选项变成英文了怎么恢复回来?有用户在使用Win11系统的时候,遇到了右键菜单选项的一些选项变成英文的情况,导致自己的使用受到了影响。那么这个情况怎么去进行解决呢?来看看以下的解决方法吧。 方法一:直接…

零基础学网络安全?一般人我还是劝你算了吧

一、网络安全学习的误区 1.不要试图以编程为基础去学习网络安全 不要以编程为基础再开始学习网络安全,一般来说,学习编程不但学习周期长,且过渡到网络安全用到编程的用到的编程的关键点不多。一般人如果想要把编程学好再开始学习网络安全往…

mathtype公式符号显示不对

文章目录 问题解决方法结果 记录攥写论文遇到的问题及解决方法 问题 使用mathtype编辑公式过后,发现公式显示不对,出现两种问题: 1:部分符号变为方框 2:符号大小异常 例如: 解决方法 第一种&#xff1a…