9、Redis集群(cluster)

news2024/11/16 8:54:01

是什么
Redis集群是一个提供在多个Redis节点间共享数据的程序集,Redis集群可以支持多个master
在这里插入图片描述
能干嘛
Redis集群支持多个master,每个master又可以挂载多个slave
读写分离
支持数据的高可用
支持海量数据的读写存储操作
由于Cluster自带Sentinel的故障转移机制,内置了高可用的支持,无需再去使用哨兵功能}
客户端与Redis的节点连接,不再需要连接集群中所有的节点,只需要任意连接集群中的一个可用节点即可
槽位slot负责分配到各个物理服务节点,由对应的集群来负责维护节点、插槽和数据之间的关系
集群算法-分片-槽位slot
redis集群的槽位slot
Redis集群的数据分片

Redis集群没有使用一致性hash 而是引入了哈希槽的概念。

Redis集群有16384个哈希槽每个key通过CRC16校验后对16384取模来决定放置哪个槽,集群的每个节点负责一部分hash槽,举个例子,比如当前集群有3个节点,那么:
在这里插入图片描述
redis集群的分片
在这里插入图片描述
分片和槽位的优势

最大优势,方便扩缩容和数据分派查找}

这种结构很容易添加或者删除节点,比如如果我想添加个节点D,我需要从节点A,B,C中得部分槽位到D上。如果我想一出节点A,需要将A中的槽移动到B和C节点上,然后将没有任何槽的节点从集群中移除即可。由于一个结点将哈希槽移动到另一个节点不会停止服务,所以无论添加删除或者改变某个节点的哈希槽的数量都不会造成集群不可用的状态。

在这里插入图片描述
slot槽位映射,一般业界有三种解决方案
哈希取余分区(小厂)

在这里插入图片描述
2亿条记录就是2亿个k,v,我们单机不行必须要分布式多机,假设有3台机器构成一个集群,用户每次读写操作都是根据公式:

hash(key) % N个机器台数,计算出哈希值,用来决定数据映射到哪一个节点上。

优点:

简单粗暴,直接有效,只需要预估好数据规划好节点,例如3台、8台、10台,就能保证一段时间的数据支撑。使用Hash算法让固定的一部分请求落到同一台服务器上,这样每台服务器固定处理一部分请求(并维护这些请求的信息),起到负载均衡+分而治之的作用。

缺点:

原来规划好的节点,进行扩容或者缩容就比较麻烦了额,不管扩缩,每次数据变动导致节点有变动,映射关系需要重新进行计算,在服务器个数固定不变时没有问题,如果需要弹性扩容或故障停机的情况下,原来的取模公式就会发生变化:Hash(key)/3会变成Hash(key) /?。此时地址经过取余运算的结果将发生很大变化,根据公式获取的服务器也会变得不可控。

某个redis机器宕机了,由于台数数量变化,会导致hash取余全部数据重新洗牌。

一致性哈希算法分区(中厂)

是什么?

一致性Hash算法背景是在1997年由麻省理工学院提出的,设计目标是为了解决分布式缓存数据变动和映射问题,某个机器宕机了,分母数量改变了,自然取余数不行了

能干嘛?

提出一致性Hash解决方案。目的是当服务器个数发生变动时,尽量减少影响客户端到服务器的映射关系

3大步骤

算法构建一致性哈希环

一致性哈希算法必然有个hash函数并按照算法产生hash值,这个算法的所有可能哈希值会构成一个全量集,这个集合可以成为一个hash空间[0,2^32-1],这个是一个线性空间,但是在算法中,我们通过适当的逻辑控制将它首尾相连(O= 2^32),这样让它逻辑上形成了一个环形空间。
它也是按照使用取模的方法,前面笔记介绍的节点取模法是对节点(服务器)的数量进行取模。而一致性Hash算法是对232取模,简单来说,一致性Hash算法将整个哈希值空间组织成一个虚拟的圆环,如假设某哈希函数H的值空间为0-232-1(即哈希值是一个32位无符号整形),整个哈希环如下图:整个空间按顺时针方向组织,圆环的正上方的点代表0,O点右侧的第一个点代表1,以此类推,2、3、4、……直到232-1,也就是说0点左侧的第一个点代表232-1,0和2个32-1在零点中方向重合,我们把这个由2^32个点组成的圆环称为Hash环。
在这里插入图片描述
key落到服务器的落键规则

当我们需要存储一个kv键值对时,首先计算key的hash值,hash(key),将这个key使用相同的函数Hash计算出哈希值并确定此数据在环上的位置,从此位置沿环顺时针“行走”,第一台遇到的服务器就是其应该定位到的服务器,并将该键值对存储在该节点上。
如我们有Object A、 Object B、 Object C. object D四个数据对象,经过哈希计算后,在环空间上的位置如下:根据一致性Hash算法,数据A会被定为到Node A上,B被定为到Node B上,C被定为到Node C上,D被定为到Node D上。
在这里插入图片描述

小总结

为了在节点数目发生改变时尽可能少的迁移数据

将所有的存储节点排列在收尾相接的Hash环上,每个key在计算Hash后会顺时针找到临近的存储节点存放。而当有节点加入或退出时仅影响该节点在Hash环上顺时针相邻的后续节点。

优点: 加入和删除节点只影响哈希环中顺时针方向的相邻的节点,对其他节点无影响。

缺点: 数据的分布和节点的位置有关,因为这些节点不是均匀的分布在哈希环上的,所以数据在进行存储时达不到均匀分布的效果。

哈希槽分区(大厂)
● 为什么出现:为了解决一致性哈希算法的数据倾斜问题
● 是什么:实际上是一个数组,数组[0,2^14-1]形成hash slot空间
● 能干嘛:解决均匀分配问题,在数据和节点之间又加了一层,把这层称为哈希槽(slot),用于管理数据和节点之间的关系,现在就相当于节点上放的是槽,槽里放的是数据。—>槽解决的是粒度问题,相当于把粒度变大了,这样便于数据移动。哈希解决的是映射问题,使用key的哈希值来计算所在槽,便于数据分配。
● 有多少个hash槽:一个集群只能由16384个槽,这些槽会分配给集群中的所有主节点,分配策略没有要求,集群会记录节点和槽的对应关系,解决了节点和槽的关系后,接下来就需要对key求哈希值,然后对16384取模,余数是几key就落到对应的槽里。HASH_SLOT = CRC16(key) mod 16384,以槽为单位移动数据,因为槽的数目是固定的,处理起来比较容易,这样数据移动问题就解决了。

在这里插入图片描述
经典面试题

为什么redis集群的最大槽数是16384个?CRC16算法产生的hash值有16bit,该算法可以产生2^16=65536个值,为什么不选择mod65536?

1. 如果槽位为65536,发送心跳信息的消息头达8k,发送的心跳包过于庞大,65536 / 8 / 1024 = 8kb16384 / 8 / 1024 = 2kb,Redis节点需要发送一定数量的ping包作为心跳包,如果槽位为65536,这个ping消息的消息头太大了,浪费带宽。
2. Redis集群主节点数量基本不可能超过1000个,集群节点越多,心跳包的消息体内携带的数据越多,如果节点超过1000个,也会导致网络拥堵。Redis作者不建议cluster节点数量超过1000个,那么对于1000以内的redis cluster而言,16384个槽位够用了,没必要扩展到65536个。
**3. 槽位越小,节点少的情况下,压缩比高,容易传输。**在底层Redis主节点的配置信息中负责的哈希槽是通过一张bitmap的形式保存的,在传输过程中会对bitmap进行压缩,但是如果bitmap填充率(slots/N(节点数))很高的话,bitmap的压缩率就很低。如果节点少,槽位多的话,bitmap压缩率很低

Redis集群不保证强一致性
Redis集群不保证强一致性,这意味着在特定的条件下,Redis集群可能会丢掉一些被系统收到的写入请求命令

集群环境案例步骤

  1. 3主3从Redis集群配置
    找3台真实虚拟机,各自新建
mkdir -p /myredis/cluster

新建6个独立的Redis实例服务

IP: 192.168.0.100 + 端口6381/6382

​ vim /myredis/cluster/redisCluster6381.conf

bind 0.0.0.0
daemonize yes
protected-mode no
port 6381
logfile "/myredis/cluster/cluster6381.log" # 每个主机不一样
pidfile /myredis/cluster6381.pid # 每个主机不一样
dir /myredis/cluster
dbfilename dump6381.rdb # 每个主机不一样
appendonly yes
appendfilename "appendonly6381.aof" # 每个主机不一样
requirepass 123456
masterauth 123456

cluster-enabled yes
cluster-config-file nodes-6381.conf #每个主机不一样
cluster-node-timeout 5000

vim /myredis/cluster/redisCluster6382.conf

IP:192.168.0.100 + 端口6383/6384

​ vim /myredis/cluster/redisCluster6383.conf

​ vim /myredis/cluster/redisCluster6384.conf

IP:192.168.0.100 + 端口6385/6386

​ vim /myredis/cluster/redisCluster6385.conf

​ vim /myredis/cluster/redisCluster6386.conf

启动6台主机实例

​ redis-server /myredis/cluster/redisCluster6381.conf

​ …

​ redis-server /myredis/cluster/redisCluster6386.conf

通过redis-cli 命令为6台机器构建集群关系

# 一定要注意,此处要修改自己的IP为真实IP
# --cluster- replicas 1 表示为每个master创建一一个slave节点
redis-cli -a 123456 --cluster create --cluster-replicas 1 192.168.111.175:6381 192.168.111.175:6382 192:168.111.172:6383 192.168.111.172:6384 192.168.111.174:6385 192.168.111.174:6386

在这里插入图片描述

一切OK的话,3主3从搞定
在这里插入图片描述
6381作为切入点,查看并检验集群状态

连接进6381作为切入点, 查看节点状态

在这里插入图片描述
cluster nodes

在这里插入图片描述
CLUSTER INFO
在这里插入图片描述
2. 3主3从redis集群读写
对6381新增连个key,看看效果如何

在这里插入图片描述
为什么报错
在这里插入图片描述
如何解决

防止路由失效加参数-c并新增两个key:

redis-cli -a 123456 -p 6381 -c

在这里插入图片描述
查看集群信息
在这里插入图片描述

查看某个key该属于对应的槽位值 cluster keyslot 键名称

在这里插入图片描述
3. 主从容错切换迁移案例
容错切换迁移

主6381和从机切换,先停止主机6381

6381主机停了,对应的真实从机上位

6381作为1号主机分配的从机以实际情况为准,具体是几号机器就是几号机器

再次查看集群信息,本次6381主6384从
在这里插入图片描述
停止主机6381,再次查看集群信息

在这里插入图片描述
手动故障转移or节点从属调整该如何处理

重新登陆6381机器

在这里插入图片描述
4. 主从扩容
新建6387、6388 两个服务实例配置文件+启动 (又加了个虚拟机 或者 直接在三个虚拟机里选一个)

IP:192.168.111.174+端口6387/端口6388

vim /myredis/cluster/redisCluster6387.conf

bind 0.0.0.0
daemonize yes
protected-mode no
port 6387
logfile "/myredis/cluster/cluster6387.log"
pidfile /myredis/cluster6387.pid
dir /myredis/cluster
dbfilename dump6387.rdb
appendonly yes
appendfilename "appendonly6387.aof"
requirepass 111111
masterauth 111111

cluster-enabled yes
cluster-config-file nodes-6387.conf
cluster-node-timeout 5000

vim /myredis/cluster/redisCluster6388.conf

bind 0.0.0.0
daemonize yes
protected-mode no
port 6388
logfile "/myredis/cluster/cluster6388.log"
pidfile /myredis/cluster6388.pid
dir /myredis/cluster
dbfilename dump6388.rdb
appendonly yes
appendfilename "appendonly6388.aof"
requirepass 111111
masterauth 111111
 
cluster-enabled yes
cluster-config-file nodes-6388.conf
cluster-node-timeout 5000

redis-server /myredis/cluster/redisCluster6388.conf
redis-server /myredis/cluster/redisCluster6387.conf

将新增的6387节点作为master加入原集群

#redis-cli -a 密码 --cluster add-node 自己实际IP地址:6387 自己实际IP地址:6381
#6387 就是将要作为master新增节点
#6381 就是原来集群节点里面的领路人,相当于6387拜拜6381的码头从而找到组织加入集群
redis-cli -a 111111  --cluster add-node 192.168.111.174:6387 192.168.111.175:6381

redis-cli -a 123456  --cluster add-node 192.168.230.114:6387 192.168.238.111:6381

在这里插入图片描述
检查集群情况,6381

# redis-cli -a 密码 --cluster check 真实ip地址:6381
redis-cli -a 111111 --cluster check 192.168.111.175:6381

重新分派槽号

# 命令:redis-cli -a 密码 --cluster reshard IP地址:端口号
redis-cli -a 123456 --cluster reshard 192.168.111.175:6381

在这里插入图片描述
在这里插入图片描述
再次检查集群情况

redis-cli -a 123456 --cluster check 192.168.238.111:6381

为主节点6387分配从节点6388 –cluster-master-id 后跟的是6387的id

#命令:redis-cli -a 密码 --cluster add-node ip:新slave端口 ip:新master端口 --cluster-slave --cluster-master-id 新主机节点ID
 
redis-cli -a 111111 --cluster add-node 192.168.111.174:6388 192.168.111.174:6387 --cluster-slave --cluster-master-id 4feb6a7ee0ed2b39ff86474cf4189ab2a554a40f


查看集群信息

redis-cli -a 123456 --cluster check 192.168.238.111:6381
  1. 主从缩容
    目的让6388和6387下线

检查集群情况第一次,先获得从节点6388的节点ID

redis-cli -a 密码 --cluster check 192.168.111.174:6388

从集群中将4号从节点6388删除

# 命令:redis-cli -a 密码 --cluster del-node ip:从机端口 从机6388节点ID
 
redis-cli -a 111111 --cluster del-node 192.168.111.174:6388 218e7b8b4f81be54ff173e4776b4f4faaf7c13da

在这里插入图片描述
将6387的槽号清空,重新分配,本例将清出来的槽号都给6381

redis-cli -a 111111 --cluster reshard 192.168.111.175:6381

在这里插入图片描述
在这里插入图片描述
检查集群情况第二次

redis-cli -a 111111 --cluster check 192.168.111.175:6381
 
# 4096个槽位都指给6381,它变成了8192个槽位,相当于全部都给6381了,不然要输入3次,一锅端

将6387删除

# 命令:redis-cli -a 密码 --cluster del-node ip:端口 6387节点ID
redis-cli -a 111111 --cluster del-node 192.168.111.174:6387 4feb6a7ee0ed2b39ff86474cf4189ab2a554a40f

检查集群情况第三次,6387/6388被彻底祛险

redis-cli -a 111111 --cluster check 192.168.111.175:6381

在这里插入图片描述
在这里插入图片描述
集群常用操作命令
集群是否完整才能对外提供服务
在这里插入图片描述
CLUSTER COUNTKEYSINSLOT槽位数字编号

1,该槽位被占用
0,该槽位没占用
CLUSTER KEYSLOT键名称

该键应该存在哪个槽位上

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/713074.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

UWB智能定位管理系统源码(Java+ vue+ spring boot)

智能定位管理系统技术架构:Java vue spring boot 一、系统概述 系统聚焦基于UWB(超宽带)技术的底层定位网络和定位算法,通过对定位分站、定位标签、定位引擎的硏发,实现高精度定位网络,获取高精度定位结果,支撑行业大…

爬虫入门指南(6):反爬虫与高级技巧:IP代理、User-Agent伪装、Cookie绕过登录验证及验证码识别工具

文章目录 前言IP代理与User-Agent伪装IP代理User-Agent伪装 使用Cookie绕过登录验证使用验证码识别工具未完待续... 前言 随着互联网发展,网站数据变得越来越重要。然而,为了保护其数据的安全性和唯一性,网站通常会采取反爬虫措施。本篇博客将…

一场由AIGC引发的网文变革

文 | 螳螂观察 作者 | 青月 2019年底《庆余年》第一季播出引发了全民追剧热潮,不仅实现了国内的口碑、流量双丰收,还收获了包括韩国在内的27个国家或地区海外观众的超高评价。 经过三年多的蓄力,前不久《庆余年》第二季发布了开机特辑。这…

论文解读|CVPR 2023:非刚性点云匹配的神经内嵌算法

原创 | 文 BFT机器人 01 背景 在非刚性点云匹配领域,将两个或多个形状的点云对应起来是一个具有挑战性的任务。在这个问题中,形状的变形可能会导致点云之间的几何形状和拓扑结构的差异。因此,点云匹配方法需要能够识别和建立这些非刚性变形下…

一文图解|低精度定时器原理

Linux 内核通常会使用 定时器 来做一些延时的操作,比如常用的 sleep() 系统调用就是使用定时器来实现的。 在 Linux 内核中,有两种类型的定时器:高精度定时器 与 低精度定时器。低精度定时器基于硬件的时钟中断实现的,其定时周期…

开放式蓝牙耳机推荐,高性价比的蓝牙耳机首选这些品牌

在开放式耳机的流行度越来越高的同时,新接触想入手开放式耳机的小伙伴们,面对不同样式型号的耳机,会更多的考虑舒适度还是音质?亦或者是外观呢,通过各方体验调查,我总结了几款值得大家选择的开放式耳机&…

Linux--共同访问的公共目录不允许a用户删除b用户目录或文件:粘滞位 -t

情景: ①当多个用户共享同一个目录,需要在该目录下,进行读写、创建文件 ②但是自己只能删除自己的,而不能删除别人的(w:可以互删的,但是不满足条件) 语法: chmod t 目录名 注意…

CICD集合(一):Jenkins2.3.46安装

一、安装和安装Jenkins 0.前提 因jenkins从2.357版本开始不再支持java8 2、jenkins与java版本对应查看,与jenkins下载:Redhat Jenkins Packages 3、打算使用java8,所以选择安装2.346.3-1.1 4、安装jenkins之前,安装好java8并…

前后端免费学 | 第六届字节跳动青训营报名啦

线上活动,全程免费 报名时间:2023年6月2日 - 2023年7月10日 报名地址:点我报名,暑假一起学技术呀... 前言 其实去年我就想参加青训营的,但是那时的我刚转完专业,觉得自己太菜了,单方面认为自己…

MySQL 8 group by 报错 this is incompatible with sql_mode=only_full_group_by

根据错误信息大概知道,是sql_mode参数设置为only_full_group_by的不兼容,如果select 的字段不在 group by 中,并且select 字段没有使用聚合函数(SUM,MAX等),这个sql查询是被mysql认为非法的,会报…

easyui datagrid合并单元格

表头合并 columns:[[{field:bigarea,title:大区,rowspan:2,width:$$.fillsize(0.1),align:center},{field:ProvinceName,title:省份,rowspan:2,width:$$.fillsize(0.1),align:center},{field:dbct_name,title:分拨中心,rowspan:2,width:$$.fillsize(0.1),align:center},{field…

IDEA新建Spring Boot项目

新建项目之前已经将JDK环境变量啥的都安装好了,本文只有新建。 1.打开idea,选择Create New Project。如果已经打开其他项目,点击File->New->Project,也可以打开新建的界面。 2.点左侧的Spring Initializr然后如图&#xff…

三款新品齐发:大势智慧刷新实景三维技术新高度

近日,大势智慧“海量数据轻量化技术与新品夏季发布会”在大势智慧武汉总部盛大举行,并同步在其官方微信视频号进行线上直播,线上线下双会场气氛热烈、互动频繁、精彩纷呈。在此次发布会上,大势智慧集中推出轻量化技术、大势速影、…

第1章 Java概述

目录 1 Java相关1.1 跨平台性的体现1.2 Java的运行机制1.3 JDK、JRE、JVM及其关系1.4 Java注释 2 其他2.1 转义字符2.2 常用Dos命令2.3 相对路径与绝对路径 3 思维导图 上图为思维导图 1 Java相关 1.1 跨平台性的体现 Java的跨平台性:程序员编写的Java程序可以在不…

MyBatis介绍与下载

目录 MyBatis 介绍 MyBatis 主要特点 MyBatis 下载 IDEA创建maven项目(默认) MyBatis 介绍 MyBatis是一种开源的Java持久化框架,用于将SQL数据库访问和映射任务与Java对象之间的映射分离。它提供了一种简单的方式来对数据库进行操作&…

4Gwifi外夹式无线超声波流量计热量表无需破管物联网云平台对接

1.产品概述 DAQ-GP-UF4G无线外夹式超声波流量计是上海数采物联网科技有限公司推出的一款基于4G无线传输,交流/直流宽电压供电的通用型超声波流量计热量表,可采集管道中的瞬时流量、瞬时热流量等。外夹式超声波流量计与传统流量计相比,具有安装…

STM32实战项目—楼宇人员计数系统

本文项目比较简单,目的是介绍一下红外对管的使用,程序设计也比较简单。因此,博主并没有将程序工程上传资源,如果有需要的话可以私信。 文章目录 一、任务要求二、实现方法2.1 红外对管简介2.2 进出人员检测 三、程序设计3.1 红外对…

微服务架构介绍及SpringCloudAlibaba组件介绍

单体架构vs微服务架构 单机架构 什么是单体架构 一个归档包(例如war格式)包含了应用所有功能的应用程序,我们通常称之为单体应用。架构单体应用的方法论,我们称之为单体应用架构。(就是一个war包打天下)…

C++图形开发(3):静止的小球(fillcircle函数)

文章目录 1.如何实现?2.一个小球3.多个小球4.更多花样呢? 1.如何实现? 要实现在图形界面得到一个小球,我们的graphics库提供了一个函数: fillcircle();其格式为: fillcircle(x轴坐标,y轴坐标,半径);2.一个小球 现写…

MATLAB App Designer基础教程 Matlab GUI入门(四)

坐标轴控件 axis 函数绘图方法技巧 作用: 绘制函数图像显示图像(jpg png tiff) 学习内容 App designer中 plot 和命令行中的 plot函数的不同;如何在坐标轴空间中显示两个函数图像;智能缩进 (Ctrl I&am…