【Redis7】Redis7 集群(重点:哈希槽分区)

news2024/11/18 16:53:02

 【大家好,我是爱干饭的猿,本文重点介绍Redis7 集群概述、作用、集群算法-分片-槽位slot、集群环境案例步骤、集群常用操作命令和CRC16算法。

后续会继续分享Redis7和其他重要知识点总结,如果喜欢这篇文章,点个赞👍,关注一下吧】

上一篇文章:《【Redis7】 Redis7 哨兵(重点:哨兵运行流程和选举原理)》


目录

🍔1. 概述

🍔2. 作用

🍔3. 集群算法-分片-槽位slot

3.1 redis集群的槽位slot

​3.2 redis集群的分片

3.3 这样做的优势

3.4 slot槽位映射的3种解决方案

1. 哈希取余分区

​​2. 一致性哈希算法分区

3. 哈希槽分区

3.5 为什么redis集群的最大槽数是16384个?

3.6 Redis集群不保证强一致性,这意味着在特定的条件下,Redis集群可能会丢掉—些被系统收到的写入请求命令

🍔4. 集群环境案例步骤

4.1. 3主3从redis集群配置

4.2 3主3从redis集群读写,检验集群状态

4.3. 主从容错切换迁移案例

4.4. 主从扩容案例

4.5. 主从缩容案例

🍔5. 集群常用操作命令和CRC16算法分析

5.1 集群是否完整才能对外提供服务

5.2 CRC16算法

5.3 集群常用操作命令


集群:

🍔1. 概述

  • 由于数据量过大,单个Master复制集难以承担,因此需要对多个复制集进行集群,形成水平扩展每个复制集只负责存储整个数据集的一部分,这就是Redis的集群,其作用是提供在多个Redis节点间共享数据的程序集。
  • Redis集群是一个提供在多个Redis节点间共享数据的程序集
  • Redis集群可以支持多个Master

🍔2. 作用

  • Redis集群支持多个Master,每个Master又可以挂载多个Slave
    • 读写分离
    • 支持海量数据的高可用
    • 支持海量数据的读写存储操作
  • 由于Cluster自带Sentinel的故障转移机制,内置了高可用的支持,无需再去使用哨兵功能
  • 客户端和Redis的节点连接,不再需要连接集群中所有节点,只需连接集群中的任意一个可用节点即可
  • 槽位slot负责分配到各个物理服务节点,由对应的集群来负责维护节点、插槽和数据之间的关系

🍔3. 集群算法-分片-槽位slot

集群的密钥空间被分成16384个槽,有效地设置了16384个主节点的集群大小上限(但是,建议的最大节点大小约为1000个节点)。

集群中的每个主节点处理16384个哈希槽的一个子集。当没有集群重新配置正在进行时(即哈希槽从一个节点移动到另一个节点),集群是稳定的。当集群稳定时,单个哈希槽将由单个节点提供服务(但是,服务节点可以有一个或多个副本,在网络分裂或故障的情况下替换它,并且可以用于扩展读取陈旧数据是可接受的操作)。

3.1 redis集群的槽位slot

​3.2 redis集群的分片

3.3 这样做的优势

3.4 slot槽位映射的3种解决方案

1. 哈希取余分区

​2. 一致性哈希算法分区

一致性哈希算法在1997年由麻省理工学院中提出的,设计目标是为了解决分布式缓存数据变动和映射问题,某个机器宕机了,分母数量改变了,自然取余数不OK了。

步骤1:算法构建一致性哈希环

步骤2:服务器IP节点映射

步骤3:key 落到服务器的落键规则

优点:

1. 一致性哈希算法的容错性

2. 一致性哈希算法的扩展性

缺点:一致性哈希算法的数据倾斜问题

小节:

为了在节点数目发生改变时尽可能少的迁移数据,将所有的存储节点排列在收尾相接的Hash环上,每个key在计算Hash后会顺时针找到临近的存储节点存放。 而当有节点加入或退出时仅影响该节点在Hash环上顺时针相邻的后续节点。

优点:加入和删除节点只影响哈希环中顺时针方向的相邻的节点,对其他节点无影响。

缺点 :数据的分布和节点的位置有关,因为这些节点不是均匀的分布在哈希环上的,所以数据在进行存储时达不到均匀分布的效果。

3. 哈希槽分区

a. 概念: 为解决一致性哈希算法的数据倾斜问题,哈希槽实质就是一个数组,数组[0,2^14 -1]形成hash slot空间。

b. 作用:解决均匀分配的问题,在数据和节点之间又加入了一层,把这层称为哈希槽(slot),用于管理数据和节点之间的关系,现在就相当于节点上放的是槽,槽里放的是数据。

槽解决的是粒度问题,相当于把粒度变大了,这样便于数据移动。哈希解决的是映射问题,使用key的哈希值来计算所在的槽,便于数据分配

c. 多少个hash槽:

一个集群只能有16384个槽,编号0-16383(0-2^14-1)。这些槽会分配给集群中的所有主节点,分配策略没有要求。

集群会记录节点和槽的对应关系,解决了节点和槽的关系后,接下来就需要对key求哈希值,然后对16384取模,余数是几key就落入对应的槽里。HASH_SLOT = CRC16(key) mod 16384。以槽为单位移动数据,因为槽的数目是固定的,处理起来比较容易,这样数据移动问题就解决了。

d. 哈希槽计算:

3.5 为什么redis集群的最大槽数是16384个?

(1)如果槽位为65536,发送心跳信息的消息头达8k,发送的心跳包过于庞大。

在消息头中最占空间的是myslots[CLUSTER_SLOTS/8]。 当槽位为65536时,这块的大小是: 65536÷8÷1024=8kb 在消息头中最占空间的是myslots[CLUSTER_SLOTS/8]。 当槽位为16384时,这块的大小是: 16384÷8÷1024=2kb 因为每秒钟,redis节点需要发送一定数量的ping消息作为心跳包,如果槽位为65536,这个ping消息的消息头太大了,浪费带宽。

(2)redis的集群主节点数量基本不可能超过1000个。

集群节点越多,心跳包的消息体内携带的数据越多。如果节点过1000个,也会导致网络拥堵。因此redis作者不建议redis cluster节点数量超过1000个。 那么,对于节点数在1000以内的redis cluster集群,16384个槽位够用了。没有必要拓展到65536个。

(3)槽位越小,节点少的情况下,压缩比高,容易传输。

Redis主节点的配置信息中它所负责的哈希槽是通过一张bitmap的形式来保存的,在传输过程中会对bitmap进行压缩,但是如果bitmap的填充率slots / N很高的话(N表示节点数),bitmap的压缩率就很低。 如果节点数很少,而哈希槽数量很多的话,bitmap的压缩率就很低。

3.6 Redis集群不保证强一致性,这意味着在特定的条件下,Redis集群可能会丢掉—些被系统收到的写入请求命令

🍔4. 集群环境案例步骤

4.1. 3主3从redis集群配置

1. 找3台真实虚拟机,各自新建文件夹cluster,放集群的配置文件

mkdir -p /myredis/cluster

2. 新建6个独立的redis实例服务 ,(一台虚拟机两个)也可以用6个服务器

conf文件内容如下,(每个配置稍稍不一样,自行修改即可)

bind 0.0.0.0
daemonize yes
protected-mode no
port 6381
logfile "/myredis/cluster/cluster6381.log"
pidfile /myredis/cluster6381.pid
dir /myredis/cluster
dbfilename dump6381.rdb
appendonly yes
appendfilename "appendonly6381.aof"
requirepass 111111
masterauth 111111
 
cluster-enabled yes
cluster-config-file nodes-6381.conf
cluster-node-timeout 5000

3. 通过redis-cli命令为6台机器构建集群关系

注意,注意,注意自己的真实IP地址,-cluster-replicas 1 表示为每个master创建一个slave节点

redis-cli -a 111111 --cluster create --cluster-replicas 1 192.168.111.175:6381 192.168.111.175:6382 192.168.111.172:6383 192.168.111.172:6384 192.168.111.174:6385 192.168.111.174:6386

4.2 3主3从redis集群读写,检验集群状态

链接进入6381作为切入点,查看并检验集群状态

redis-cli -a 123456 -p 6381 -c    // -c表示集群 不加的话不是按照集群启动的,对于在别的机器上的key,会报错
cluster nodes       // 查看集群的主从关系
cluster info        // 查看集群信息     
info replication    // 查看主从
cluster keyslot k2  // 查看key的哈希槽位置

4.3. 主从容错切换迁移案例

例如:6384(主)-6381(从)

  • 把6384停了,6381会成为master
    • 启动6384,6381还是master,并不会让位
  • Redis集群不保证强一致性,意味着在特定的条件下,Redis集群可能会丢掉一些被系统收到的写入请求命令

    • 因为本质还是发送心跳包,需要一些时间判断是否down机,如果down机,对应的slave直接成为master
  • 如果想要原先的master继续做master的话

    • CLUSTER FAILOVER   // 让谁上位 就在谁的端口号下执行这个命令

4.4. 主从扩容案例

  • 新建6387、6388 两个服务实例配置文件+启动 (又加了个虚拟机 或者 直接在三个虚拟机里选一个)
  • 启动87/88两个新的节点实例,此时他们自己都是master

  • 将新增的6387节点作为master加入原集群 
    • redis-cli -a 123456  --cluster add-node 192.168.230.114:6387 192.168.238.111:6381
  • 检查集群情况,6381
    • redis-cli -a 123456 --cluster check 192.168.238.111:6381
  • 重新分配槽号
    • redis-cli -a 123456 --cluster reshard 192.168.238.111:6381

重新分配成本太高,所以前3家各自匀出来一部分,从6381/6383/6385三个旧节点分别匀出1364个坑位,注意本机这里经过调整所以我是需要从6381中分出4096即可

  • 再次检查集群情况
    • redis-cli -a 123456 --cluster check 192.168.238.111:6381

  • 为主节点6387分配从节点6388 –cluster-master-id 后跟的是6387的id
    • redis-cli -a 123456 --cluster add-node 192.168.238.114:6388 192.168.238.114:6387 --cluster-slave --cluster-master-id b861764cbba16a1b21536a3182349748e56f24cc
      

  • 查看集群信息 
    • redis-cli -a 123456 --cluster check 192.168.238.111:6381

4.5. 主从缩容案例

让6388和6387下线

  • 先获得6388的节点id(上图可获取),在集群中将6388删除

    • redis-cli -a 123456 --cluster del-node 192.168.238.114:6388 
      411144d66f28e876de5a6433689c8cbfab10686f
      

  • 检查节点,只剩7台
  • 将6387的槽号情况,重新分配,先全部都给6381
    • redis-cli -a 123456 --cluster reshard 192.168.238.111:6381
  • 查看集群情况

​ 

🍔5. 集群常用操作命令和CRC16算法分析

5.1 集群是否完整才能对外提供服务

查看配置配置文件中的 cluster-require-full-coverage

默认YES,现在集群架构是3主3从的redis cluster由3个master平分16384个slot,每个master的小集群负责1/3的slot,对应一部分数据。
cluster-require-full-coverage: 默认值 yes , 即需要集群完整性,方可对外提供服务 通常情况,如果这3个小集群中,任何一个(1主1从)挂了,你这个集群对外可提供的数据只有2/3了, 整个集群是不完整的, redis 默认在这种情况下,是不会对外提供服务的。
如果你的诉求是, 集群不完整的话也需要对外提供服务,需要将该参数设置为no ,这样的话你挂了的那个小集群是不行了,但是其他的小集群仍然可以对外提供服务。

5.2 CRC16算法

Redis集群有16384个哈希槽,每个key通过CRC16校验后对16384取模来决定放置哪个槽。集群的每个节点负责一部分hash槽

5.3 集群常用操作命令

不在同一个slot槽位下的键值无法使用mset、mget等多键操作
可以通过{}来定义同一个组的概念,使key中{}内相同内容的键值对放到一个slot槽位去,对照下图类似k1k2k3都映射为x,自然槽位一样
mset k1{x} v1 k2{x} v2 K3{x} v3
mget k1{x} k2{x} K3{x}

CLUSTER COUNTKEYSINSLOT 槽位数字编号 // 1,该槽位被占用,0,该槽位没占用
CLUSTER KEYSLOT 键名称   // 该键应该存在哪个槽位上

redis-cli -a 123456 -p 6381 -c    // -c表示集群 不加的话不是按照集群启动的,对于在别的机器上的key,会报错
cluster nodes       // 查看集群的主从关系
cluster info        // 查看集群信息     
info replication    // 查看主从
cluster keyslot k2  // 查看key的哈希槽位置

分享到此,感谢大家观看!!!

如果你喜欢这篇文章,请点赞关注吧,或者如果你对文章有什么困惑,可以私信我。

🏓🏓🏓

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/445051.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

ChatGPT 的数据保护盲点以及安全团队如何解决这些盲点

自成立以来的短时间内,ChatGPT 和其他生成式 AI 平台理所当然地赢得了终极生产力助推器的声誉。 然而,能够按需快速生成高质量文本的技术,可能同时暴露敏感的公司数据。 最近发生的一起事件,三星软件工程师将专有代码粘贴到 ChatG…

SpringBoot集成MyBatis-yml方式详解

SpringBoot集成MyBatis-yml方式详解 简介:spring boot整合mybatis开发web系统目前来说是市面上主流的框架,每个Java程序和springboot mybatis相处的时间可谓是比和自己女朋友相处的时间都多,但是springboot mybatis并没有得到你的真爱&#x…

涨点技巧: 谷歌强势推出优化器Lion,引入到Yolov8,内存更小、效率更高,秒杀Adam(W)

1.Lion优化器介绍 论文:https://arxiv.org/abs/2302.06675 代码:automl/lion at master google/automl GitHub 1.1 简单、内存高效、运行速度更快 1)与 AdamW 和各种自适应优化器需要同时保存一阶和二阶矩相比,Lion 只需要动量,将额外的内存占用减半; 2)由于 Lion…

企业批量寄件快递教程

了解企业批量寄快递操作流程之前,我们先来解答一下这个问题:什么样的企业需要批量寄快递? 电商行业就不提,本身二者就是相互依存的关系。就商务件来说,具体什么样的企业需要批量寄快递,其实很简单&#xf…

Ansys Zemax | 如何使用坐标返回功能

概述 这篇文章简单介绍了如何使用OpticStudio中的坐标返回(Coordinate Return)功能。坐标返回功能可以非常方便的使系统坐标自动返回到目标表面处。(联系我们获取文章附件) 介绍 在OpticStudio的序列模式中,我们经常会使用坐标间断(Coordinat…

Netty 源码解析(上)

序 Netty的影响力以及使用场景就不用多说了, 去年10月份后,就着手研究Netty源码,之前研究过Spring源码,MyBatis源码,java.util.concurrent源码,tomcat源码,发现一个特点,之前的源码都…

PHPStudy安装imagick扩展

phpstudy软件管理中没有自带安装imagick扩展,只能自己安装了。 下面将用几个步骤来进行phpstudy imagick安装: 1.下载imagick 下载地址 ImageMagick – Download 下载电脑版本相对的64/32位,最新的版本 2.安装imagick 双击刚刚下载的文件…

三维可视化如何助力智慧城市建设?

在智慧城市建设中,如何将城市各类数据可视化是一大难题,目前市面上可视化的方法很多,如传统的三维建模、地物模型、建筑模型等。 这些方法各有利弊,从其实现方式来看: GIS/BIM是将所有的空间信息全部整合到一起; 从技术…

第三章 法的渊源与法的分类

目录 第一节 法的渊源的分类 一、法的渊源释义二、法的渊源种类 第二节 正式法源 一、正式法源的含义二、当代中国的正式法源三、正式法源的一般效力原则 第三节 非正式法源 一、当代中国的非正式法源 第四节 法的分类 一、法的一般分类二、法的特殊分类 第一节 法的渊源的…

SSH连接本地centerOS系统配置

SSH连接本地linux系统 前提:安装好centerOS系统并能启动 目标:连通外网并设置SSH 1.网卡配置文件路径 打开linux本地终端 快捷键一般是ctrlaltf2(f1~f3) 这里是管理员登录,密码是隐藏式的输入(输入看不见) 这样就显示成功登录了! 下面查…

Unity InputSystem (二)

InputActionAssets 是包含输入操作以及其关联的绑定和控制方案的资源,文件以 .inputactions 文件扩展名存储,并且是以纯 json 文件存储的。 创建 InputActionAssets 文件 在 Assets 窗口内选择创建 InputActions 文件 ControlSchemes 控制的解决方案…

上市公司杰创智能携手甄云,启动供应链采购数字化升级

近日,A股上市企业杰创智能科技股份有限公司(以下简称“杰创智能”)联合甄云科技举办数字化采购管理项目启动会,双方企业高层、相关部门负责人及项目团队成员参加了此次活动。 会上,就杰创智能的数字化采购管理系统建设…

Flink Table API 和 Flink-SQL使用详解

Flink Table API 和 Flink-SQL使用详解 1.Table API & Flink SQL-核心概念 ​ Apache Flink 有两种关系型 API 来做流批统一处理: Table API Table API 是用于 Scala 和 Java 语言的查询API,它可以用一种非常直观的方式来组合使用选取、过滤、join…

2023-04-21 学习记录--C/C++-实现升序降序(冒泡法/沉底法)

合抱之木,生于毫末;九层之台,起于累土;千里之行,始于足下。💪🏻 一、冒泡法(沉底法) —— 升序 ⭐️ (一)、思路 从左到右: 1、第一个与第二个比较&#xff0…

Ceph入门到精通-Ceph之对象存储网关RADOS Gateway(RGW)

一、Ceph整体架构及RGW在Ceph中的位置 1.Ceph的整体架构 Ceph是一个统一的、分布式的的存储系统,具有优秀的性能、可靠性和可扩展性。Ceph支持对象存储(RADOSGW)、块存储(RBD)和文件存储(CephFS&#xff…

asp.net+C#医院人事办公自动化OA系统设计

3.3.2 普通用户 普通用户只能查看自己的信息,修改登录密码,查看通知公告信息,公文发送信息,下载办公文件,邮件发送接收,会议记录信息管理,留言交流等功能。办公OA系统主要的功能是实现员工资料的…

【OS实验】【学习笔记】

文章目录 零、实验参考实验1 熟悉实验环境实验2 操作系统的引导实验3 系统调用实验4 进程运行轨迹的跟踪与统计实验5 基于内核栈切换的进程切换实验6 信号量的实现和应用实验7 地址映射与共享实验8 终端设备的控制实验9 proc文件系统的实现Reference 零、实验参考 &#x1f52…

SpingBoot使用Mybatis-Plus操作多数据源,同时操作sqlserver和mysql

目录 需求场景 需求逻辑: 难点: 说明: 代码 pom.xml依赖只贴sqlserver的 文件目录 yml配置文件 DataSource自定义注解 DataSourceAspect类文件 DruidConfig类 DruidProperties类 DynamicDataSource DynamicDataSourceContextHo…

03-java数组的使用

概念 数组就是存储数据长度固定的容器,存储多个数据的数据类型要一致。 数组的定义格式 // 第一种格式 // 数据类型[] 数组名 int[] arr; double[] arr; char[] arr;// 第二种格式 // 数据类型 数组名[] int arr[]; double arr[]; char arr[];数组…

记录解决Maven依赖冲突导致的NoSuchMethodError问题的过程

摘要 本文记录了解决 Maven 依赖冲突导致的 NoSuchMethodError 问题的过程。问题出现的原因是多个库包含了 Jackson 库,导致 Jackson 序列化与反序列化时出现 NoSuchMethodError 异常。通过查看依赖树,排除冲突库的方法,最终成功解决了该问题…