是什么
Redis集群是一个提供在多个Redis节点间共享数据的程序集,Redis集群可以支持多个master
能干嘛
Redis集群支持多个master,每个master又可以挂载多个slave
读写分离
支持数据的高可用
支持海量数据的读写存储操作
由于Cluster自带Sentinel的故障转移机制,内置了高可用的支持,无需再去使用哨兵功能}
客户端与Redis的节点连接,不再需要连接集群中所有的节点,只需要任意连接集群中的一个可用节点即可
槽位slot负责分配到各个物理服务节点,由对应的集群来负责维护节点、插槽和数据之间的关系
集群算法-分片-槽位slot
redis集群的槽位slot
Redis集群的数据分片
Redis集群没有使用一致性hash 而是引入了哈希槽的概念。
Redis集群有16384个哈希槽每个key通过CRC16校验后对16384取模来决定放置哪个槽,集群的每个节点负责一部分hash槽,举个例子,比如当前集群有3个节点,那么:
redis集群的分片
分片和槽位的优势
最大优势,方便扩缩容和数据分派查找}
这种结构很容易添加或者删除节点,比如如果我想添加个节点D,我需要从节点A,B,C中得部分槽位到D上。如果我想一出节点A,需要将A中的槽移动到B和C节点上,然后将没有任何槽的节点从集群中移除即可。由于一个结点将哈希槽移动到另一个节点不会停止服务,所以无论添加删除或者改变某个节点的哈希槽的数量都不会造成集群不可用的状态。
slot槽位映射,一般业界有三种解决方案
哈希取余分区(小厂)
2亿条记录就是2亿个k,v,我们单机不行必须要分布式多机,假设有3台机器构成一个集群,用户每次读写操作都是根据公式:
hash(key) % N个机器台数,计算出哈希值,用来决定数据映射到哪一个节点上。
优点:
简单粗暴,直接有效,只需要预估好数据规划好节点,例如3台、8台、10台,就能保证一段时间的数据支撑。使用Hash算法让固定的一部分请求落到同一台服务器上,这样每台服务器固定处理一部分请求(并维护这些请求的信息),起到负载均衡+分而治之的作用。
缺点:
原来规划好的节点,进行扩容或者缩容就比较麻烦了额,不管扩缩,每次数据变动导致节点有变动,映射关系需要重新进行计算,在服务器个数固定不变时没有问题,如果需要弹性扩容或故障停机的情况下,原来的取模公式就会发生变化:Hash(key)/3会变成Hash(key) /?。此时地址经过取余运算的结果将发生很大变化,根据公式获取的服务器也会变得不可控。
某个redis机器宕机了,由于台数数量变化,会导致hash取余全部数据重新洗牌。
一致性哈希算法分区(中厂)
是什么?
一致性Hash算法背景是在1997年由麻省理工学院提出的,设计目标是为了解决分布式缓存数据变动和映射问题,某个机器宕机了,分母数量改变了,自然取余数不行了
能干嘛?
提出一致性Hash解决方案。目的是当服务器个数发生变动时,尽量减少影响客户端到服务器的映射关系
3大步骤
算法构建一致性哈希环
一致性哈希算法必然有个hash函数并按照算法产生hash值,这个算法的所有可能哈希值会构成一个全量集,这个集合可以成为一个hash空间[0,2^32-1],这个是一个线性空间,但是在算法中,我们通过适当的逻辑控制将它首尾相连(O= 2^32),这样让它逻辑上形成了一个环形空间。
它也是按照使用取模的方法,前面笔记介绍的节点取模法是对节点(服务器)的数量进行取模。而一致性Hash算法是对232取模,简单来说,一致性Hash算法将整个哈希值空间组织成一个虚拟的圆环,如假设某哈希函数H的值空间为0-232-1(即哈希值是一个32位无符号整形),整个哈希环如下图:整个空间按顺时针方向组织,圆环的正上方的点代表0,O点右侧的第一个点代表1,以此类推,2、3、4、……直到232-1,也就是说0点左侧的第一个点代表232-1,0和2个32-1在零点中方向重合,我们把这个由2^32个点组成的圆环称为Hash环。
key落到服务器的落键规则
当我们需要存储一个kv键值对时,首先计算key的hash值,hash(key),将这个key使用相同的函数Hash计算出哈希值并确定此数据在环上的位置,从此位置沿环顺时针“行走”,第一台遇到的服务器就是其应该定位到的服务器,并将该键值对存储在该节点上。
如我们有Object A、 Object B、 Object C. object D四个数据对象,经过哈希计算后,在环空间上的位置如下:根据一致性Hash算法,数据A会被定为到Node A上,B被定为到Node B上,C被定为到Node C上,D被定为到Node D上。
小总结
为了在节点数目发生改变时尽可能少的迁移数据
将所有的存储节点排列在收尾相接的Hash环上,每个key在计算Hash后会顺时针找到临近的存储节点存放。而当有节点加入或退出时仅影响该节点在Hash环上顺时针相邻的后续节点。
优点: 加入和删除节点只影响哈希环中顺时针方向的相邻的节点,对其他节点无影响。
缺点: 数据的分布和节点的位置有关,因为这些节点不是均匀的分布在哈希环上的,所以数据在进行存储时达不到均匀分布的效果。
哈希槽分区(大厂)
● 为什么出现:为了解决一致性哈希算法的数据倾斜问题
● 是什么:实际上是一个数组,数组[0,2^14-1]形成hash slot空间
● 能干嘛:解决均匀分配问题,在数据和节点之间又加了一层,把这层称为哈希槽(slot),用于管理数据和节点之间的关系,现在就相当于节点上放的是槽,槽里放的是数据。—>槽解决的是粒度问题,相当于把粒度变大了,这样便于数据移动。哈希解决的是映射问题,使用key的哈希值来计算所在槽,便于数据分配。
● 有多少个hash槽:一个集群只能由16384个槽,这些槽会分配给集群中的所有主节点,分配策略没有要求,集群会记录节点和槽的对应关系,解决了节点和槽的关系后,接下来就需要对key求哈希值,然后对16384取模,余数是几key就落到对应的槽里。HASH_SLOT = CRC16(key) mod 16384,以槽为单位移动数据,因为槽的数目是固定的,处理起来比较容易,这样数据移动问题就解决了。
经典面试题
为什么redis集群的最大槽数是16384个?CRC16算法产生的hash值有16bit,该算法可以产生2^16=65536个值,为什么不选择mod65536?
1. 如果槽位为65536,发送心跳信息的消息头达8k,发送的心跳包过于庞大,65536 / 8 / 1024 = 8kb16384 / 8 / 1024 = 2kb,Redis节点需要发送一定数量的ping包作为心跳包,如果槽位为65536,这个ping消息的消息头太大了,浪费带宽。
2. Redis集群主节点数量基本不可能超过1000个,集群节点越多,心跳包的消息体内携带的数据越多,如果节点超过1000个,也会导致网络拥堵。Redis作者不建议cluster节点数量超过1000个,那么对于1000以内的redis cluster而言,16384个槽位够用了,没必要扩展到65536个。
**3. 槽位越小,节点少的情况下,压缩比高,容易传输。**在底层Redis主节点的配置信息中负责的哈希槽是通过一张bitmap的形式保存的,在传输过程中会对bitmap进行压缩,但是如果bitmap填充率(slots/N(节点数))很高的话,bitmap的压缩率就很低。如果节点少,槽位多的话,bitmap压缩率很低
Redis集群不保证强一致性
Redis集群不保证强一致性,这意味着在特定的条件下,Redis集群可能会丢掉一些被系统收到的写入请求命令
集群环境案例步骤
- 3主3从Redis集群配置
找3台真实虚拟机,各自新建
mkdir -p /myredis/cluster
新建6个独立的Redis实例服务
IP: 192.168.0.100 + 端口6381/6382
vim /myredis/cluster/redisCluster6381.conf
bind 0.0.0.0
daemonize yes
protected-mode no
port 6381
logfile "/myredis/cluster/cluster6381.log" # 每个主机不一样
pidfile /myredis/cluster6381.pid # 每个主机不一样
dir /myredis/cluster
dbfilename dump6381.rdb # 每个主机不一样
appendonly yes
appendfilename "appendonly6381.aof" # 每个主机不一样
requirepass 123456
masterauth 123456
cluster-enabled yes
cluster-config-file nodes-6381.conf #每个主机不一样
cluster-node-timeout 5000
vim /myredis/cluster/redisCluster6382.conf
IP:192.168.0.100 + 端口6383/6384
vim /myredis/cluster/redisCluster6383.conf
vim /myredis/cluster/redisCluster6384.conf
IP:192.168.0.100 + 端口6385/6386
vim /myredis/cluster/redisCluster6385.conf
vim /myredis/cluster/redisCluster6386.conf
启动6台主机实例
redis-server /myredis/cluster/redisCluster6381.conf
…
redis-server /myredis/cluster/redisCluster6386.conf
通过redis-cli 命令为6台机器构建集群关系
# 一定要注意,此处要修改自己的IP为真实IP
# --cluster- replicas 1 表示为每个master创建一一个slave节点
redis-cli -a 123456 --cluster create --cluster-replicas 1 192.168.111.175:6381 192.168.111.175:6382 192:168.111.172:6383 192.168.111.172:6384 192.168.111.174:6385 192.168.111.174:6386
一切OK的话,3主3从搞定
6381作为切入点,查看并检验集群状态
连接进6381作为切入点, 查看节点状态
cluster nodes
CLUSTER INFO
2. 3主3从redis集群读写
对6381新增连个key,看看效果如何
为什么报错
如何解决
防止路由失效加参数-c并新增两个key:
redis-cli -a 123456 -p 6381 -c
查看集群信息
查看某个key该属于对应的槽位值 cluster keyslot 键名称
3. 主从容错切换迁移案例
容错切换迁移
主6381和从机切换,先停止主机6381
6381主机停了,对应的真实从机上位
6381作为1号主机分配的从机以实际情况为准,具体是几号机器就是几号机器
再次查看集群信息,本次6381主6384从
停止主机6381,再次查看集群信息
手动故障转移or节点从属调整该如何处理
重新登陆6381机器
4. 主从扩容
新建6387、6388 两个服务实例配置文件+启动 (又加了个虚拟机 或者 直接在三个虚拟机里选一个)
IP:192.168.111.174+端口6387/端口6388
vim /myredis/cluster/redisCluster6387.conf
bind 0.0.0.0
daemonize yes
protected-mode no
port 6387
logfile "/myredis/cluster/cluster6387.log"
pidfile /myredis/cluster6387.pid
dir /myredis/cluster
dbfilename dump6387.rdb
appendonly yes
appendfilename "appendonly6387.aof"
requirepass 111111
masterauth 111111
cluster-enabled yes
cluster-config-file nodes-6387.conf
cluster-node-timeout 5000
vim /myredis/cluster/redisCluster6388.conf
bind 0.0.0.0
daemonize yes
protected-mode no
port 6388
logfile "/myredis/cluster/cluster6388.log"
pidfile /myredis/cluster6388.pid
dir /myredis/cluster
dbfilename dump6388.rdb
appendonly yes
appendfilename "appendonly6388.aof"
requirepass 111111
masterauth 111111
cluster-enabled yes
cluster-config-file nodes-6388.conf
cluster-node-timeout 5000
redis-server /myredis/cluster/redisCluster6388.conf
redis-server /myredis/cluster/redisCluster6387.conf
将新增的6387节点作为master加入原集群
#redis-cli -a 密码 --cluster add-node 自己实际IP地址:6387 自己实际IP地址:6381
#6387 就是将要作为master新增节点
#6381 就是原来集群节点里面的领路人,相当于6387拜拜6381的码头从而找到组织加入集群
redis-cli -a 111111 --cluster add-node 192.168.111.174:6387 192.168.111.175:6381
redis-cli -a 123456 --cluster add-node 192.168.230.114:6387 192.168.238.111:6381
检查集群情况,6381
# redis-cli -a 密码 --cluster check 真实ip地址:6381
redis-cli -a 111111 --cluster check 192.168.111.175:6381
重新分派槽号
# 命令:redis-cli -a 密码 --cluster reshard IP地址:端口号
redis-cli -a 123456 --cluster reshard 192.168.111.175:6381
再次检查集群情况
redis-cli -a 123456 --cluster check 192.168.238.111:6381
为主节点6387分配从节点6388 –cluster-master-id 后跟的是6387的id
#命令:redis-cli -a 密码 --cluster add-node ip:新slave端口 ip:新master端口 --cluster-slave --cluster-master-id 新主机节点ID
redis-cli -a 111111 --cluster add-node 192.168.111.174:6388 192.168.111.174:6387 --cluster-slave --cluster-master-id 4feb6a7ee0ed2b39ff86474cf4189ab2a554a40f
查看集群信息
redis-cli -a 123456 --cluster check 192.168.238.111:6381
- 主从缩容
目的让6388和6387下线
检查集群情况第一次,先获得从节点6388的节点ID
redis-cli -a 密码 --cluster check 192.168.111.174:6388
从集群中将4号从节点6388删除
# 命令:redis-cli -a 密码 --cluster del-node ip:从机端口 从机6388节点ID
redis-cli -a 111111 --cluster del-node 192.168.111.174:6388 218e7b8b4f81be54ff173e4776b4f4faaf7c13da
将6387的槽号清空,重新分配,本例将清出来的槽号都给6381
redis-cli -a 111111 --cluster reshard 192.168.111.175:6381
检查集群情况第二次
redis-cli -a 111111 --cluster check 192.168.111.175:6381
# 4096个槽位都指给6381,它变成了8192个槽位,相当于全部都给6381了,不然要输入3次,一锅端
将6387删除
# 命令:redis-cli -a 密码 --cluster del-node ip:端口 6387节点ID
redis-cli -a 111111 --cluster del-node 192.168.111.174:6387 4feb6a7ee0ed2b39ff86474cf4189ab2a554a40f
检查集群情况第三次,6387/6388被彻底祛险
redis-cli -a 111111 --cluster check 192.168.111.175:6381
集群常用操作命令
集群是否完整才能对外提供服务
CLUSTER COUNTKEYSINSLOT槽位数字编号
1,该槽位被占用
0,该槽位没占用
CLUSTER KEYSLOT键名称
该键应该存在哪个槽位上