RabbitMQ集群搭建和测试总结

RabbiMQ简介

RabbitMQ是用Erlang开发的，集群非常方便，因为Erlang天生就是一门分布式语言，但其本身并不支持负载均衡。

RabbitMQ模式

RabbitMQ模式大概分为以下三种:
(1)单一模式。
(2)普通模式(默认的集群模式)。
(3)镜像模式(把需要的队列做成镜像队列，存在于多个节点，属于RabbitMQ的HA方案，在对业务可靠性要求较高的场合中比较适用)。
要实现镜像模式，需要先搭建一个普通集群模式，在这个模式的基础上再配置镜像模式以实现高可用。

RabbitMQ特点

RabbitMQ的集群节点包括:内存节点、磁盘节点。RabbitMQ支持消息的持久化
也就是数据写在磁盘上，最合适的方案就是既有内存节点，又有磁盘节点。

节点环境

192.168.1.17 rabbitmq3 内存节点
192.168.1.18 rabbitmq2 内存节点
192.168.1.19 rabbitmq1 磁盘节点

注意: RabbitMQ集群节点必须在同一网段里，如果是跨广域网，效果会变差。

RabbitMQ普通集群配置

配置hosts文件

更改三台MQ节点的计算机名分别为rabbitmq1、rabbitmq2 和rabbitmq3，然后修改hosts配置文件

#查看主机名
hostname

#修改主机名
hostnamectl set-hostname rabbitmq1

#或者
vim /etc/hostname    //其他两台相同
rabbitmq1

vim /etc/hosts
192.168.1.17 rabbitmq3
192.168.1.18 rabbitmq2
192.168.1.19 rabbitmq1

#如果先安装了rabbitMQ后改的主机名,启动可能会有问题
#分别在三台机器上 创建文件 
vim /etc/rabbitmq/rabbitmq-env.conf
NODENAME=rabbit@rabbitmq1 #注意这里的主机名修改对应的节点主机名

rabbitmq软件安装

分别安装三台的rabbitMQ

Centos离线安装RabbitMQ并开启MQTT

arm架构安装RabbitMQ并升级erlang解决Requires: erlang ＞= 23.2

#删除rabbitmq之前启动过生成的文件
cd /var/lib/rabbitmq/
rm -rf *

#重启
sudo systemctl restart rabbitmq-server.service

#停止
sudo systemctl stop rabbitmq-server.service 

#查看服务启动状态
sudo systemctl status rabbitmq-server.service 

#查看开机自启动状态
sudo systemctl is-enabled rabbitmq-server.service

#查看状态
rabbitmqctl status

#创建用户admin和密码beyond_2021
rabbitmqctl add_user admin beyond_2021

#设置admin角色
rabbitmqctl set_user_tags admin administrator

#分配权限
rabbitmqctl  set_permissions -p "/" admin '.*' '.*' '.*'  

#RabbitMQ提供了一个非常友好的图形化监控页面插件（rabbitmq_management），让我们可以一目了然看见Rabbit的状态或集群状态。
#查看插件安装情况
rabbitmq-plugins list

#开启图形化监控页面插件
rabbitmq-plugins enable rabbitmq_management  //管理控制台的默认端口是15672

#开启mqtt插件
rabbitmq-plugins enable rabbitmq_mqtt      //默认端口mqtt是1883 mqtt://192.168.1.17:1883

#开启Mqtt的websocket插件
rabbitmq-plugins enable rabbitmq_web_mqtt    //默认端口websocket是15675 ws://192.168.1.17:15675/ws path是/ws  

#查看监听端口（插件监控的端口是15672）
netstat -ntap |grep 5672

拷贝erlang.cookie

Rabbitmq的集群是依附于erlang的集群来工作的,所以必须先构建起erlang的集群景象。Erlang的集群中各节点是经由过程一个magic cookie来实现的,这个cookie存放在/var/lib/rabbitmq/.erlang.cookie中，文件是400的权限。所以必须保证各节点cookie一致,不然节点之间就无法通信。

#查看rabbitmq1的节点的cookie文件
cat /var/lib/rabbitmq/.erlang.cookie
HKHIEHFDVNFFGGPQ

#用scp的方式将rabbitmq1节点的.erlang.cookie的值复制到其他两个节点中。
#rabbitmq1复制到其他两个节点中
scp /var/lib/rabbitmq/.erlang.cookie root@192.168.1.17:/var/lib/rabbitmq/.erlang.cookie

#重启服务
sudo systemctl restart rabbitmq-server.service 

scp /var/lib/rabbitmq/.erlang.cookie root@192.168.1.18:/var/lib/rabbitmq/.erlang.cookie

sudo systemctl restart rabbitmq-server.service 

#如果报错: 参考链接: https://blog.csdn.net/u014209205/article/details/106647229
chown rabbitmq:rabbitmq /var/lib/rabbitmq/.erlang.cookie
chown rabbitmq:rabbitmq /var/lib/rabbitmq
mkdir -pv /var/log/rabbitmq

#报错:
 failed to open log file at '/var/log/rabbitmq/rabbit@rabbitmq3.log', reason: no such file or directory
 #创建文件
 vim /var/log/rabbitmq/rabbit@rabbitmq3.log

failed to open log file at '/var/log/rabbitmq/rabbit@rabbitmq3_upgrade.log', reason: no such file or directory
#创建文件
 vim /var/log/rabbitmq/rabbit@rabbitmq3_upgrade.log

将rabbitmq2、rabbitmq3作为内存节点加入rabbitmq1节点集群中

在rabbitmq2 rabbitmq3下执行

rabbitmqctl stop_app //停掉rabbit应用

rabbitmqctl join_cluster --ram rabbit@rabbitmq1 //加入到内存节点

#也可以加入到磁盘节点
#rabbitmqctl join_cluster rabbit@rabbitmq1 //加入到磁盘节点

rabbitmqctl start_app  //启动rabbit应用

#如果加入集群报错
Clustering node rabbit@rabbitmq2 with rabbit@rabbitmq1
Error:
incompatible_feature_flags
表示: Rabbitmq各节点版本不一致导致的

(1）默认rabbitmq启动后是磁盘节点，在这个cluster命令下，rabbitmq2和rabbitmq3是内存节点，rabbitmq1是磁盘节点。
（2）如果要使rabbitmq2、rabbitmq3都是磁盘节点，去掉–ram参数即可。
（3）如果想要更改节点类型，可以使用命令rabbitmqctl change_cluster_node_type disc(ram),前提是必须停掉rabbit应用

在RabbitMQ集群中，必须至少有一个磁盘节点，否则队列元数据无法写入到集群中，当磁盘节点宕掉时，集群将无法写入新的队列元数据信息。

保持版本一致,rabbitmq卸载与升级

我这里有rabbitmq3.8.2和3.8.18版本的rpm包,有需要可以给我留言或评论

#查看版本
rabbitmqctl version

erl

erl -version

#查询rpm安装包
rpm -qa rabbitmq
rpm -qa epel-release
rpm -qa erlang

#rpm卸载老版本
sudo rpm -e rabbitmq-server-3.8.2-1.el7.noarch.rpm 
sudo rpm -e erlang-22.2.8-1.el7.x86_64.rpm 
sudo rpm -e epel-release-7-11.noarch.rpm

#yum查询安装包与卸载
yum list | grep rabbitmq
yum -y remove rabbitmq-server.noarch
yum list | grep erlang
yum remove erlang.x86_64
yum remove socat

#安装最新的,相同的版本
sudo rpm -ivh epel-release-7-13.noarch.rpm
sudo rpm -ivh erlang-23.3.4.4-1.el7.x86_64.rpm
sudo rpm -ivh rabbitmq-server-3.8.18-1.el7.noarch.rpm

#然后重新加入到集群
rabbitmqctl join_cluster --ram rabbit@rabbitmq1

查看集群状态

#查看集群状态
rabbitmqctl cluster_status
#显示如下:
Cluster status of node rabbit@rabbitmq1 ...
Basics

Cluster name: rabbit@rabbitmq1

Disk Nodes

rabbit@rabbitmq2
rabbit@rabbitmq3
rabbit@rabbitmq1

Running Nodes

rabbit@rabbitmq2
rabbit@rabbitmq3
rabbit@rabbitmq1

Versions

rabbit@rabbitmq2: RabbitMQ 3.8.18 on Erlang 23.3.4.4
rabbit@rabbitmq3: RabbitMQ 3.8.18 on Erlang 23.3.4.4
rabbit@rabbitmq1: RabbitMQ 3.8.18 on Erlang 23.3.4.4

Maintenance status

Node: rabbit@rabbitmq2, status: not under maintenance
Node: rabbit@rabbitmq3, status: not under maintenance
Node: rabbit@rabbitmq1, status: not under maintenance

Alarms

(none)

Network Partitions

(none)

Listeners

Node: rabbit@rabbitmq2, interface: [::], port: 15672, protocol: http, purpose: HTTP API
Node: rabbit@rabbitmq2, interface: [::], port: 1883, protocol: mqtt, purpose: MQTT
Node: rabbit@rabbitmq2, interface: [::], port: 15675, protocol: http/web-mqtt, purpose: MQTT over WebSockets
Node: rabbit@rabbitmq2, interface: [::], port: 25672, protocol: clustering, purpose: inter-node and CLI tool communication
Node: rabbit@rabbitmq2, interface: [::], port: 5672, protocol: amqp, purpose: AMQP 0-9-1 and AMQP 1.0
Node: rabbit@rabbitmq3, interface: [::], port: 15672, protocol: http, purpose: HTTP API
Node: rabbit@rabbitmq3, interface: [::], port: 1883, protocol: mqtt, purpose: MQTT
Node: rabbit@rabbitmq3, interface: [::], port: 15675, protocol: http/web-mqtt, purpose: MQTT over WebSockets
Node: rabbit@rabbitmq3, interface: [::], port: 25672, protocol: clustering, purpose: inter-node and CLI tool communication
Node: rabbit@rabbitmq3, interface: [::], port: 5672, protocol: amqp, purpose: AMQP 0-9-1 and AMQP 1.0
Node: rabbit@rabbitmq4, interface: [::], port: 25672, protocol: clustering, purpose: inter-node and CLI tool communication
Node: rabbit@rabbitmq1, interface: [::], port: 5672, protocol: amqp, purpose: AMQP 0-9-1 and AMQP 1.0
Node: rabbit@rabbitmq1, interface: [::], port: 15672, protocol: http, purpose: HTTP API
Node: rabbit@rabbitmq1, interface: [::], port: 1883, protocol: mqtt, purpose: MQTT
Node: rabbit@rabbitmq1, interface: [::], port: 15675, protocol: http/web-mqtt, purpose: MQTT over WebSockets

Feature flags

Flag: drop_unroutable_metric, state: enabled
Flag: empty_basic_get_metric, state: enabled
Flag: implicit_default_bindings, state: enabled
Flag: maintenance_mode_status, state: enabled
Flag: quorum_queue, state: enabled
Flag: user_limits, state: enabled
Flag: virtual_host_metadata, state: enabled

rabbitmq集群节点的移除

#停止rabbitmq2 rabbitmq3服务或者rabbitmqctl stop_app停止应用后
#在rabbitmq1上 从集群中 移除节点
rabbitmqctl forget_cluster_node rabbit@rabbitmq2
rabbitmqctl forget_cluster_node rabbit@rabbitmq3

#重置数据, 用户名密码都会要重新设置
rabbitmqctl stop_app
rabbitmqctl reset   

#修改成磁盘节点
rabbitmqctl stop_app
rabbitmqctl change_cluster_node_type disc(ram)
rabbitmqctl start_app

登录rabbitmq web管理控制台，创建新的队列

打开浏览器输入任意一个节点的: 比如17节点, http://192.168.1.17:15672, 输入之前创建的用户Username：admin，输入Password:beyond_2021 ,登录后出现如图所示的界面。

在这里插入图片描述

根据界面提示创建一条队列

在这里插入图片描述

队列创建成功

在这里插入图片描述

在RabbitMQ集群中，必须至少有一个磁盘节点，否则队列元数据无法写入到集群中，当磁盘节点宕掉时，集群将无法写入新的队列元数据信息。

RabbitMQ镜像集群配置

上面已经完成RabbitMQ默认集群模式，但并不保证队列的高可用性，尽管交换机、绑定这些可以复制到集群里的任何一个节点，但是队列内容不会复制。虽然该模式解决一项目组节点压力，但队列节点宕机直接导致该队列无法应用，只能等待重启，所以要想在队列节点宕机或故障也能正常应用，就要复制队列内容到集群里的每个节点，必须要创建镜像队列。

镜像队列是基于普通的集群模式的，然后再添加一些策略，所以你还是得先配置普通集群，然后才能设置镜像队列，我们就以上面的集群接着做。

设置的镜像队列可以通过开启的网页的管理端，也可以通过命令，这里说的是其中的网页设置方式。