一、消息队列
1.1 MQ的相关概念
1.1.1 什么是MQ
MQ(message queue)，从字面意思上看，本质是个队列，FIFO 先入先出，只不过队列中存放的内容是
message 而已，还是一种跨进程的通信机制，用于上下游传递消息。在互联网架构中，MQ 是一种非常常
见的上下游“逻辑解耦+物理解耦”的消息通信服务。使用了 MQ 之后，消息发送上游只需要依赖 MQ，不
用依赖其他服务。
1.1.2 为什么要用MQ
- 这里我们就要介绍MQ的三大特性了
- 流量消峰：使用消息队列做缓冲
- 应用解耦：降低系统耦合度、提高可用性
- 异步处理：对于生产者发送消息之后，就可以去处理其他的事情，在消费者消费完消息由队列通知我们生产者
1️⃣ 流量消峰
举个例子，如果订单系统最多能处理一万次订单，这个处理能力应付正常时段的下单时绰绰有余，正
常时段我们下单一秒后就能返回结果。但是在高峰期，如果有两万次下单操作系统是处理不了的，只能限
制订单超过一万后不允许用户下单。使用消息队列做缓冲，我们可以取消这个限制，把一秒内下的订单分
散成一段时间来处理，这时有些用户可能在下单十几秒后才能收到下单成功的操作，但是比不能下单的体
验要好
2️⃣ 应用解耦
以电商应用为例，应用中有订单系统、库存系统、物流系统、支付系统。用户创建订单后，如果耦合
调用库存系统、物流系统、支付系统，任何一个子系统出了故障，都会造成下单操作异常。当转变成基于
消息队列的方式后，系统间调用的问题会减少很多，比如物流系统因为发生故障，需要几分钟来修复。在
这几分钟的时间里，物流系统要处理的内存被缓存在消息队列中，用户的下单操作可以正常完成。当物流
系统恢复后，继续处理订单信息即可，中单用户感受不到物流系统的故障，提升系统的可用性。
3️⃣ 异步处理
有些服务间调用是异步的，例如 A 调用 B，B 需要花费很长时间执行，但是 A 需要知道 B 什么时候可
以执行完，以前一般有两种方式，A 过一段时间去调用 B 的查询 api 查询。或者 A 提供一个 callback api，
B 执行完之后调用 api 通知 A 服务。这两种方式都不是很优雅，使用消息总线，可以很方便解决这个问题，
A 调用 B 服务后，只需要监听 B 处理完成的消息，当 B 处理完成后，会发送一条消息给 MQ，MQ 会将此
消息转发给 A 服务。这样 A 服务既不用循环调用 B 的查询 api，也不用提供 callback api。同样 B 服务也不
用做这些操作。A 服务还能及时的得到异步处理成功的消息。
1.1.3 MQ的分类
1️⃣ ActiveMQ
- 优点：单机吞吐量万级，时效性 ms 级，可用性高，基于主从架构实现高可用性，消息可靠性较低的概率丢失数据
- 缺点:官方社区现在对 ActiveMQ 5.x 维护越来越少，高吞吐量场景较少使用
2️⃣ Kafka
-
大数据的杀手锏，谈到大数据领域内的消息传输，则绕不开 Kafka，这款为大数据而生的消息中间件，以其百万级 TPS 的吞吐量名声大噪，迅速成为大数据领域的宠儿，在数据采集、传输、存储的过程中发挥
着举足轻重的作用。目前已经被 LinkedIn，Uber, Twitter, Netflix 等大公司所采纳。 -
优点: 性能卓越，单机写入 TPS 约在百万条/秒，最大的优点，就是吞吐量高。时效性 ms 级可用性非常高，kafka 是分布式的，一个数据多个副本，少数机器宕机，不会丢失数据，不会导致不可用,消费者采用 Pull 方式获取消息, 消息有序, 通过控制能够保证所有消息被消费且仅被消费一次;有优秀的第三方KafkaWeb 管理界面 Kafka-Manager；在日志领域比较成熟，被多家公司和多个开源项目使用；功能支持：功能较为简单，主要支持简单的 MQ 功能，在大数据领域的实时计算以及日志采集被大规模使用
-
缺点：Kafka 单机超过 64 个队列/分区，Load 会发生明显的飙高现象，队列越多，load 越高，发送消
息响应时间变长，使用短轮询方式，实时性取决于轮询间隔时间，消费失败不支持重试；支持消息顺序，
但是一台代理宕机后，就会产生消息乱序，社区更新较慢
3️⃣ RocketMQ
- RocketMQ 出自阿里巴巴的开源产品，用 Java 语言实现，在设计时参考了 Kafka，并做出了自己的一些改进。被阿里巴巴广泛应用在订单，交易，充值，流计算，消息推送，日志流式处理，binglog 分发等场
景。 - 优点:单机吞吐量十万级,可用性非常高，分布式架构,消息可以做到 0 丢失,MQ 功能较为完善，还是分布式的，扩展性好,支持 10 亿级别的消息堆积，不会因为堆积导致性能下降,源码是 java 我们可以自己阅读源码，定制自己公司的 MQ
- 缺点：支持的客户端语言不多，目前是 java 及 c++，其中 c++不成熟；社区活跃度一般,没有在 MQ
核心中去实现 JMS 等接口,有些系统要迁移需要修改大量代码
4️⃣ RabbitMQ
-
2007 年发布，是一个在 AMQP(高级消息队列协议)基础上完成的，可复用的企业消息系统，是当前最主流的消息中间件之一。
-
优点:由于 erlang 语言的高并发特性，性能较好；吞吐量到万级，MQ 功能比较完备,健壮、稳定、易用、跨平台、支持多种语言 如：Python、Ruby、.NET、Java、JMS、C、PHP、ActionScript、XMPP、STOMP
等，支持 AJAX 文档齐全；开源提供的管理界面非常棒，用起来很好用,社区活跃度高；更新频率相当高 -
缺点：商业版需要收费,学习成本较高
1.1.4 MQ的选择
1️⃣ Kafka
Kafka 主要特点是基于 Pull 的模式来处理消息消费，追求高吞吐量，一开始的目的就是用于日志收集和传输，适合产生大量数据的互联网服务的数据收集业务。大型公司建议可以选用，如果有日志采集功能，肯定是首选 kafka 了。
2️⃣ RocketMQ
天生为金融互联网领域而生，对于可靠性要求很高的场景，尤其是电商里面的订单扣款，以及业务削峰，在大量交易涌入时，后端可能无法及时处理的情况。RoketMQ 在稳定性上可能更值得信赖，这些业务场景在阿里双 11 已经经历了多次考验，如果你的业务有上述并发场景，建议可以选择 RocketMQ。
3️⃣ RabbitMQ
结合 erlang 语言本身的并发优势，性能好时效性微秒级，社区活跃度也比较高，管理界面用起来十分方便，如果你的数据量没有那么大，中小型公司优先选择功能比较完备的 RabbitMQ。
1.2 RabbitMQ
1.2.1 RabbitMQ 的概念
- RabbitMQ 是一个消息中间件：它接受并转发消息。
- 你可以把它当做一个快递站点，当你要发送一个包裹时，你把你的包裹放到快递站，快递员最终会把你的快递送到收件人那里，
- 按照这种逻辑 RabbitMQ 是一个快递站，一个快递员帮你传递快件。RabbitMQ 与快递站的主要区别在于，它不处理快件而是接收，存储和转发消息数据。
1.2.2 四大核心概念
-
RabbitMQ 四大核心概念·：生产者、交换机、队列、消费者
-
生产者:
- 产生数据发送消息的程序是生产者
-
交换机:
- 交换机是 RabbitMQ 非常重要的一个部件，一方面它接收来自生产者的消息，另一方面它将消息推送到队列中
- 交换机必须确切知道如何处理它接收到的消息，是将这些消息推送到特定队列还是推送到多个队列，亦或者是把消息丢弃，这个得有交换机类型决定
-
队列:
- RabbitMQ 内部使用的一种数据结构，尽管消息流经 RabbitMQ 和应用程序，但它们只能存储在队列中。
- 队列仅受主机的内存和磁盘限制的约束，本质上是一个大的消息缓冲区。
- 许多生产者可以将消息发送到一个队列，许多消费者可以尝试从一个队列接收数据。这就是我们使用队列的方式
-
消费者:
- 消费者大多时候是一个等待接收消息的程序
- 请注意生产者，消费者和消息中间件很多时候并不在同一机器上
- 同一个应用程序既可以是生产者又是可以是消费者
-
1.2.3 RabbitMQ 核心概念
- RabbitMQ是一种基于AMQP协议的消息队列实现，提供了多种消息传递模式，以满足不同的消息处理需求 【AMQP高级消息队列协议】
- 在此基础上，我们再介绍一下 RabbitMQ 的六大工作模式：
-
简单模式：最简单的一种模式，即生产者将消息发布到队列中，消费者从该队列中获取消息。一个生产者、一个消费者、一个队列的简单应用场景中可使用。
-
工作队列模式：多个消费者对同一个队列中的消息进行处理，队列按顺序将消息发送给不同的消费者。不同消费者共同从同一个队列中获取消息并进行处理。【也称为轮训模式】
-
发布/订阅模式：生产者将消息发送到Exchange，Exchange将消息广播给所有绑定到它上面的队列，即多个消费者从多个队列中获取同一份消息。
-
路由模式：生产者将消息发送到Exchange，并通过绑定键指定需要发送到的队列，从而实现消息路由。消费者也需要通过与生产者相同的绑定键来接收消息，这样才能接收到正确的消息。【RoutingKey】
-
主题模式：主题模式类似于路由模式，但支持通配符绑定键。生产者将消息发送到Exchange，并使用通配符绑定键来指定需要发送到的队列。通过指定规则选择对消息感兴趣的消费者进行处理。【路由可以匹配特定队列，主题可以匹配多个队列】
-
Header模式：Header模式与其他五种模式有所不同。在Header模式中，生产者将消息发送到Exchange，Exchange不使用绑定键，而是使用自定义的头信息来决定消息是否发送到队列。消费者通过一组自定义的头信息来接收消息。
-
1.2.4 各个名词介绍
- Broker：接收和分发消息的应用，RabbitMQ Server 就是 Message Broker
- 一个Broker对应多个 Virtual host，一个 Virtual host 对一个多个交换机（exchange），一个交换机对应多个队列
- Virtual host：出于多租户和安全因素设计的，把 AMQP 的基本组件划分到一个虚拟的分组中，类似于网络中的 namespace 概念。当多个不同的用户使用同一个 RabbitMQ server 提供的服务时，可以划分出多个 vhost，每个用户在自己的 vhost 创建 exchange／queue 等
- Connection：publisher／consumer 和 broker 之间的 TCP 连接
- Channel：如果每一次访问 RabbitMQ 都建立一个 Connection，在消息量大的时候建立 TCP ， Connection 的开销将是巨大的，效率也较低。
- Channel 是在 connection 内部建立的逻辑连接，如果应用程序支持多线程，通常每个 thread 创建单独的 channel 进行通讯，AMQP method 包含了 channel id 帮助客户端和 message broker 识别 channel，所以 channel 之间是完全隔离的
- Channel 作为轻量级的Connection 极大减少了操作系统建立 TCP connection 的开销
- Exchange：message 到达 broker 的第一站，根据分发规则，匹配查询表中的 routing key，分发消息到 queue 中去。常用的类型有：direct (point-to-point), topic (publish-subscribe) and fanout (multicast)
- Queue：消息最终被送到这里等待 consumer 取走
- Binding：exchange 和 queue 之间的虚拟连接，binding 中可以包含 routing key，Binding 信息被保
存到 exchange 中的查询表中，用于 message 的分发依据
1.2.5 安装
- 以我自己在学习过程中使用的阿里云的ESC服务器为例 【云服务器】
- 点击下载我们需要的三个文件 提取码 xarj
1️⃣ 将预先准备的几个压缩包传到我们服务器指定的目录下
-
我通过 XFtp 连接到我们的云服务器，然后将文件直接拖拽过去 【图片参考的是我Redis环境配置】
-
发送完成后查看一下
2️⃣ 安装文件（先后执行以下命令）
rpm -ivh erlang-21.3-1.el7.x86_64.rpm
yum install socat -y
rpm -ivh rabbitmq-server-3.8.8-1.el7.noarch.rpm
3️⃣ 常用命令（按顺序执行）
- 通过
chkconfig rabbitmq-server on指令添加开机启动 RabbitMQ 服务 - 通过
/sbin/service rabbitmq-server start指令启动服务 - 通过
/sbin/service rabbitmq-server status指令查看我们 rabbitmq 服务状态
- 通过
/sbin/service rabbitmq-server stop指令停止 rabbitmq 服务 - 通过
rabbitmq-plugins enable rabbitmq_management指令开启 RabbitMQ 的 Web 管理插件 - 通过 在浏览器地址栏输入
ip:15672访问我们 RabbitMQ 的 Web 管理页面
如果我们在浏览器访问失败，我们可以尝试以下几种方式解决：
（1）我们应该关闭服务器的防火墙
//查看防火墙状态
systemctl status firewalld
//关闭防火墙
systemctk stop firewalld
//保证下次开启也不再开启防火墙了
systemctl enable firewalld
（2）我们应该设置云服务器的安全组放行对应端口
-
再次尝试访问：【默认账号和密码都是 guest】
-
当我们访问时，发现权限不够，此时我们需要到服务器中进行配置，添加一个新的用户
-
通过
rabbitmqctl add_user admin 123指令创建账户 【admin 是账户、123 是密码】 -
通过
rabbitmqctl set_user_tags admin administrator设置角色 -
通过以下两条指令设置用户权限，按顺序执行 【用户 user_admin 具有 /vhost1 这个 virtual host 中所有资源的配置、写、读权限】
set_permissions [-p <vhostpath>] <user> <conf> <write> <read>rabbitmqctl set_permissions -p "/" admin ".*" ".*" ".*"
-
通过
rabbitmqctl list_users命令可以查看当前用户和角色
-
-
用我们新创建的用户登录
-
最后介绍一下 RabbitMQ 的相关重置命令
rabbitmqctl stop_app关闭应用rabbitmqctl reset清除rabbitmqctl start_app重启
二、HelloWorld
-
简单工作模式：一个生产者、一个消费者
-
在 IDEA 中创建一个空的MAVEN项目，配置我们的 pom.xml 文件
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <groupId>com.atguigu.rabbitmq</groupId> <artifactId>rabbitmq-hello</artifactId> <version>1.0-SNAPSHOT</version> <!--指定 jdk 编译版本--> <build> <plugins> <plugin> <groupId>org.apache.maven.plugins</groupId> <artifactId>maven-compiler-plugin</artifactId> <configuration> <source>8</source> <target>8</target> </configuration> </plugin> </plugins> </build> <dependencies> <!--rabbitmq 依赖客户端--> <dependency> <groupId>com.rabbitmq</groupId> <artifactId>amqp-client</artifactId> <version>5.8.0</version> </dependency> <!--操作文件流的一个依赖--> <dependency> <groupId>commons-io</groupId> <artifactId>commons-io</artifactId> <version>2.6</version> </dependency> </dependencies> </project> -
编写我们的生产者 Producer
package com.atguigu.rabbitmq.one; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; import com.rabbitmq.client.ConnectionFactory; import java.io.IOException; import java.util.concurrent.TimeoutException; /** * @author Bonbons * @version 1.0 * 生产者发送消息 */ public class Producer { //定义队列名 public static final String QUEUE_NAME = "hello"; public static void main(String[] args) throws IOException, TimeoutException { //创建连接工厂 ConnectionFactory factory = new ConnectionFactory(); //将工厂连接到我们RabbitMQ队列 factory.setHost("8.130.95.101"); //用户名 factory.setUsername("admin"); //密码 factory.setPassword("123"); //创建连接[是通过我们连接工厂创建出来的连接] Connection connection = factory.newConnection(); //因为消息的传输是通过信道来完成的，所以我们需要通过连接创建信道[需要处理IO异常] Channel channel = connection.createChannel(); /** * 利用信道生成一个队列[介绍一下这四个参数的含义] * 1、队列名 * 2、是否开启持久化[默认情况消息只存储在内存中] * 3、该队列是否只供一个消费者消费，是否进行消息共享 * 4、最后一个消费者断开连接后是否自动删除 * 5、其他参数 */ channel.queueDeclare(QUEUE_NAME, false, false, true, null); //创建消息 String message = "hello world!"; /** * 发送消息 * 1、发送到哪个交换机 * 2、路由的key [此处为我们队列名] * 3、其他参数信息 * 4、消息体 */ channel.basicPublish("", QUEUE_NAME, null, message.getBytes()); System.out.println("消息发送成功!"); } } -
编写我们的消费者 Consumer
package com.atguigu.rabbitmq.one; import com.rabbitmq.client.*; /** * @author Bonbons * @version 1.0 * 消费者 接收消息 */ public class Consumer { //队列名称 public static final String QUEUE_NAME = "hello"; //接收消息 public static void main(String[] args) throws Exception{ //创建连接工厂 >> 信息绑定 >> 创建连接 >> 创建信道 ConnectionFactory factory = new ConnectionFactory(); factory.setHost("8.130.95.101"); factory.setUsername("admin"); factory.setPassword("123"); Connection connection = factory.newConnection(); Channel channel = connection.createChannel(); // 消息消费成功后回调，我们需要通过l表达式去创建接口实现类 DeliverCallback deliverCallback = (consumerTag, message) ->{ System.out.println(new String(message.getBody())); }; //消息消费失败后回调 CancelCallback cancelCallback = (consumerTag) ->{ System.out.println("消息消费被中断"); }; /** * 消费者消费消息 * 1、消费哪个队列 [队列名] * 2、消费成功后是否为自动应答 [false 代表手动应答] * 3、消费成功消息回调 [可以理解为你接收到消息后对消息的处理] * 4、消费失败回调 [可以理解为消息没有成功get到] */ channel.basicConsume(QUEUE_NAME, true, deliverCallback, cancelCallback); } }
进行测试：
- 总结：
- 生产者将消息通过信道发送给队列，消费者通过信道从队列中拿到消息
- 无论生产者还是消费者，每次都需要先创建连接工厂，然后配置我们的服务器IP、用户名和密码，再获得连接，进而获得信道
三、WorkQueue
-
工作队列(又称任务队列)的主要思想是避免立即执行资源密集型任务，而不得不等待它完成。相反我们安排任务在之后执行。我们把任务封装为消息并将其发送到队列。在后台运行的工作进
程将弹出任务并最终执行作业。当有多个工作线程时，这些工作线程将一起处理这些任务。 -
上面说的有点绕，就是有多个工作线程处理消息，他们获得消息是轮着来的（你一条我一条），也称为轮循模式
3.1 轮循发送消息
-
根据我们在HelloWorld的结尾描述，我们可以得知：
- 每次创建生产者、消费者都有一部分代码是重复的，所以我们可以将这部分抽取为工具类
package com.atguigu.rabbitmq.utils; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; import com.rabbitmq.client.ConnectionFactory; public class RabbitMqUtils { //得到一个连接的 channel public static Channel getChannel() throws Exception { //创建一个连接工厂 ConnectionFactory factory = new ConnectionFactory(); factory.setHost("8.130.95.101"); factory.setUsername("admin"); factory.setPassword("123"); Connection connection = factory.newConnection(); Channel channel = connection.createChannel(); return channel; } }
1️⃣ 生产线程
package com.atguigu.rabbitmq.two;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.Channel;
import java.util.Scanner;
/**
* @author Bonbons
* @version 1.0
* 生产线程（类似于前面的生产者），此处通过控制台输入模拟发送大量消息，并轮循由
* 工作线程处理
*/
public class Task01 {
//队列名
public static final String QUEUE_NAME = "hello";
//发送消息
public static void main(String[] args) throws Exception{
//获得信道
Channel channel = RabbitMqUtils.getChannel();
//从控制台输入
Scanner scanner = new Scanner(System.in);
//循环接收
while(scanner.hasNext()){
String message = scanner.next();
//参数说明：""空串代表使用默认交换机，QUEUE_NAME代表队列名，第三参数代表其他参数，第四参数代表消息
channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
System.out.println("消息发送完成: " + message);
}
}
}
2️⃣ 消费线程
package com.atguigu.rabbitmq.two;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.CancelCallback;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
/**
* @author Bonbons
* @version 1.0
* 第一个工作线程 [类似于之前的消费者]
*/
public class Worker01 {
//队列名
public static final String QUEUE_NAME = "hello";
//消费消息
public static void main(String[] args) throws Exception{
//获取信道
Channel channel = RabbitMqUtils.getChannel();
//消费消息
DeliverCallback deliverCallback = (consumerTag, message) -> {
System.out.println("接收到的消息内容: " + new String(message.getBody()));
};
//消费消息取消
CancelCallback cancelCallback = (consumerTag) -> {
System.out.println(consumerTag + "消费者取消消费接口回调逻辑");
};
//第二次运行前将此处C1改为C2方便区分
System.out.println("C1等待接收消息...");
//调用信道执行消费方法
channel.basicConsume(QUEUE_NAME, true, deliverCallback, cancelCallback);
}
}
- 演示轮循的效果很简单，配置多个消费者就可以，因为此部分另一个消费者的代码与当前消费者代码相同
- 所以，我们只需要开启 IDEA 中的多线程模式多次运行即可，无需再创建一个相同的消费者
- 所以，我们只需要开启 IDEA 中的多线程模式多次运行即可，无需再创建一个相同的消费者
（1）接下来运行我们的消费线程
（2）启动生产者并发送四条消息
（3）尽管这两个线程谁先获得消息不一定，但是他们是轮循获得消息的
3.2 消息应答
🌔 1、消息应答的概念？
- 为了保证消息在发送过程中不丢失，rabbitmq 引入消息应答机制
- 消息应答就是:消费者在接收到消息并且处理该消息之后，告诉 rabbitmq 它已经处理了，rabbitmq 可以把该消息删除了
🌔 2、先介绍什么是自动应答？
消息发送后立即被认为已经传送成功，这种模式需要在**高吞吐量和数据传输安全性方面做权衡,**因为这种模式如果消息在接收到之前，消费者那边出现连接或者 channel 关闭，那么消息就丢失了,当然另一方面这种模式消费者那边可以传递过载的消息，没有对传递的消息数量进行限制，当然这样有可能使得消费者这边由于接收太多还来不及处理的消息，导致这些消息的积压，最终使得内存耗尽，最终这些消费者线程被操作系统杀死，所以这种模式仅适用在消费者可以高效并以某种速率能够处理这些消息的情况下使用
🌔 3、消息应答的方法？
- Channel.basicAck(用于肯定确认)
- RabbitMQ 已知道该消息并且成功的处理消息，可以将其丢弃了
- Channel.basicNack(用于否定确认)
- Channel.basicReject(用于否定确认) 【与 Channel.basicNack 相比少一个参数，不处理该消息了直接拒绝，可以将其丢弃了】
🌔 4、什么是批量应答？
- 这个方法的第二个参数 multiple 代表的就是是否开启批量应答
- 如果设置为 true, 就会同时应答该 channel 中所有的消息 【不推荐使用】
- 如果设置为 false，在应答的时候只会应答当前的消息
🌔 5、如果消息未应答应该怎么办呢？
如果消费者由于某些原因失去连接(其通道已关闭，连接已关闭或 TCP 连接丢失)，导致消息未发送 ACK 确认，RabbitMQ 将了解到消息未完全处理，并将对其重新排队（消息自动重新入队）。如果此时其他消费者可以处理，它将很快将其重新分发给另一个消费者。这样，即使某个消费者偶尔死亡，也可以确保不会丢失任何消息
🌔 6、接下来我们介绍如何实现手动应答？
- 先通过一张图从整体上来看手动应答的区别在哪
1️⃣ 消息生产者
package com.atguigu.rabbitmq.three;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.MessageProperties;
import java.util.Scanner;
/**
* @author Bonbons
* @version 1.0
* 模拟消息消费手动应答消息不丢失
*/
public class Task02 {
//启用新的队列名
public static final String TASK_QUEUE_NAME = "ack_queue";
//发送消息
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
//开启发布确认
channel.confirmSelect();
//声明队列: 队列名，持久化，消息共享，自动删除，其他参数
channel.queueDeclare(TASK_QUEUE_NAME, false, false, false, null);
Scanner scanner = new Scanner(System.in);
while(scanner.hasNext()){
String message = scanner.next();
//在将消息转为字节的时候，设置编码类型为 UTF-8 可以防止中文乱码
channel.basicPublish("", TASK_QUEUE_NAME, null, message.getBytes("UTF-8"));
System.out.println("生产者发送消息:" + message);
}
}
}
2️⃣ 消息消费者1号
package com.atguigu.rabbitmq.three;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.atguigu.rabbitmq.utils.SleepUtils;
import com.rabbitmq.client.CancelCallback;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
/**
* @author Bonbons
* @version 1.0
* 模拟消息消费手动应答消息不丢失
*/
public class Worker03 {
public static final String TASK_QUEUE_NAME = "ack_queue";
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
System.out.println("C1等待接收消息处理时间较短");
DeliverCallback deliverCallback = (consumerTag, message) ->{
//睡眠1s
SleepUtils.sleep(1);
System.out.println("接收到的消息: " + new String(message.getBody(), "UTF-8"));
//因为我们关闭了自动应答，所以在消息消费结束后需要手动应该我们 RabbitMQ [消息标记、是否批量应答]
channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
};
CancelCallback cancelCallback = (consumerTag) -> {
System.out.println("消息者取消消费接口回调逻辑");
};
//关闭自动应答
boolean autoAck = false;
channel.basicConsume(TASK_QUEUE_NAME, autoAck, deliverCallback, cancelCallback);
}
}
3️⃣ 消息消费者2号
package com.atguigu.rabbitmq.three;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.atguigu.rabbitmq.utils.SleepUtils;
import com.rabbitmq.client.CancelCallback;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
/**
* @author Bonbons
* @version 1.0
* 模拟消息消费手动应答消息不丢失
*/
public class Worker04 {
public static final String TASK_QUEUE_NAME = "ack_queue";
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
System.out.println("C2等待接收消息处理时间较长");
DeliverCallback deliverCallback = (consumerTag, message) ->{
//睡眠1s
SleepUtils.sleep(30);
System.out.println("接收到的消息: " + new String(message.getBody(), "UTF-8"));
//因为我们关闭了自动应答，所以在消息消费结束后需要手动应该我们 RabbitMQ [消息标记、是否批量应答]
channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
};
CancelCallback cancelCallback = (consumerTag) -> {
System.out.println("消息者取消消费接口回调逻辑");
};
//关闭自动应答
boolean autoAck = false;
channel.basicConsume(TASK_QUEUE_NAME, autoAck, deliverCallback, cancelCallback);
}
}
4️⃣ 睡眠工具类
package com.atguigu.rabbitmq.utils;
/**
* @author Bonbons
* @version 1.0
* 线程睡眠工具类
*/
public class SleepUtils {
public static void sleep(int second){
try{
Thread.sleep(1000 * second);
}catch (InterruptedException _ignored){
//线程中断
Thread.currentThread().interrupt();
}
}
}
5️⃣ 效果演示
-
我们要演示的是使用手动应答消息不丢失的效果
-
由生产者发送四条数据，通过线程睡眠模拟处理数据消耗不同的时长
- 我们一个消费者睡眠时间短、另一个睡眠时间长
-
因为默认此时使用的还是轮循工作模式，正常情况下两个消费者分别处理两条信息
-
此时，在我们较慢的消费者处理第二条消息还未应答前将其关闭，模拟宕机
- 因为没有应答，所以这条消息会重新回到队列分配给其他消费者【此处就是我们的另一个消费者】
-
预期结果：一个消费者处理一条消息，另一个消费者处理三条消息
6️⃣ 补充说明：
- 我们睡眠工具类当遇到异常时使用的 interrupt
3.3 RabbitMQ 持久化
🌔 1、如何保障当 RabbitMQ 服务停掉以后消
息生产者发送过来的消息不丢失？
- 默认情况下 RabbitMQ 退出或由于某种原因崩溃时，它忽视队列和消息，除非告知它不要这样做。
- 确保消息不会丢失需要做两件事：我们需要将队列和消息都标记为持久化
🌔 2、如何实现队列持久化？
- 之前我们创建的队列都是非持久化的，rabbitmq 如果重启的化，该队列就会被删除掉
- 如果要队列实现持久化 需要在声明队列的时候把 durable 参数设置为持久化
- 在 RabbitMQ 的 Web 控制台我们会发现持久化队列会有个 D 标记
🌔 3、如何实现消息持久化？
- 如果想让消息持久化，只需要在我们通过信道的 basicPublish 方法设置参数
MessageProperties.PERSISTENT_TEXT_PLAIN
- 将消息标记为持久化并不能完全保证不会丢失消息
- 对于简单任务队列已经足够了，如果需要强而有力的持久化策略，我们会在发布确认的高级篇介绍
🌔 4、介绍什么是不公平分发？
- 在我们采用轮循分发的时候，可能存在消费者之间处理任务的速度差距非常大，就会导致有的消费者一直在工作，有的消费者总是在空闲 【资源利用率低】
- 为了避免这种情况，我们采用不公平分发规则
- 通过为信道设置参数
channel.basicQos(1);就启用了不公平分发模式- 就是消费者处理任务速度越快，可能获得的消息越多 【类似于能者多劳】
- 通过为信道设置参数
- 如果这个任务我还没有处理完或者我还没有应答你，你先别分配给我，我目前只能处理一个任务
- 然后 rabbitmq 就会把该任务分配给没有那么忙的那个空闲消费者
- 当然如果所有的消费者都没有完成手上任务，队列还在不停的添加新任务，队列有可能就会遇到队列被撑满的情况，这个时候就只能添加新的 worker 或者改变其他存储任务的策略
接下来对不公平分配进行测试 [和上面手动应答消息不丢失的代码基本相同]
1️⃣ 生产者
package com.atguigu.rabbitmq.three;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.MessageProperties;
import java.util.Scanner;
/**
* @author Bonbons
* @version 1.0
* 模拟消息消费手动应答消息不丢失
*/
public class Task02 {
//启用新的队列名
public static final String TASK_QUEUE_NAME = "ack_queue";
//发送消息
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
//开启发布确认
channel.confirmSelect();
//声明队列: 队列名，持久化，消息共享，自动删除，其他参数
boolean durable = true;//设置队列持久化
channel.queueDeclare(TASK_QUEUE_NAME, durable, false, false, null);
Scanner scanner = new Scanner(System.in);
while(scanner.hasNext()){
String message = scanner.next();
//在将消息转为字节的时候，设置编码类型为 UTF-8 可以防止中文乱码
//设置消息持久化 [在发送消息的时候会保存到磁盘中，不能百分百达到持久化]
channel.basicPublish("", TASK_QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN
, message.getBytes("UTF-8"));
System.out.println("生产者发送消息:" + message);
}
}
}
2️⃣ 消费者1
package com.atguigu.rabbitmq.three;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.atguigu.rabbitmq.utils.SleepUtils;
import com.rabbitmq.client.CancelCallback;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
/**
* @author Bonbons
* @version 1.0
* 模拟消息消费手动应答消息不丢失
*/
public class Worker03 {
public static final String TASK_QUEUE_NAME = "ack_queue";
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
System.out.println("C1等待接收消息处理时间较短");
DeliverCallback deliverCallback = (consumerTag, message) ->{
//睡眠1s
SleepUtils.sleep(1);
System.out.println("接收到的消息: " + new String(message.getBody(), "UTF-8"));
//因为我们关闭了自动应答，所以在消息消费结束后需要手动应该我们 RabbitMQ [消息标记、是否批量应答]
channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
};
CancelCallback cancelCallback = (consumerTag) -> {
System.out.println("消息者取消消费接口回调逻辑");
};
//设置不公平分发
int prefetchCount = 1;
channel.basicQos(prefetchCount);
//关闭自动应答
boolean autoAck = false;
channel.basicConsume(TASK_QUEUE_NAME, autoAck, deliverCallback, cancelCallback);
}
}
3️⃣ 消费者2
package com.atguigu.rabbitmq.three;
import com.atguigu.rabbitmq.utils.RabbitMqUtils;
import com.atguigu.rabbitmq.utils.SleepUtils;
import com.rabbitmq.client.CancelCallback;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;
/**
* @author Bonbons
* @version 1.0
* 模拟消息消费手动应答消息不丢失
*/
public class Worker04 {
public static final String TASK_QUEUE_NAME = "ack_queue";
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
System.out.println("C2等待接收消息处理时间较长");
DeliverCallback deliverCallback = (consumerTag, message) ->{
//睡眠1s
SleepUtils.sleep(30);
System.out.println("接收到的消息: " + new String(message.getBody(), "UTF-8"));
//因为我们关闭了自动应答，所以在消息消费结束后需要手动应该我们 RabbitMQ [消息标记、是否批量应答]
channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
};
CancelCallback cancelCallback = (consumerTag) -> {
System.out.println("消息者取消消费接口回调逻辑");
};
//设置不公平分发
int prefetchCount = 1;
channel.basicQos(prefetchCount);
//关闭自动应答
boolean autoAck = false;
channel.basicConsume(TASK_QUEUE_NAME, autoAck, deliverCallback, cancelCallback);
}
}
- 测试：
- 生产者发送四条消息
- 预期结果：
- 处理任务快的消费者获得更多的消息
🌔 5、接下来介绍什么是预取值？
本身消息的发送就是异步发送的，所以在任何时候，channel 上肯定不止只有一个消息另外来自消费者的手动确认本质上也是异步的。因此这里就存在一个未确认的消息缓冲区，因此希望开发人员能限制此缓冲区的大小，以避免缓冲区里面无限制的未确认消息问题。这个时候就可以通过使用 basic.qos 方法设置“预取计数”值来完成的。该值定义通道上允许的未确认消息的最大数量。一旦数量达到配置的数量，RabbitMQ 将停止在通道上传递更多消息，除非至少有一个未处理的消息被确认，例如，假设在通道上有未确认的消息 5、6、7，8，并且通道的预取计数设置为 4，此时 RabbitMQ 将不会在该通道上再传递任何消息，除非至少有一个未应答的消息被 ack。比方说 tag=6 这个消息刚刚被确认 ACK，RabbitMQ 将会感知这个情况到并再发送一条消息。消息应答和 QoS 预取值对用户吞吐量有重大影响。通常，增加预取将提高向消费者传递消息的速度。虽然自动应答传输消息速率是最佳的，但是，在这种情况下已传递但尚未处理的消息的数量也会增加，从而增加了消费者的 RAM 消耗(随机存取存储器)应该小心使用具有无限预处理的自动确认模式或手动确认模式，消费者消费了大量的消息如果没有确认的话，会导致消费者连接节点的内存消耗变大，所以找到合适的预取值是一个反复试验的过程，不同的负载该值取值也不同 100 到 300 范围内的值通常可提供最佳的吞吐量，并且不会给消费者带来太大的风险。预取值为 1 是最保守的。当然这将使吞吐量变得很低，特别是消费者连接延迟很严重的情况下，特别是在消费者连接等待时间较长的环境中。对于大多数应用来说，稍微高一点的值将是最佳的。
- 预取值：可以理解为信道待处理消息的最大条数，还是采用轮循的方式
- 就比如我们发送七条数据：11、22、33、44、55、66、77
- 如果我们 c1处理的是11、33、55、77
- 那么c2处理的就是22、44、66
- 当c1把他那些都处理完了，c2的消息可能还有剩余没处理的在信道中等着呢
- 如果c2信道里当前存放的达到了预取值个数的消息，那么同一时刻发出的消息就不会给c2了
- 对于预取值的设定，我们只需要通过修改不公平分配的参数来完成 【设置给我们消费者信道的】
- 参数为几预取值就为几
- 参数为几预取值就为几
- 接下来看一下测试效果
**总结：**正常情况下是处理完再接收新消息，使用了预取值就可以预先存几个消息
