二八佳人体似酥,腰间仗剑斩愚夫。虽然不见人头落,暗里教君骨髓枯。
创建两个队列 QA和 QB,两者队列 TTL 分别设置为 10S 和 40S,然后在创建一个交换机 X和死信交
换机 Y,它们的类型都是 direct,创建一个死信队列QD,它们的绑定关系如下:
死信队列
ttl 配置 TtlConfig
package com.yjl.amqp.config.ttl;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.stereotype.Component;
import java.util.HashMap;
import java.util.Map;
/**
* 列信队列配置
*
* @author yuejianli
* @date 2022-11-23
*/
@Component
public class TtlConfig {
@Value("${rabbit.ttl.queue_a}")
private String queuea;
@Value("${rabbit.ttl.queue_b}")
private String queueb;
@Value("${rabbit.ttl.x_exchange}")
private String xexchange;
@Value("${rabbit.ttl.y_dead_queue_d}")
private String deadQueued;
@Value("${rabbit.ttl.y_dead_exchange}")
private String ydeadExchange;
@Value("${rabbit.ttl.queue_c}")
private String queuec;
// 定义队列和 交换机,并进行绑定
@Bean(value = "direct_exchange")
DirectExchange directExchange() {
return new DirectExchange(xexchange);
}
@Bean(value = "direct_queuea")
public Queue queuea() {
//return new Queue(queuea);
Map<String, Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", ydeadExchange);
args.put("x-dead-letter-routing-key", "YD");
// 声明 ttl 10s
args.put("x-message-ttl", 10000);
return QueueBuilder.durable(queuea).withArguments(args).build();
}
//进行绑定
@Bean
Binding bindingDirectExchangea(@Qualifier("direct_queuea") Queue queue,
@Qualifier("direct_exchange") DirectExchange directExchange) {
return BindingBuilder.bind(queue).to(directExchange).with("XA");
}
@Bean(value = "direct_queueb")
public Queue queueb() {
// return new Queue(queueb);
Map<String, Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", ydeadExchange);
args.put("x-dead-letter-routing-key", "YD");
// 声明 ttl 40s
args.put("x-message-ttl", 40000);
return QueueBuilder.durable(queueb).withArguments(args).build();
}
@Bean
Binding bindingDirectExchangeb(@Qualifier("direct_queueb") Queue queue,
@Qualifier("direct_exchange") DirectExchange directExchange) {
return BindingBuilder.bind(queue).to(directExchange).with("XB");
}
@Bean(value = "direct_dead_exchange")
DirectExchange directDeadExchange() {
return new DirectExchange(ydeadExchange);
}
@Bean(value = "direct_dead_queued")
public Queue deadQueued() {
return new Queue(deadQueued);
}
// 进行绑定
@Bean
Binding bindingDeadDirectExchange(@Qualifier("direct_dead_queued") Queue queue,
@Qualifier("direct_dead_exchange") DirectExchange directExchange) {
return BindingBuilder.bind(queue).to(directExchange).with("YD");
}
}
死信消费者 TtlConsumer
@Component
@Slf4j
public class TtlConsumer {
/**
* 死信队列
*/
@RabbitListener(queues = {"${rabbit.ttl.y_dead_queue_d}"})
public void deadQueueListener(String message) {
log.info("死信队列获取消息:" + message);
// 执行具体的业务操作
}
}
生产者 TtlProduer
@RestController
@Slf4j
public class TtlProduer {
@Value("${rabbit.ttl.x_exchange}")
private String xexchange;
@Value("${rabbit.ttl.delayed_exchange}")
private String deadExchange;
@Value("${rabbit.ttl.delayed_routing_key}")
private String deadRoutingKey;
@Resource
private RabbitTemplate rabbitTemplate;
@GetMapping("/sendMessage/{message}")
public String sendMessage(@PathVariable("message") String message) {
log.info("接收到消息:{}", message);
// 发送到 A 队列
rabbitTemplate.convertAndSend(xexchange, "XA", "消息来自ttl 10s 的队列消息:" + message);
//发送到B队列
rabbitTemplate.convertAndSend(xexchange, "XB", "消息来自ttl 40s 的队列消息:" + message);
return message;
}
}
验证
输入网址, 发送消息
http://localhost:8088/Server/sendMessage/hello,RabbitMQ
死信队列 A 10s 接到消息, 队列B 40s 后接收到消息。
第一条消息在 10S 后变成了死信消息,然后被消费者消费掉,第二条消息在 40S 之后变成了死信消息,
然后被消费掉,这样一个延时队列就打造完成了。
不过,如果这样使用的话,岂不是每增加一个新的时间需求,就要新增一个队列,这里只有 10S 和 40S
两个时间选项,如果需要一个小时后处理,那么就需要增加 TTL 为一个小时的队列,如果是预定会议室然 后提前通知这样的场景,岂不是要增加无数个队列才能满足需求?
延时队列优化
在这里新增了一个队列QC,绑定关系如下,该队列不设置 TTL 时间
ttl 配置QC 队列 TtlConfig
// 声明一个队列 C, 没有过期时间的。
@Bean(value = "direct_queuec")
public Queue queuec() {
// return new Queue(queueb);
Map<String, Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", ydeadExchange);
args.put("x-dead-letter-routing-key", "YD");
return QueueBuilder.durable(queuec).withArguments(args).build();
}
@Bean
Binding bindingDirectExchangec(@Qualifier("direct_queuec") Queue queue,
@Qualifier("direct_exchange") DirectExchange directExchange) {
return BindingBuilder.bind(queue).to(directExchange).with("XC");
}
死信消费者 TtlConsumer 保持不变
生产者 TtlProducer
时间由前端传入, 设置时间往 C 队列里面放置。
@GetMapping("/sendMessage/{message}/{ttl}")
public String sendMessageWithTtl(@PathVariable("message") String message, @PathVariable("ttl") String ttl) {
log.info("接收到消息:{}, 发送的时长 是{} ms", message, ttl);
//
// // 发送到 A 队列
// rabbitTemplate.convertAndSend(xexchange,"XA","消息来自ttl 10s 的队列消息:"+message);
// //发送到B队列
// rabbitTemplate.convertAndSend(xexchange,"XB","消息来自ttl 40s 的队列消息:"+message);
// 发送给 C 队列
rabbitTemplate.convertAndSend(xexchange, "XC", message, correlationData -> {
correlationData.getMessageProperties().setExpiration(ttl);
return correlationData;
});
return message;
}
验证
发送消息,携带着时间:
http://localhost:8088/Server/sendMessage/sendA5s/5000
http://localhost:8088/Server/sendMessage/sendB20s/20000
看起来似乎没什么问题,但是在最开始的时候,就介绍过如果使用在消息属性上设置 TTL 的方式,消
息可能并不会按时“死亡“,因为 RabbitMQ只会检查第一个消息是否过期,如果过期则丢到死信队列, 如果第一个消息的延时时长很长,而第二个消息的延时时长很短,第二个消息并不会优先得到执行。
如,先执行发送 20s 的,再执行发送 5s的
http://localhost:8088/Server/sendMessage/sendB20s/20000
http://localhost:8088/Server/sendMessage/sendA5s/5000
消息消费时有顺序了。
Rabbitmq 插件实现延迟队列
上文中提到的问题,确实是一个问题,如果不能实现在消息粒度上的 TTL,并使其在设置的 TTL 时间
及时死亡,就无法设计成一个通用的延时队列。那如何解决呢,接下来我们就去解决该问题
在官网上下载 https://www.rabbitmq.com/community-plugins.html,
下载 rabbitmq_delayed_message_exchange 插件,然后解压放置到 RabbitMQ的插件目录。
进入 RabbitMQ的安装目录下的 plgins 目录,执行下面命令让该插件生效,然后重启 RabbitMQ
rabbitmq-plugins enable rabbitmq_delayed_message_exchange
我本地可能是由于版本的原因,一直不成功
D:\job\RabbitMQ Server\rabbitmq_server-3.10.11\sbin>rabbitmq-plugins.bat enable rabbitmq_delayed_message_exchange
虽然有这个 x-delayed-message
架构优化
在我们自定义的交换机中,这是一种新的交换类型,该类型消息支持延迟投递机制 消息传递后并
不会立即投递到目标队列中,而是存储在mnesia(一个分布式数据系统)表中,当达到投递时间时,才 投递到目标队列中
配置 DelayedQueueConfig
package com.yjl.amqp.config.ttl;
import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.stereotype.Component;
import java.util.HashMap;
import java.util.Map;
/**
* 延迟队列处理
*
* @author yuejianli
* @date 2022-11-23
*/
@Component
public class DelayedQueueConfig {
@Value("${rabbit.ttl.delayed_queue}")
private String deadQueued;
@Value("${rabbit.ttl.delayed_exchange}")
private String deadExchange;
@Value("${rabbit.ttl.delayed_routing_key}")
private String deadRoutingKey;
// 自定义交换机, 定义延迟交换机
@Bean("delayedExchange")
public CustomExchange delayedExchange() {
Map<String, Object> args = new HashMap<>();
// 自定义交换机的类型
args.put("x-delayed-type", "direct");
return new CustomExchange(deadExchange, "x-delayed-message", true, false, args);
}
@Bean("delayedQueue")
public Queue delayedQueue() {
return new Queue(deadQueued);
}
//进行绑定
@Bean
Binding bindingDelayedExchange(@Qualifier("delayedQueue") Queue queue,
@Qualifier("delayedExchange") CustomExchange customExchange) {
return BindingBuilder.bind(queue).to(customExchange).with(deadRoutingKey).noargs();
}
}
延迟消费者扩展 TtlConsumer
/**
* 延迟队列
*/
@RabbitListener(queues = {"${rabbit.ttl.delayed_queue}"})
public void delayedQueueListener(String message) {
log.info("延迟队列获取消息:" + message);
// 执行具体的业务操作
}
生产者 TtlProducer
@GetMapping("/sendDelayMessage/{message}/{ttl}")
public String sendDelayMessageWithTtl(@PathVariable("message") String message, @PathVariable("ttl") String ttl) {
log.info("接收到消息:{}, 发送的时长 是{} ms", message, ttl);
// 发送给 C 队列
rabbitTemplate.convertAndSend(deadExchange, deadRoutingKey, message, correlationData -> {
correlationData.getMessageProperties().setExpiration(ttl);
return correlationData;
});
return message;
}
验证
http://localhost:8088/Server/sendDelayMessage/sendB20s/20000
http://localhost:8088/Server/sendDelayMessage/sendA5s/5000
我本地是不行, 有发现问题的,可以告诉我。
想要的效果是这样:
第二个消息被先消费掉了,符合预期
延时队列在需要延时处理的场景下非常有用,使用 RabbitMQ来实现延时队列可以很好的利用
RabbitMQ的特性,如:
消息可靠发送、消息可靠投递、死信队列来保障消息至少被消费一次以及未被正 确处理的消息不会被丢弃。
另外,通过 RabbitMQ集群的特性,可以很好的解决单点故障问题,
不会因为 单个节点挂掉导致延时队列不可用或者消息丢失。
当然,延时队列还有很多其它选择,
比如利用 Java 的DelayQueue,利用 Redis 的 zset,
利用 Quartz 或者利用 kafka 的时间轮,这些方式各有特点,看需要适用的场景