【消息中间件】详解mq消息积压

news2024/12/23 3:15:53

作者简介

目录

1.产生原因

2.解决办法

2.1.事前处理机制

2.2.事中处理机制

2.3.事后处理机制


1.产生原因

消息积压(Message Backlog)指的是在消息队列(MQ)系统中等待被处理的消息数量超过了正常的处理速度,导致消息在队列中积压堆积的情况。

消息积压的常见表现:

  1. 系统资源使用率上升:消息积压可能导致系统资源使用率上升,例如CPU利用率、内存占用、磁盘活动等。这是因为积压的消息需要占用系统资源来存储和管理。

  2. 消息丢失或过期:如果消息队列没有足够的容量来处理新消息,可能会导致旧消息被丢弃或过期,从而导致数据丢失。

  3. 系统警报和异常:一些监控系统会检测到消息积压问题,并发出警报或异常通知,以提醒运维团队或开发人员。

  4. 队列故障或堵塞:在极端情况下,消息积压可能导致消息队列系统的故障或堵塞,导致无法正常工作。

消息积压的常见原因:

  • 生产者速度快于消费者:如果消息生产者(产生消息的系统或组件)的速度比消息消费者(处理消息的系统或组件)的速度快,就会导致消息积压。

  • 消费者故障:如果消息消费者遇到故障或处理速度变慢,未能及时处理消息,也会导致积压。

  • 高峰负载:系统在高峰时段接收到大量的消息,超过了正常处理速度。

  • 消息处理失败:如果某些消息由于错误或异常而无法被正常处理,它们可能会在队列中积压。

消息积压可能导致的后果:

  • 延迟:积压的消息会导致正常消息的处理延迟,从而影响了系统的响应时间。

  • 系统负载:积压消息可能导致消息队列系统和消息处理组件的负载过高,甚至可能引发系统故障。

  • 数据丢失:消息积压导致消息久久不被消费,有可能导致超时被丢弃掉,从而导致数据丢失。

  • 不一致性:如果消息处理不及时,可能会导致系统数据的不一致性问题。

2.解决办法

一说到消息积压,很多同学的第一反应可能是加机器,确实加机器是能处理掉消息积压的,因为不管是何种原因造成的消息积压,上机器一定是有效果的。但是很明显这不是最合理的解法,针对mq消息积压其实存在一套成熟的打法,一共分三步:

  • 事前处理机制

  • 事中处理机制

  • 事后处理机制

2.1.事前处理机制

事前处理机制其实就是要对系统上线前进行一个预估,预估一下系统的mq要面对的峰值流量是多大,然后用单台机器部署压测,根据压测来确定机器的大概数量。一般事前压测后都能解决绝大多数问题。直接上我们的性能测试神器,jmeter:

文章链接:

如何使用jmeter进行压测_使用jmeter压力测试__BugMan的博客-CSDN博客

2.2.事中处理机制

如果在生产中系统中确实出现了mq的消息积压,必须存在事中机制来处理了。事中机制的核心目标是——恢复正常。

怎么恢复正常喃?其实就是扩容,然后快速消费完积压的消息,扩容十倍、二十倍、三十倍都可以,达成目的即可。当然这种情况下可以通过k8s来进行动态缩/扩容是最合适的。

2.3.事后处理机制

发生生产环境的mq积压后,处理完mq的积压,需要加固一下系统,避免下一次的mq消息积压,一般事后的处理机制可以从如下几方面来预防下一次的mq消息积压:

  • 提高消费并行度

  • 跳过非重要的消费

  • 优化每条消息的消费过程。

提供消费并行度和优化消息的消费路径这个没啥好说的,事儿都发生了,要是能力不够该扩容就扩容,要是逻辑不对,该优化耗时就优化耗时。着重要讲一下的是跳过非重要消费。

跳过非重要消费:

在实际生产中,消息的类型也是有轻重缓急的,如果实在是发生了消息的堆积,这时候我们可以先不去消费不重要的消息,先去消费重要的消息。比如先不去消费日志消息,先处理订单消息。我们可以给mq上一个监控,设置一个阈值,当超过这个阈值的时候,触发跳过机制。

这时候我想有些同学会有点疑惑,怎么去监控mq中的消息数量喃?有以下几种方式:

  1. JMX监控:如果你的MQ系统支持Java Management Extensions(JMX),你可以使用JMX客户端工具,如JConsole或VisualVM,连接到MQ服务器并监控队列的消息数量。这种方式能够实时获取消息数量。

  2. API调用:许多MQ系统提供API,允许你通过编程方式查询队列的状态信息,包括消息数量。你可以编写脚本或应用程序,定期调用API来获取消息数量,并在需要时进行处理或记录。

  3. 监控工具:使用第三方监控工具或平台,如Prometheus、Grafana、Datadog等,将其与MQ系统集成。这些工具可以定期查询MQ的消息数量,并通过仪表板、图表或警报提供实时监控。

  4. 日志分析:在MQ系统的日志文件中可能会包含消息数量的信息。你可以使用日志分析工具来实时监控日志文件,并提取消息数量的指标。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1021304.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Nvm任意切换node版本号

前言: nvm(Node Version Manager)是一个用于管理Node.js版本的工具。它允许您在同一台计算机上同时安装和切换不同版本的Node.js。使用nvm,您可以轻松地在项目之间切换Node.js版本,而无需手动安装和卸载不同的版本。这…

FPGA纯verilog实现8路视频拼接显示,提供工程源码和技术支持

目录 1、前言版本更新说明免责声明 2、我已有的FPGA视频拼接叠加融合方案3、设计思路框架视频源选择OV5640摄像头配置及采集静态彩条视频拼接算法图像缓存视频输出 4、vivado工程详解5、工程移植说明vivado版本不一致处理FPGA型号不一致处理其他注意事项 6、上板调试验证并演示…

【Java 基础篇】Java 标准输出流详解:输出你的程序之美

Java 编程中,标准输出流是一个重要的概念。它允许我们将程序的输出信息显示在终端或控制台上,这对于调试、用户界面和与用户的交互非常重要。在这篇文章中,我们将深入探讨 Java 的标准输出流,了解如何使用它以及一些常见的用法和技…

libevent数据结构——TAILQ_结构体

TAILQ_结构体 TAILQ_结构体在文件event2/event_struct.h和文件event2/keyvalq_struct.h中都有定义,并且他们的定义都是一样的,定义了TAILQ_ENTRY、TAILQ_HEAD结构体: #ifndef TAILQ_ENTRY #define EVENT_DEFINED_TQENTRY_ #define TAILQ_EN…

JVM——10.对象的内存布局

这篇文章,我们来了解一下对象在内存中的布局是什么样的。 解释:前面有一篇文章我们讲了JVM中类的结构,那里讲的是一个java类,被编译成二进制字节码后,它的结构是什么样的,或者说按照jvm的标准,…

故障注入实验:了解如何使用Chaos Engineering的方法,在服务网格中进行故障注入实验

🌷🍁 博主猫头虎 带您 Go to New World.✨🍁 🦄 博客首页——猫头虎的博客🎐 🐳《面试题大全专栏》 文章图文并茂🦕生动形象🦖简单易学!欢迎大家来踩踩~🌺 &a…

Jenkins自动化部署前后端分离项目 (svn + Springboot + Vue + maven)有图详解

1. 准备工作 本文的前后端分离项目,技术框架是: Springboot Vue Maven SVN Redis Mysql Nginx JDK 所以首先需要安装以下: 在腾讯云服务器OpenCLoudOS系统中安装jdk(有图详解) 在腾讯云服务器OpenCLoudOS系统…

ElasticSearch+MongoDB:搜索-关键字联想

目标: 从长尾关键词挖掘站长工具智能改写 - 5118营销大数据中获得数据集 业务层 java Autowired MongoTemplate mongoTemplate; /*** 联想词* param userSearchDto* return*/ Override public ResponseResult findAssociate(UserSearchDto userSearchDto) {//1 参数…

JUC并发工具使用与详情(CountDownLatch、CyclicBarrier、Semaphore、Exchanger)

JUC并发工具 一、CountDownLatch应用&源码分析 1.1 CountDownLatch介绍 CountDownLatch就是JUC包下的一个工具,整个工具最核心的功能就是计数器 如果有三个业务需要并行处理,并且需要知道三个业务全部都处理完毕了 需要一个并发安全的计数器来操…

大型语言模型:SBERT — 句子BERT

了解 siamese BERT 网络如何准确地将句子转换为嵌入 简介 Transformer 在 NLP 领域取得了进化性的进步,这已不是什么秘密。基于 Transformer,还发展出了许多其他机器学习模型。其中之一是 BERT,它主要由几个堆叠的 Transformer 编码器组成。除…

RabbitMQ生产故障问题分析

1. 问题引发 由某个服务BI-collector-xx队列出现阻塞,影响很整个rabbitMQ集群服务不可用,多个应用MQ生产者服务出现假死状态,系统影响面较广,业务影响很大。当时为了应急处理,恢复系统可用,运维相对粗暴的把…

使用Linkerd实现流量管理:学习如何使用Linkerd的路由规则来实现流量的动态控制

🌷🍁 博主猫头虎 带您 Go to New World.✨🍁 🦄 博客首页——猫头虎的博客🎐 🐳《面试题大全专栏》 文章图文并茂🦕生动形象🦖简单易学!欢迎大家来踩踩~🌺 &a…

笔试面试相关记录(5)

(1)给定一个字符串,含有大写、小写字母,空格,数字,需要将其变为满足如下条件: 所有的数字需要换成空格,并且字符串的头尾不包含空格,且整个字符串不包含连续的两个空格。…

网络地址转换技术NAT以及路由器LAN口与WAN口的数据交换

NAT技术 网络地址转换(NAT)技术可以帮助局域网设备通过私有IP地址访问互联网。以下是NAT技术如何实现这一功能的基本原理: 私有IP地址:在一个局域网中,通常使用私有IP地址来为设备分配网络标识。私有IP地址范围包括以…

OT:数字设定框(QSpinBox:处理整数,QDoubleSpinBox:处理浮点数)

widget.h #ifndef WIDGET_H #define WIDGET_H //数字设定框 #include <QWidget> #include <QSpinBox> //处理整数 #include <QDoubleSpinBox> //处理浮点数class Widget : public QWidget {Q_OBJECTpublic:Widget(QWidget *parent 0);~Widget();private:…

RabbitMQ 消息应答

每日一句 物是人非事事休,欲语泪先流。 概述 为了保证消息在发送过程中不丢失,RabbitMQ引入了消息应答机制, 消费者在接收到消息并且处理该消息后,告诉RabbitMQ它已经处理了,RabbitMQ可以把消息删除了。 自动应答 消息发送后立即被认为已经传送成功,这种模式需要在…

I Pa?sWorD

2023icpc网络赛第一场 I 题意&#xff1a;题目给出只包含大小写字母&#xff0c;数字以及?的字符串&#xff0c;对于每一个小写字母&#xff0c;这一位字符既有可能是该小写字母&#xff0c;也有可能是该小写字母的对应大写字母&#xff0c;也就是该位的字符有两种可能&#x…

01. pring Cloud微服务系列之 包版本号约定

Spring Cloud微服务系列文章&#xff0c;点击上方合集↑ 1. Java8 目前市场上最常用的是Java8&#xff0c;而Java17则代表着未来的发展趋势。虽然Spring Boot 3已经发布&#xff0c;但它要求最低版本为Java17。然而&#xff0c;考虑到目前很多开发工具库还没有完全适配Java17…

批处理小程序的制作

一、介绍 批处理是一种将一系列计算机任务按照预定义的顺序进行自动化处理的技术。它是通过批处理脚本或命令文件来实现的&#xff0c;可以在不需要人工干预的情况下&#xff0c;批量运行多个命令或程序。 批处理脚本的优点 1. 自动化&#xff1a;批处理可以自动执行重复性任…

数据库----数据查询

1.6 查询语句 语法&#xff1a;select [选项] 列名 [from 表名] [where 条件] [group by 分组] [order by 排序][having 条件] [limit 限制]1.6.1 字段表达式 mysql> select 锄禾日当午; ------------ | 锄禾日当午 | ------------ | 锄禾日当午 | ---…