消息队列总结

news2024/12/27 20:18:43

消息队列

    • Kafka
    • RocketMQ
    • RabbitMQ
    • ActiveMQ
    • ZeroMQ
    • MQ对比选型
    • 结论

消息队列的优点:

  • 实现系统解耦
  • 实现异步调用
  • 流量削峰

消息队列的缺点:

  • 系统可用性降低
  • 提升系统的复杂度
  • 数据一致性问题

Kafka

Apache Kafka 是一个分布式消息发布订阅系统。它最初是由LinkedIn公司基于独特的设计实现为一个分布式的日志提交系统,之后成为Apache项目的一部分。Kafka性能高效、可扩展良好并且可持久化。他的分区特性,可复制和可容错都是其不错的特性

  • 优点:
  1. 客户端语言丰富:支持Java、.Net、PHP、Ruby、Python、Go等多种语言
  2. 高性能:单机写入TPS在100W条每秒,消息大小十个字节;
  3. 提供完全分布式架构,具有replica机制,拥有较高的可用性和可靠性,理论上支持消息无限堆积;
  4. 消费者采用pull方式获取消息。消息有序,通过控制能够保证所有消息被消费且仅被消费一次
  5. 在日志领域比较成熟,被多家公司和多个开源项目使用,有管理界面Kafka-Manager
  • 缺点
  1. kafka单机超过64个队列/分区时,Load会发生明显的飙高现象。队列越多,负载越高,发送消息响应时间变长
  2. 使用短轮询方式,实时性取决于轮询间隔时间
  3. 消费失败不支持重试
  4. 社区更新较慢

RocketMQ

RocketMQ出自阿里的开源产品,用Java语言实现,在设计时参考了Kafka,并做出了自己的一些改进,消息可靠性上比Kafka更好。RocketMQ在阿里内部被广泛应用在订单,交易,流计算,消息推送,日志流式处理,binlog分发等场景。

  • 优点
  1. 单机支持1W以上持久化队列
  2. RocketMQ的所有消息都是持久化的,先写入系统Page Cache,然后刷盘,可以保证内存和磁盘都有一些数据,而访问时,直接从内存获取
  3. 模型简单,接口易用(JMS的接口很多场合不太适用)
  4. 性能非常好,可以允许大量堆积消息在Broker中
  5. 支持多种消费模式,包括集群消费、广播消费等
  6. 各个环节分布式扩展设计,支持主从和高可用;开发度较活跃,版本更新很快
  • 缺点
  1. 支持的客户端语言不多,目前是Java及C++,其中C++还不成熟
  2. RocketMQ社区关注度及成熟度也不及Kafka
  3. 没有Web管理界面,提供了一个CLI界面(命令行界面)管理工具带来查询、管理和诊断各种问题
  4. 没有在MQ核心中实现JMS接口

RabbitMQ

RabbitMQ与2007年发布,是一个在AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。它提供了多种技术可以让你在性能和可靠性之间进行权衡。这些技术包括持久性机制、投递确认、发布者证实和高可用性机制;灵活的路由。消息在到达队列前是通过交换机进行路由的。RabbitMQ为典型的路由逻辑提供了多种内置交换机类型。

  • 优点
  1. 由于Erlang语言的特性,消息队列性能很好,支持高并发;
  2. 健壮、稳定、易用、跨平台、支持多种语言、文档齐全
  3. 有消息确认机制和持久化机制,可靠性高;
  4. 高度可定制的路由
  5. 管理界面较丰富,在互联网公司也有较大规模的应用,社区活跃度高;
  • 缺点
  1. 实现了代理架构,意味着消息在发送到客户端之前可以在中央节点上排队。此特性使得RabbitMQ易于使用和部署,但是使其运行速度较慢,因为中央节点增加了延迟,消息封装后也比较大;需要学习比较复杂的接口和协议,学习和维护成本较高;
  2. 尽管结合Erlang语言本身的并发优势 ,性能较好,但是不利于二次开发和维护;

ActiveMQ

ActiveMQ是由Apache出品,ActiveMQ是一个完全支持JMS1.1和J2EE1.4规范的JMS Provider实现。它非常快速,支持多种语言的客户端和协议,并且可以非常容易的嵌入到企业的应用环境中,并有许多高级功能。

  • 优点
  1. 可以用JDBC,可以将数据持久化到数据库。虽然使用JDBC会降低Active MQ的性能,但是数据库一直都是开发人员最熟悉的存储介质;
  2. 支持JMS规范:支持JMS规范提供的统一接口;
  3. 支持自动重连和错误重试机制
  4. 有安全机制:支持基于shiro,jaas等多种安全配置机制,可以对Queue/Topic进行认证和授权;
  5. 监控完善:拥有完善的监控,包括WebConsole,JMX,Shell命令行,Jolokia的Restful API;
  6. 界面完善:提供的WebConsole可以满足大部分情况,还有很多第三方的组件可以使用,比如hawtio
  • 缺点
  1. 社区活跃度不及RabbitMQ高
  2. 根据其他用户反馈,会出莫名其妙的问题,会丢失消息
  3. 目前重心放在activeMQ6.0产品Apollo,对5.x维护较少
  4. 不适合用于上千个队列的应用场景

ZeroMQ

号称史上最快的消息队列,它实际类似于Socket的一系列接口,他跟Socket的区别是:普通的Socket是端到端的(1:1的关系),而ZMQ却是可以N:M的关系,人们对BSD套接字的了解较多的是点对点的连接,点对点连接需要显式的建立连接、销毁连接、选择协议(TCP/UDP)和处理错误等,而ZMQ屏蔽了这些细节,让你的网络编程更为简单。ZMQ用于node与node之间的通信。node可以是主机或者是进程。

引用官方的说法:“ZMQ是一个简单好用的传输层,像框架一样的一个socket libery,他使得Socket编程更加简单,简洁和性能更高。是一个消息处理队列库,可在多个线程、内核和主机盒之间弹性伸缩。ZMQ的明确目标是”成为标准网络协议栈的一部分,之后进入Linux内核“

和RabbitMQ相比,ZMQ并不像是一个传统意义上的消息队列服务器,事实上,他也根本不是一个服务器,更像一个底层的网络通讯库,在Socket API之上做了一层封装,将网络通讯、进程通讯和线程通讯抽象成一个统一的API接口。支持"Request-Reply",”Publisher-Subscrber",“Parallel Pipeline"三种基本模型和扩展模型。

MQ对比选型

MQ对比选型01MQ对比选型02
消息队列的选型根据应用需求而定,ZeroMQ小而美,RabbitMQ大而稳,Kafka和RocketMQ快而强劲。
要想对MQ进行技术选型,主要从以下两个角度出发:

  1. 从公司基础建设力量角度出发
  • 中小型软件公司,建议选RabbitMQ
    首先,erlang语言天生具备高并发的特性,而且他的管理界面用起来十分方便。他的弊端也很明显,虽然RabbitMQ是开源的,但是用的是erlang语言开发。国内的erlang程序员太少。
    其次:不考虑Kafka的原因是,一方面中小型软件公司不如互联网公司,数据量没那么大,选消息中间件,应该首选功能比较完备的,所以Kafka排除。
    最后:不考虑RocketMQ的原因是,RocketMQ是阿里出品,如果阿里放弃维护RocketMQ,中小型公司一般抽不出人来进行RocketMQ的定制化开发,因此不推荐。
  • 大型软件公司
    根据具体使用在RocketMQ和Kafka之间二选一。
    一方面,大型软件公司,具备足够的资金搭建分布式环境,也具备足够大的数据量。针对RocketMQ,大型软件公司也可以抽出人手对RocketMQ进行定制化开发,毕竟国内有能力改源码的人,还是相当多的。
    至于Kafka,根据业务场景选择,如果有日志采集功能,肯定是首选Kafka了。
  1. 从业务场景角度出发
    RocketMQ定位于非日志的可靠消息传输(日志场景也OK),目前RocketMQ在阿里集团被广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,binlog分发等场景。
    Kafka是LinkedIn开源的分布式发布-订阅消息系统,目前归属于Apache顶级项目。Kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输。0.8版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互联网服务的数据收集业务。
    RabbitMQ是使用Erlang语言开发的开源消息队列系统,基于AMQP协议来实现。AMQP的主要特征是面向消息、队列、路由(包括点对点和发布/订阅)、可靠性、安全。AMQP协议更多用在企业系统内,对数据一致性、稳定性和可靠性要求很高的场景,对性能和吞吐量的要求还在其次。

结论

总结下来就一句话!
中小软件公司:RabbitMQ(稳定性高)
大型软件公司:RocketMQ和Kafka(具备足够大的资金搭建分布式环境,也具备足够大的数据量

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/441196.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

通过ObjectMapper和JsonNode 把JSON字符串转换成树结构数据和获取树节点数据

一.简介 今天同事有个需求&#xff0c;要把一个JSON字符串转换成一个树结构的数据并获取节点数据&#xff0c;鉴于自己不想写递归去转换&#xff0c;于是使用ObjectMapper和JsonNode类去实现。 二.依赖 pom文件引入依赖&#xff1a; <dependency><groupId>com.…

leetcode每日一题——美团笔试题【1】

今天分享两道算法题&#xff0c;自己刚开始练习&#xff0c;可能在解法上不是最佳的&#xff0c;但是只提供一些自己的思路&#xff0c;欢迎大家多多指教~ 第一题 实现一个算法&#xff0c;确定一个字符串 s 的所有字符是否全都不同。 示例 1&#xff1a;输入: s "lee…

NUC980驱动595与165扩展输入输出接口

一、电路图 3个165串联组成扩展24路光耦输入检测&#xff0c;一个595扩展8路继电器输出 二、驱动源码 #include <linux/module.h> #include <linux/fs.h> #include <linux/uaccess.h> #include <linux/device.h>#include <linux/kernel.h> #in…

【C++ 学习 ①】- C++ 入门知识(上万字详解)

目录 一、历史 1.1 - C 语言的发展历程 1.2 - C 发展历程 二、C 关键字&#xff08;C98&#xff09; 三、命名空间 3.1 - 命名空间的定义 3.2 - 命名空间的使用 四、C 输入&输出 五、缺省参数 5.1 - 缺省参数的概念 5.2 - 缺省参数的分类 六、函数重载 6.1 - …

JavaSE学习进阶day05_03 泛型(进阶)

第五章 泛型&#xff0c;之前基础班学习过泛型&#xff0c;但是学的不深入 需要我们掌握的内容&#xff1a;&#xff08;掌握&#xff09; 1&#xff0c;如何使用一个带有泛型的类 2&#xff0c;如何使用一个带有泛型的方法 代码示例&#xff1a; ArrayList<String> lis…

浏览器插件官方demo学习(五):键盘快捷键、数据缓存、网络请求监听

键盘快捷键 这个demo主要是介绍了&#xff0c;通过自定义键盘快捷键的方式来触发扩展。 必须要在manifest.json文件中添加commands属性组合键&#xff1a;使用组合键时必须包含 Ctrl 或 Alt 细节不介绍&#xff0c;可以自行查看官方文档。这里只看一下常用的东西。 定义组合…

MYSQL第一讲:一个查询语句需要经过多少步?

1.连接器 负责客户端和MYSQL连接时的校验和权限验证 短连接&#xff1a;一段时间就断开然后重连&#xff0c;身份校验和权限验证不是一个轻松的活。所以不推荐 长连接&#xff1a;一般的情况都是长连接&#xff0c;但是长连接如果长时间不断开&#xff0c;会出问题&#xff…

Vulnhub项目:MrRobot

靶机地址&#xff1a;Mr-Robot: 1 ~ VulnHub 渗透过程&#xff1a; 先看描述&#xff0c;有3跟keys在这个靶机中 首先确定靶机ip&#xff0c;对靶机开放的端口进行探测 访问靶机地址&#xff0c;出现了很酷炫的web界面&#xff0c;这个mr.robot,是一个美剧&#xff0c;还是挺…

Python语言请求示例,电商商品详情接口,代码封装

Python提供了高效的高级数据结构&#xff0c;还能简单有效地面向对象编程。Python语和动态类型&#xff0c;以及解释型语言的本质&#xff0c;使它成为多数平台上写脚本和快速开发应用的编程语言&#xff0c; [2] 随着版本的不断更新和语言新功能的添加&#xff0c;逐渐被用于…

环信 uni-app Demo升级改造计划——Vue2迁移到Vue3(一)

前言 由于环信uni-app Demo 为早期通过工具从微信小程序转换为的 uni-app 项目&#xff0c;经过实际的使用以及复用反馈&#xff0c;目前已经不适用于当前的开发使用&#xff0c;因此开启了整体升级改造计划&#xff0c;目前一期计划将 vue2 代码进行手动转换为 vue3vite&#…

MySQL高级第十四篇:锁机制分类详解(表锁,行锁,页锁,悲观锁和乐观锁)

MySQL高级第十四篇&#xff1a;锁机制分类详解&#xff08;表锁&#xff0c;行锁&#xff0c;页锁&#xff0c;悲观锁和乐观锁&#xff09; 一、概述二、MySQL并发事物访问相同记录的几种情况&#xff1f;1. 读--读情况2. 写--写情况3. 读--写情况&#xff08;写--读情况&#…

大数据项目实战之数据仓库:电商数据仓库系统——第8章 数仓开发之DIM层

文章目录 第8章 数仓开发之DIM层8.1 商品维度表8.2 优惠券维度表8.3 活动维度表8.4 地区维度表8.5 日期维度表8.6 用户维度表8.7 数据装载脚本8.7.1 首日装载脚本8.7.2 每日装载脚本 第8章 数仓开发之DIM层 DIM层设计要点&#xff1a; &#xff08;1&#xff09;DIM层的设计依…

解决 Microsoft Edge Dev 版本中右上角的 bing 按钮消失的问题 让 New Bing 还能阅读分析文档!

Microsoft Edge Dev 右上角的必应图标消失了&#xff0c;使得无法用 New Bing 阅读分析文档&#xff0c;到底什么原因呢&#xff1f; 针对 Microsoft Edge Dev 版本中右上角的发现按钮消失的问题&#xff0c;网上搜索解决方案。发现也有一些用户反馈在更新 Microsoft Edge Dev …

【C++STL精讲】优先级队列(priority_queue)与双端队列(deque)

文章目录 &#x1f490;专栏导读&#x1f490;文章导读&#x1f337;优先级队列——priority_queue&#x1f338;什么是优先级队列&#xff1f;&#x1f338;优先级队列的基本使用&#x1f338;什么是仿函数&#xff1f;&#x1f338;优先级队列的模拟实现 &#x1f337;双端队…

本地Pycharm连接远程服务器训练模型教程-yolov5为例

本篇文章解决的问题&#xff1a; 本地pycharm 与云服务器/实验室服务器进行远程连接跑实验训练、同步本地与云服务器的全部或者部分文件。 在这之前需要做的的工作&#xff1a; 1.服务器上已经创建好虚拟环境&#xff08;不会的可以看下篇文章&#xff09;&#xff1a;使用云…

git commit三种回退的方式

git commit 回退 弄清楚三个区 工作区&#xff08;working tree&#xff09;&#xff1a; 本地编辑器 暂存区&#xff08;index&#xff09;&#xff1a;git add操作后进入暂存区&#xff0c;可用git status查看 本地仓库&#xff08;repository&#xff09;&#xff1a;git …

C#上位机与三菱FX3UPLC实现异步伪实时串口通信机制(串口类通信可参考)

C#上位机与三菱FX3UPLC实现异步伪实时串口通信机制&#xff08;串口类通信可参考&#xff09; 一、串口通信概述1.1 串口通信1.2 串行通信1.2.1 串行同步通信1.2.2 串行异步通信1.2.2.1 异步通信的数据格式1.2.2.2 异步通信的数据发送过程1.2.2.3 异步通信的数据接收过程 1.3 串…

Redis如何保障缓存与数据库的数据一致性问题?

目录 一.最经典的数据库加缓存的双写双删模式 二. 高并发场景下的缓存数据库双写不一致问题分析与解决方案设计 三、上面高并发的场景下&#xff0c;该解决方案要注意的问题 一.最经典的数据库加缓存的双写双删模式 1.1 Cache Aside Pattern概念以及读写逻辑 &#xff08;…

redis非关系型数据库部署和使用(linux)

1.概念 NoSQL非关系型数据库是一种不使用关系模型来组织数据的数据库&#xff0c;通常用于存储非结构化或半结构化的数据&#xff0c;不支持或只部分支持SQL语言&#xff0c;满足最终一致性。非关系型数据库有多种类型&#xff0c;例如键值数据库、文档数据库、列式数据库、图形…

Shopee、Grab、Gojek 打造超级app已成为主流

超级App的概念在全球范围内逐渐被接受和采用。 超级App是指一种综合性的应用程序&#xff0c;允许用户在同一个平台上访问多个不同的服务&#xff0c;包括支付、社交媒体、出行、点餐等等。它的发源地是东南亚地区&#xff0c;如中国的微信、印度的Paytm和印尼的Gojek等应用&a…