【消息队列】Apache Pulsar存储计算分离

news2025/1/20 2:45:44

前言

对于一个互联网项目来说,一般除了在语言层面的技术选型外,也会引入各种中间件,比如缓存、消息队列、搜索、NoSQL等,但是跳出语言层面来看的话,其实我们庖丁解牛之后,每个中间件都解决了特定的问题。
缓存中间件:解决了数据读的问题。
消息队列:解决数据写的问题,通过异步方式。
搜索:利用倒排索引来解决数据的搜索,以及日志搜索。
网关、代理中间件:解决流量分发和代理。

但是针对消息队列来说,早期可能使用ActiveMQ比较多,现在国内主流的就是Kafka、RabbitMQ、RocketMQ,但是除此之外,其实还有一个新型消息队列就是Apache Pulsar。

Pulsar和其他消息队列的不同点

针对于Kafka、RabbitMQ、RocketMQ来说消息都是存储在Broker对应的磁盘或者内存中的,而消费的时候需要先通过topic找到对应的Broker,然后才可以进行消费消息或者生产消息。
为避免单点故障,一般都是部署Broker集群,但是当一个Broker集群宕机后,并不是另外别的Broker就可以承担数据读写的任务,而是需要相应的具备相同数据的Broker可以,这样其实Broker就是一个有状态的节点,不利于横向扩容。

而在Pulsar中,是不存储元数据和消息数据的,计算和存储进行了分离。
在这里插入图片描述
Bookie和ZK
右侧中可以看到分别代表的是一个ZK集群和一个BookKeeper集群,ZK集群存储的是Broker的元数据,而BookKeeper集群存储的是具体的消息数据。

BookKeeper的存储单元是Ledger,它就是一段WAL(write Ahead log),可以理解为某个队列的一段,包含若干条数据。消息在Ledger称为Entry,为了保证Ledger中Entry的严格顺序,Pulsar增加了一次写的限制,比如当某个Broker创建了一个Ledger,只有这个Broker可以写入,当出现异常或者正常关闭的时候,这个Leder就不可以在写入,只能只读。

为什么采用一次性写入的设计?
我们知道在分布式存储中,想要保证数据的一致性,那么就需要加分布式锁,但是性能肯定会下降,所以为了保证数据的一致性,采用这种局部数据文件,可以不被共享,也就不需要加锁。

所以可以看到Broker不存储任何节点的元数据和消息数据,所以Broker只进行计算,这样Broker就是无状态的服务。

Load Balancer负责动态的分配,哪些Broker管理哪些主题分区,Managed Ledger负责管理本节点需要用到的Ledger,数据都保存在Bookie中,为了提升性能,采用了cache缓存。

存储计算分离优点

上述Pulsar就是采用存储计算想分离的思想,其实在我们实际业务中,一般也是采用存储计算分离,数据库存储数据,而系统进行处理请求,逻辑等。
这种方式可以很好的进行横行拓展,天然支持拓展。比如增加一台服务,动态的负载均衡都是比较容易的。
优点
1.计算节点上可以专注于计算业务逻辑开发,不需要关注数据一致性、数据可靠性、故障恢复和数据读写性能等比较麻烦的存储问题。
2.对于存储系统来说,只需要保证如何高效的存储数据,比如ZK、MySQL基本都是在优化存储引擎、提升性能、数据可靠性、可用性等。
缺点
1.针对于分布式数据一致性问题,并没有解决,而是在存储节点上要保证。
2.性能上可能会增加网络耗时等。
总结,存储计算分离模式其实还是从一定程度上减少了系统的复杂性,在做架构设计和技术选型的时候可以考虑。

小结

其实将计算和存储分离的思想,对应于软件设计层面来说,有点单一指责的味道,就是每个系统专注于自己的事情,存储系统就保证系统数据的存储,而计算系统保证系统的计算。对于开发、运维、测试的时候,以及部署层面来说,都是可以很好的进行调度和开发。但是具体到对应的常见,需要评估我们所针对的问题,然后进行选择,而不能一股脑就认为这就是黄金油。所以无论是编码还是技术选型、架构设计都是需要根据业务场景综合判断取舍。而架构师不就是这样一个角色嘛,trade-off 艺术。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/469360.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

计组 作业九

作业9 题量: 36 满分: 100 作答时间:04-27 10:56至05-10 23:59 89.5分 一. 单选题(共18题,39分) 1. (单选题, 2分)Intel80486是32位微处理器,Core是______位微处理器。 A. 16B. 32C. 48D. 64 我的答案…

20.网络爬虫—Scrapy-Redis分布式爬虫

网络爬虫—Scrapy-redis详讲 Redis的安装与使用分布式概念和作用分布式爬虫分布式爬虫特点redis的使用Redis 操作/启动 Redis Desktop Manager下载特点和架构安装和使用Scrapy-redis 代码部署spider文件 settings文件 前言: 🏘️🏘️个人简介…

wsl2使用open3d等进行图像绘制

在~/.bashrc文件中添加两个环境变量 export DISPLAY"grep nameserver /etc/resolv.conf | sed s/nameserver //:0" export LIBGL_ALWAYS_INDIRECT0 第一行是让wsl将openGL命令(图形绘制命令)输出到哪里,也就是x-server的位置&…

【Linux】指令(上)

⭐博客主页:️CS semi主页 ⭐欢迎关注:点赞收藏留言 ⭐系列专栏:Linux ⭐代码仓库:Linux 家人们更新不易,你们的点赞和关注对我而言十分重要,友友们麻烦多多点赞+关注,你们的支持是我…

机器学习在生态、环境经济学中的应用及论文写作

近年来,人工智能领域已经取得突破性进展,对经济社会各个领域都产生了重大影响,结合了统计学、数据科学和计算机科学的机器学习是人工智能的主流方向之一,目前也在飞快的融入计量经济学研究。表面上机器学习通常使用大数据&#xf…

08_ThreadPool线程池

1. 架构说明 Java中的线程池是通过Executor框架实现的,该框架中用到了Executor,ExecutorService,ThreadPoolExecutor这几个类。 Executor接口是顶层接口,只有一个execute方法,过于简单。通常不使用它,而是…

什么是shell脚本和简单shell脚本练习

文章目录 什么是shell脚本和简单shell脚本练习什么是shell脚本为什么要学习shell脚本第一个脚本编写与执行编写第一个脚本 简单的shell脚本练习简单案例交互式脚本:变量内容由用户决定随日期变化:利用date建立文件数值运算:简单的加减乘除数值…

java内存占用过大分析,mat内存快照分析

背景 最近功能模块上线后,生产内存占用显著提升,查看gc日志发现年轻代频繁从2G回收到60M左右,猜测是在方法中频繁创建大对象导致,由于一时间无法通过review代码找出问题所在,只好将生产jvm内存快照dump后通过java mem…

Zotero+坚果云打造多设备同步的文献管理工具(保姆级教程)

Zotero坚果云打造多设备同步的文献管理工具(保姆级教程) 文章目录 Zotero坚果云打造多设备同步的文献管理工具(保姆级教程)Zotero介绍所需软件或插件实现方式步骤1:坚果云配置步骤2:Zotero配置步骤3&#x…

细讲shell中的循环语句--for语句

目录 一:何为循环 1.循环概述 2.使用循环的好处 二:for循环语句 1.for语句的用法 ​2. 语法结构 (1)一般格式 (2)类C语言格式 (3)死循环 3.事例 ​4.常用转义符 5.制作九九乘法表 三&…

旧照片修复-模糊图片变清晰-2023年度最强神器 codeformer

CodeFormer是一种基于AI技术深度学习的人脸复原模型,由南洋理工大学和商汤科技联合研究中心联合开发。该模型通过结合了VQGAN和Transformer等技术,可以通过提供模糊或马赛克图像来生成清晰的原始图像。 功能: 1、老照片修复 2、黑白照片彩色…

LeetCode 2641 二叉树的堂兄弟节点 II

LeetCode 2641 二叉树的堂兄弟节点 II 给你一棵二叉树的根 root ,请你将每个节点的值替换成该节点的所有 堂兄弟节点值的和 。 如果两个节点在树中有相同的深度且它们的父节点不同,那么它们互为 堂兄弟 。 请你返回修改值之后,树的根 root …

【Auto-GPT云部署】

部署自己的Auto-Gpt 先说说什么是Chat-Gpt Chat-GPT (Generative Pretrained Transformer)是由OpenAI提出的一种自然语言处理技术,是基于Transformers和预训练机制的大规模语言模型。与传统的基于规则或基于统计的自然语言处理方法不同,Chat-GPT使用深…

【网络抓包工具】tcpdump 最新版本移植到开发板(海思平台)

目录 一、概述 二、libpcap、tcpdump源码下载 三、libpcap、tcpdump交叉编译  👉3.1 交叉编译 libpcap  👉3.2 交叉编译 tcpdump 一、概述 tcpdump是一个功能强大的,用于抓取网络数据包的命令行工具,与带界面的Wireshark一样&am…

CLion开发工具 | 02 - 常用功能配置介绍

专栏介绍 配置项概览 CLion有非常多的配置项,本文将列举一些常用的配置项。 一、外观配置 1. 主题 2. 新UI 新的UI有点VScode化,个人不太喜欢,还是老的这套UI香,所以未开启: 3. 环境变量 IDE除了导入系统/用户的…

应急管理指挥中心大数据信息化管控平台建设方案(ppt可编辑)

本资料来源公开网络,仅供个人学习,请勿商用,如有侵权请联系删除 篇幅有限,无法完全展示,喜欢资料可转发评论,私信了解更多信息。

力扣刷题2023-04-27-1——题目:1329. 将矩阵按对角线排序

题目: 矩阵对角线 是一条从矩阵最上面行或者最左侧列中的某个元素开始的对角线,沿右下方向一直到矩阵末尾的元素。例如,矩阵 mat 有 6 行 3 列,从 mat[2][0] 开始的 矩阵对角线 将会经过 mat[2][0]、mat[3][1] 和 mat[4][2] 。 …

宝塔防火墙拦截页面代码模板2

宝塔防火墙拦截页面代码模板2 防火墙代码 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1"><title>云防御<…

最优化方法Python计算:一元函数搜索算法——黄金分割法

黄金分割法是包围策略的经典用例。算法思路为&#xff1a;假定目标函数 f ( x ) f(x) f(x)最优解 x 0 x_0 x0​含于长度为 λ \lambda λ的区间 ( a 0 , b 0 ) (a_0,b_0) (a0​,b0​)内。在区间内插入两个备选点 a 1 ′ , b 1 ′ ∈ ( a 0 , b 0 ) a_1,b_1\in(a_0,b_0) a1′​,…

【网络编程】网络基础

目录 一、协议分层 1、为什么要分层 2、OSI七层模型 3、TCP/IP四层协议&#xff08;五层协议&#xff09; 二、网络传输流程 1、同一个网段内的两台主机进行文件传输 2、跨网段的主机的文件传输 三、IP地址和MAC地址 1、IP地址 2、MAC地址 网络通信的本质就是跨主机的…