Distuptor高性能的无锁框架

news2024/11/16 8:37:49

目录

  • Distuptor介绍
    • 初识Distuptor
    • 数据结构
    • 等待策略
  • Distuptor性能
    • 预分配内存
    • 使用cpu-cache
    • 数据结构
  • Distuptor使用
    • Distuptor配置步骤
    • 单/多生产者策略

Distuptor介绍

初识Distuptor

它是一种高性能的无锁框架,适用于高并发业务场景,其实内部也就是一个生产者-消费者模型,有点类似于线程安全的SPSC队列

下面是它的基本概念

它是一个高性能的无锁并发框架,它使用环形缓冲区作为消息队列,能够实现高效的数据交换和事件处理

RingBuffer——Disruptor底层数据结构实现,核心类,是线程间交换数据的中转地;

Sequencer——序号管理器,生产同步的实现者,负责消费者/生产者各自序号、序号栅栏的管理和协调,Sequencer有单生产者,多生产者两种不同的模式,里面实现了各种同步的算法;

Sequence——序号,声明一个序号,用于跟踪ringbuffer中任务的变化和消费者的消费情况,disruptor里面大部分的并发代码都是通过对Sequence的值同步修改实现的,而非锁,这是disruptor高性能的一个主要原因;

SequenceBarrier——序号栅栏,管理和协调生产者的游标序号和各个消费者的序号,确保生产者不会覆盖消费者未来得及处理的消息,确保存在依赖的消费者之间能够按照正确的顺序处理

EventProcessor——事件处理器,监听RingBuffer的事件,并消费可用事件,从RingBuffer读取的事件会交由实际的生产者实现类来消费;它会一直侦听下一个可用的序号,直到该序号对应的事件已经准备好。

EventHandler——业务处理器,是实际消费者的接口,完成具体的业务逻辑实现,第三方实现该接口;代表着消费者。

Producer——生产者接口,第三方线程充当该角色,producer向RingBuffer写入事件。

Wait Strategy:Wait Strategy决定了一个消费者怎么等待生产者将事件(Event)放入Disruptor中。


数据结构

RingBuffer环形缓冲区,底层还是一个空间连续的数组,除数组外还有一个序列号(sequence),用以指向下一个可用的元素,供生产者与消费者使用。

如图所示:
在这里插入图片描述


等待策略

下面是它的四种等待策略

BlockingWaitStrategy
阻塞等待策略是Disruptor的默认策略。在BlockingWaitStrategy内部是使用锁和condition来控制线程的唤醒。当消费者尝试从Disruptor中获取数据时,如果没有可用的数据,它将被阻塞,直到有新的数据可用或超时。BlockingWaitStrategy是最低效的策略,但其对CPU的消耗最小并且在各种不同部署环境中能提供更加一致的性能表现。

SleepingWaitStrategy
休眠等待策略,SleepingWaitStrategy在等待期间使用循环加上Thread.sleep()方法来让出CPU资源,减少忙等待时的CPU占用。没有可用数据时,消费者线程将进行自旋等待一段时间,然后休眠一小段时间,再次尝试获取数据。适用于对延迟要求较高的场景,因为它能够在一定程度上减少CPU的占用,但也可能导致一定的延迟增加。

YieldingWaitStrategy
让步等待策略是可以使用在低延迟系统的策略之一。等待期间使用Thread.yield()方法来让出CPU资源,将执行机会让给其他线程。在要求极高性能且事件处理线数小于 CPU 逻辑核心数的场景中,推荐使用此策略

BusySpinWaitStrategy
忙等待策略性能最好,适合用于低延迟的系统。使用循环不断尝试获取数据,不会让出CPU资源。在要求极高性能且事件处理线程数小于CPU逻辑核心数的场景中,推荐使用此策略;例如,CPU开启超线程的特性。

PhasedBackoffWaitStrategy
使用自旋 + yield + 自定义策略,使用于CPU资源紧张,吞吐量和延迟并不重要的场景。

一般来说,BlockingWaitStrategy适用于对性能要求不高的场景,SleepingWaitStrategy适用于对延迟相对较敏感的场景,YieldingWaitStrategy适用于低延迟和高并发的场景,BusySpinWaitStrategy适用于对延迟要求非常高且并发度较高的场景


Distuptor性能

Disruptor的的延时和吞吐量都比ArrayBlockingQueue优秀很多
它比jdk内置的几款队列性能更好的原因是,采用了cas这种无锁策略,而且,它对cpu是十分友好的

预分配内存

它在一开始时就创建了一块空间连续的环形缓冲区,于存储环形队列和事件对象,提高了数据的局部性和缓存命中率也避免后续不断的申请内存和内存释放。

使用cpu-cache

一般我们的代码是处于内存级别的,而Distuptor利用到了高速缓存区cpu-cache,二者读写速度相差百倍
采用缓冲行填充策略,保证数据一直处于cpu-cache中,不会被写入主存,享受cpu缓存的高速读写

缓冲行填充
CPU缓存以缓存行(Cache Line)为单位进行读写操作,通常是64字节。Disruptor利用缓存行填充的概念,确保相关的数据结构在同一个缓存行中,避免多个线程在同一时间修改同一个缓存行中的不同数据,从而减少缓存行的伪共享现象。

Disruptor会对事件对象进行缓存行对齐,确保每个事件对象占用整个缓存行。这样做的目的是避免多个事件对象在同一个缓存行中,减少缓存行的伪共享现象。

数据结构

数组结构适合cpu的多级流水线以及cpu的分支预测,降低后续操作执行的时间成本


Distuptor使用

Distuptor配置步骤

1.定义事件对象:首先,你需要定义一个事件对象,该对象包含需要在不同线程间传递的数据。

public class YourEvent {
    // 定义事件数据的成员变量
}

2.定义事件处理器(消费者):创建一个或多个事件处理器,用于处理事件对象。

public class YourEventHandler implements EventHandler<YourEvent> {
    public void onEvent(YourEvent event, long sequence, boolean endOfBatch) {
        // 处理事件数据
    }
}

3.创建 Disruptor 实例:使用 Disruptor 的 create 方法创建一个 Disruptor 实例,并设置环形缓冲区的大小和事件工厂。

int bufferSize = 1024;
Disruptor<YourEvent> disruptor = new Disruptor<>(YourEvent::new, bufferSize, Executors.defaultThreadFactory());

4.连接事件处理器:将事件处理器连接到 Disruptor 上。

disruptor.handleEventsWith(new YourEventHandler());

5.启动 Disruptor:使用 start 方法启动 Disruptor,开始事件处理。

disruptor.start();

6.发布事件:通过 Disruptor 的 publishEvent 方法发布事件,将事件数据发送到环形缓冲区。

RingBuffer<YourEvent> ringBuffer = disruptor.getRingBuffer();
long sequence = ringBuffer.next();
YourEvent event = ringBuffer.get(sequence);
// 设置事件数据
ringBuffer.publish(sequence);

单/多生产者策略

使用单个消费者:

最简单的方式是只使用一个消费者线程来消费消息。这样可以确保消息按照生产者发布的顺序被处理,因为只有一个消费者在处理消息。

使用多个消费者:

但每个消费者处理的消息顺序保持一致
如果需要使用多个消费者线程来并行处理消息,但仍要保持消息的顺序性,可以采用以下策略:

  • 使用Disruptor的WorkProcessor来创建消费者线程。WorkProcessor会确保每个消费者线程只处理自己的独立消息序列,并保持消息的顺序性。这样,每个消费者线程都可以独立地处理消息,而不会与其他消费者线程产生竞争。
  • 在消息中添加序列号或时间戳等标识,消费者在处理消息时根据这些标识来进行排序。消费者可以在接收到消息后,根据标识进行排序,确保消息按照指定的顺序进行处理。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/929486.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Error running ‘Tomcat 8.5.29‘ Address localhost:1099 is already in use

一、Error running ‘Tomcat 8.5.29’ Address localhost:1099 is already in use 原因&#xff1a;端口1099被占用了。 二、解决 2.1 解决方法一-结束该端口1099占用 //1-查看端口占用&#xff0c;根据端口号1099&#xff0c;获取PID(进程ID) netstat -ano | findstr "…

探索未来世界,解密区块链奥秘!

你是否曾好奇&#xff0c;区块链是如何影响着我们的生活与未来&#xff1f;想要轻松了解这个引领着技术革命的概念吗&#xff1f;那么这本令人着迷的新书《区块链导论》绝对值得你拥有&#xff01; 内容丰富多彩&#xff0c;让你轻松掌握&#xff1a; **1章&#xff1a;区块链…

断路器灭弧室真空度试验

试验目的 真空开关的绝缘和灭弧介质是真空&#xff0c;真空灭弧室成品出厂时灭弧室内压强一般要求在10-5Pa以上。随着存放和运行时间的增加&#xff0c;灭弧室内的压强会逐渐增加&#xff0c;使灭弧室最终失效。 真空灭弧室内压强升高的原因:一方面是由于机械损坏导致波纹管破…

【高危】Kubernetes Windows节点kubernetes-csi-proxy提权漏洞 (CVE-2023-3893)

zhi.oscs1024.com​​​​​ 漏洞类型OS命令注入发现时间2023-08-24漏洞等级高危MPS编号MPS-t6rg-974fCVE编号CVE-2023-3893漏洞影响广度小 漏洞危害 OSCS 描述Kubernetes是开源的容器管理平台&#xff0c;kubernetes-csi-proxy是用于Windows中的CSI&#xff08;容器存储接口&…

搭建HAProxy + Keepalived高可用

安装 在四台虚拟机上&#xff0c;我们以如下方式搭建集群&#xff1a; 192.168.115.3 haproxykeepalived 192.168.115.4haproxykeepalived 192.168.115.5 nginx 192.168.115.6 nginx 在192.168.115.3 和192.168.115.4 上安装haproxy和keepalived&#xff08;haproxy编译安装…

C++ set和map的基本使用

set和map介绍 set和map是C STL中的关联式容器&#xff0c;关联式容器是容器里面存储的是<key, value>结构的 键值对&#xff0c;在数据检索时比序列式容器效率更高 键值对&#xff1a; 用来表示具有一一对应关系的一种结构&#xff0c;该结构中一般只包含两个成员变量ke…

【Qt专栏】实现单例程序,禁止程序多开的几种方式

目录 一&#xff0c;简要介绍 二&#xff0c;实现示例&#xff08;Windows&#xff09; 1.使用系统级别的互斥机制 2.通过共享内存&#xff08;进程间通信-IPC&#xff09; 3.使用命名互斥锁&#xff08;不推荐&#xff09; 4.使用文件锁 5.通过网络端口检测 一&#xf…

visual studio 2022.NET Core 3.1 未显示在目标框架下拉列表中

问题描述 在Visual Studio 2022我已经安装了 .NET core 3.1 并验证可以运行 .NET core 3.1 应用程序&#xff0c;但当创建一个新项目时&#xff0c;目标框架的下拉列表只允许 .NET 6.0和7.0。而我在之前用的 Visual Studio 2019&#xff0c;可以正确地添加 .NET 核心项目。 …

Dev-C++ 下载和安装

TOC 1. 下载 Dev-C 访问 sourceforge 网站&#xff0c;然后单击 Download&#xff0c; 2. 安装 Dev-C 双击下载的安装文件进行安装。 3. 在线环境 https://cpp.sh/ 完结&#xff01;

IDEA中GIT相关操作

文章目录 IDEA中GIT相关操作IDEA TAG 提交查看某个tag版本代码、根据某个tag创建分支将分支代码合并到主分支 IDEA中GIT相关操作 IDEA TAG 提交 1.创建tag 右键项目&#xff0c;然后按照 Git -> Repository -> Tag… 创建tag。 或 顶部菜单栏 按照 VCS -> Git->…

27- v-model 原理 组件应用

v-model 原理 原理: V-model本质上是一个语法糖。例如应用在输入框上&#xff0c;就是 value属性 和 input事件 的合写 作用: 提供数据的双向绑定 (1) 数据变,视图跟着变 : value (2) 试图变,数据跟着变: input 注意: $event 用于在模板中, 获取事件的形参 <template>…

YOLOv5算法改进(5)— 添加ECA注意力机制

前言&#xff1a;Hello大家好&#xff0c;我是小哥谈。ECA注意力机制是一种用于图像处理中的注意力机制&#xff0c;是在通道注意力机制的基础上做了进一步的改进。通道注意力机制主要是通过提取权重&#xff0c;作用在原特征图的通道维度上&#xff0c;而ECA注意力机制则使用了…

人力资源小程序的设计方案与实现

随着互联网的发展&#xff0c;人才招聘已经成为许多企业的一项重要任务。为了提高招聘效率和便利求职者&#xff0c;许多企业开始采用小程序作为招聘平台。本文将为大家介绍一个搭建本地人才招聘网小程序的实用指南。 首先&#xff0c;我们需要登录【乔拓云】制作平台&#xff…

信创国产系统麒麟arm架构中nginx安装过程

前言 在事业单位或国企&#xff0c;信创项目在步步推进&#xff0c;下面将在国产系统通信arm架构中nginx的安装过程记录分享出来&#xff0c;希望帮助到有需要的小伙伴。 1、nginx下载 1.1、在线下载 进入指定目录&#xff0c;如/usr/local&#xff0c;执行如下命令&#x…

DataFrame.plot函数详解(二)

DataFrame.plot函数详解&#xff08;二&#xff09; 1. Line 1.1主要参数 import matplotlib.pyplot as plt import pandas as pd import numpy as npdf pd.Series(abs(np.random.randn(10)), index pd.date_range(2020-01-01, periods 10)) df.plot.line(style :,marker…

【51单片机】EEPROM-IIC实验(按键控制数码管)

目录 &#x1f381;I2C总线 ​编辑 &#x1f381;代码 &#x1f3f3;️‍&#x1f308;main.c &#x1f3f3;️‍&#x1f308;i2.c &#x1f386;代码分析 &#x1f381;I2C总线 I2C总线是Philips公司在八十年代初推出的一种串行、半双工的总线&#xff0c;主要用于近距…

xsschallenge通关(1-10)

文章目录 level1level 2level 3level 4level 5level 6level 7level 8level9level 10 level1 这一关很简单&#xff0c;标准的xss注入&#xff0c;打开hackbar&#xff0c;输入 <script>alert(/xss/)</script>点击EXECUTE&#xff0c;通关&#xff01; level 2 这…

HTML <template> 标签

实例 使用 <template> 保留页面加载时隐藏的内容。使用 JavaScript 来显示: <button οnclick="showContent()">显示被隐藏的内容</button><template><h2>Flower</h2><img src="img_white_flower.jpg" width=&q…

微服务框架 go-zero 快速实战

对于咱们快速了解和将 go-zero 使用起来&#xff0c;我们需要具备如下能力&#xff1a; 基本的环境安装和看文档的能力 Golang 的基本知识 Protobuf 的基本知识 web&#xff0c;rpc 的基本知识 基本的 mysql 知识 其实这些能力&#xff0c;很基础&#xff0c;不需要多么深入&a…