负载均衡-轮询-两种简易实现

news2024/11/15 18:22:12

1、描述

下游可用的服务器目前有5个(node),设计一个方法,方法没有任何参数,采用轮询的方式返回其中一个node;

2、使用环形链表

每次取下一个node即可。注意:需要保证线程安全!

// 节点定义
@Data
class Node {

    Node next;

    String name;

    String ip;

}
// 环形状node集合
class LoadBalanceCycle {

    private Node head;

    private Node nextNode;

    /**
     * 添加节点
     */
    public synchronized void addNode(String name, String ip) {
        Node newNode = new Node();
        newNode.name = name;
        newNode.ip = ip;

        if (head == null) {
            head = newNode;
            head.next = head;
        } else {
            Node temp = head;
            while (temp.next != head) {
                temp = temp.next;
            }
            temp.next = newNode;
            newNode.next = head;
        }
    }

    /**
     * 获取下一个节点
     */
    public synchronized Node getNextNode() {
        if (nextNode == null) {
            nextNode = head;
        } else {
            nextNode = nextNode.next;
        }
        return nextNode;
    }

}
// 测试验证
public static void main(String[] args) {

        LoadBalanceCycle loadBalanceCycle = new LoadBalanceCycle();

        // 初始化三个节点的
        loadBalanceCycle.addNode("node1", "192.168.0.1");
        loadBalanceCycle.addNode("node2", "192.168.0.2");
        loadBalanceCycle.addNode("node3", "192.168.0.3");

        AtomicInteger n1Count = new AtomicInteger();
        AtomicInteger n2Count = new AtomicInteger();
        AtomicInteger n3Count = new AtomicInteger();

        CountDownLatch latch = new CountDownLatch(30);

        // 多线程,返回负载均衡中的节点
        for (int i = 0; i < 3; i++) {
            new Thread(() -> {
                int j = 10;
                while (j > 0) {
                    try {
                        String name = loadBalanceCycle.getNextNode().getName();
                        System.out.println(Thread.currentThread().getName() + " " + name);
                        if ("node1".equals(name)) {
                            n1Count.incrementAndGet();
                        }
                        if ("node2".equals(name)) {
                            n2Count.incrementAndGet();
                        }
                        if ("node3".equals(name)) {
                            n3Count.incrementAndGet();
                        }
                        j--;
                    } finally {
                        latch.countDown();
                    }
                }

            }).start();

        }

        try {
            latch.await();
        } catch (InterruptedException e) {
            throw new RuntimeException(e);
        }

        System.out.println("==============================负载均衡调用结果===================================");

        System.out.println("node1 被调用的次数: " + n1Count.get());
        System.out.println("node2 被调用的次数: " + n2Count.get());
        System.out.println("node3 被调用的次数: " + n3Count.get());

    }

}

3、使用AtomicLong

long 类型的最大值?

这个值是 2^63 - 1,即 9223372036854775807,是 long 类型能表示的最大正数值。

是多少亿?

Long.MAX_VALUE 大约是 92233.72 亿。(如果你的请求次数即【负载均衡调用次数】会超过这个值,那么或许下面的例子会存在问题)

@Data
class Node2 {

    String name;

    String ip;

    public Node2(String node1, String s) {
        this.name = node1;
        this.ip = s;
    }
}

/**
 * 基于AtomicLong实现的一个结构
 */
class LoadBalanceByAtomic {

    final List<Node2> nodeList = new ArrayList<>();

    AtomicLong mark = new AtomicLong(0);

    public void add(Node2 node) {
        synchronized (nodeList) {
            nodeList.add(node);
        }
    }

    public Node2 getNext() {
        long andIncrement = mark.getAndIncrement();
        return nodeList.get((int) (andIncrement % nodeList.size()));
    }

}

测试代码

public static void main(String[] args) {

        LoadBalanceByAtomic loadBalanceByAtomic = new LoadBalanceByAtomic();

        // 初始化三个节点的
        loadBalanceByAtomic.add(new Node2("node1", "192.168.0.1"));
        loadBalanceByAtomic.add(new Node2("node2", "192.168.0.2"));
        loadBalanceByAtomic.add(new Node2("node3", "192.168.0.3"));

        AtomicInteger n1Count = new AtomicInteger();
        AtomicInteger n2Count = new AtomicInteger();
        AtomicInteger n3Count = new AtomicInteger();

        CountDownLatch latch = new CountDownLatch(30);

        // 多线程,返回负载均衡中的节点
        for (int i = 0; i < 3; i++) {
            new Thread(() -> {
                int j = 10;
                while (j > 0) {
                    try {
                        String name = loadBalanceByAtomic.getNext().getName();
                        System.out.println(Thread.currentThread().getName() + " " + name);
                        if ("node1".equals(name)) {
                            n1Count.incrementAndGet();
                        }
                        if ("node2".equals(name)) {
                            n2Count.incrementAndGet();
                        }
                        if ("node3".equals(name)) {
                            n3Count.incrementAndGet();
                        }
                        j--;
                    } finally {
                        latch.countDown();
                    }
                }

            }).start();

        }

        try {
            latch.await();
        } catch (InterruptedException e) {
            throw new RuntimeException(e);
        }

        System.out.println("==============================负载均衡调用结果===================================");

        System.out.println("node1 被调用的次数: " + n1Count.get());
        System.out.println("node2 被调用的次数: " + n2Count.get());
        System.out.println("node3 被调用的次数: " + n3Count.get());

    }

结果:

问题

在大并发下使用 AtomicInteger ,相比于使用锁,Atomic会不断自旋重试,在线程比较多的场景下会造成cpu资源消耗高么?

在大并发场景下,使用 AtomicInteger 相比使用显式的锁(如 synchronized)确实有一些区别和考虑因素。

  1. 自旋和CPU消耗:

    • AtomicInteger 使用了一些技术(如 CAS,即比较并交换),它会尝试更新值直到成功。如果更新失败,它会自旋(重试)。在低并发情况下,自旋几乎没有额外开销,因为更新通常很快成功。
    • 在高并发情况下,自旋可能会导致一定的CPU资源消耗。如果有大量线程竞争同一个 AtomicInteger,并且更新操作不断失败,导致频繁自旋,会增加CPU负载。
  2. 性能比较:

    • AtomicInteger 在低到中等并发情况下通常比显式锁(如 synchronized)效率更高,因为它利用了硬件级别的原子操作,避免了线程阻塞和切换的开销。
    • 在非常高的并发情况下,性能可能会受到影响,因为自旋操作可能会消耗大量CPU资源,而且不能保证性能和可扩展性的优势。
  3. 选择合适的工具:

    • 在选择 AtomicInteger 还是显式锁时,需要考虑具体的应用场景和并发需求。通常情况下,AtomicInteger 更适合用于简单的计数或者状态标记等,而显式锁更适合于需要复杂的条件同步和数据操作的场景。

综上所述,虽然 AtomicInteger 在大多数情况下性能优于显式锁,但在极端高并发情况下,它可能会因为自旋而增加CPU消耗。因此,在高并发场景下,需要进行性能测试和基准测试,以便选择最适合的并发控制方法。

二者比较

锁跟Atomic-CAS在大并发场景下的效率比较-CSDN博客

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1923818.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Android焦点之SurfaceFlinger传递给InputFinger

接下来就到了SurfaceFlinger端&#xff0c;内调ISurfaceComposer的setTransactionState() SurfaceFlinger::setTransactionState:这里是一个BpBn操作&#xff0c;进程surfaceflinger的binder线程&#xff0c;主要是调用到SurfaceFlinger.cpp的setTransactionState()。 在每次…

Binder驱动中的流程详解

1.前言 作为安卓系统中重要的IPC通信机制&#xff0c;Binder通信使得组件之间的通信更加的高效和灵活。但在实现上&#xff0c;Binder通信横跨了整个Android系统架构&#xff0c;从应用层到frameworks&#xff0c;再到native&#xff0c;最后到底层kernel&#xff0c;这使得Bin…

深度学习工具和资源推荐:全面指南

今天我们来聊聊深度学习的工具和资源。要学好深度学习&#xff0c;除了理论知识&#xff0c;还需要掌握一些强大的工具和找到好的资源。以下是我在学习过程中发现的一些非常有用的工具和资源&#xff0c;希望对你们有帮助。 目录 工具推荐 1. Python编程语言 2. TensorFlow…

前端Vue组件化实践:打造灵活可维护的地址管理组件

随着前端技术的不断演进&#xff0c;复杂度和开发难度也随之上升。传统的一体化开发模式使得每次小小的修改或功能增加都可能牵一发而动全身&#xff0c;严重影响了开发效率和维护成本。组件化开发作为一种解决方案&#xff0c;通过模块化、独立化的开发方式&#xff0c;实现了…

zigbee开发工具:3、驱动安装与程序下载(更新中...)

zigbee开发工具前两篇讲解了IAR开发工具的安装与注册&#xff0c;还介绍了新建一个cc2530开发工程的建立与配置。在进行zigbee开发&#xff0c;代码编写编译好后还需要下载到zigbee节点设备上进行调试与验证&#xff0c;那么就需要安装SmartRF Flash Programmer软件 和仿真器等…

【Android面试八股文】谈谈你对Glide框架的缓存机制设计的理解

文章目录 一、引入缓存的目的二、Glide缓存流程2.1 Glide缓存的读取顺序2.2 Glide加载资源流程2.3 Glide 的缓存分层结构三、内存缓存原理四、存取原理4.1 取数据4.2 存数据4.3 为什么要引入软引用?五、磁盘缓存原理(DiskLruCache)5.1 磁盘缓存概述5.2 Glide磁盘缓存策略5.3…

昆明高校大学智能制造实验室数字孪生可视化系统平台建设项目验收

昆明高校大学智能制造实验室的数字孪生可视化系统平台建设项目&#xff0c;正是在这样的背景下应运而生。项目自启动以来&#xff0c;便受到了校方的高度重视和大力支持。经过数月的紧张筹备和精心实施&#xff0c;项目团队克服了种种技术难题&#xff0c;成功完成了系统的开发…

华为模拟器防火墙配置实验(二)

一.实验拓扑 二.实验要求 1&#xff0c;DMZ区内的服务器&#xff0c;办公区仅能在办公时间内&#xff08;9&#xff1a;00 - 18&#xff1a;00&#xff09;可以访问&#xff0c;生产区的设备全天可以访问. 2&#xff0c;生产区不允许访问互联网&#xff0c;办公区和游客区允许…

AI绘画;盘点用stable diffusion 赚钱的10种方式!

前言 stable diffusion 是一种基于文本生成图像的深度学习模型&#xff0c;它可以根据任何文本输入生成逼真的图像。它利用了 CLIP ViT-L/14 文本编码器的文本嵌入和扩散模型的潜在变量&#xff0c;实现了高质量的图像合成。 stable diffusion 可以用于赚钱的10种方式及思路如…

论文精读(保姆级解析)——DiFaReli: Diffusion Face Relighting

前言 该论文发表在2023年ICCV上&#xff0c;主要针对人像重打光问题提出了一种新的方法&#xff0c;下面给出论文和项目链接&#xff1a; papergithub 摘要 提出了一种针对单张图像的重打光方法&#xff0c;作者提到针对非漫反射光照的处理比较困难&#xff0c;早期的工作主要…

三星AI产品发布会精彩回顾

2024年7月10日&#xff0c;三星在其新品发布会上&#xff0c;重磅发布了一系列围绕AI技术的创新产品。此次发布会不仅展示了三星在AI领域的深耕和探索&#xff0c;还在硬件设计、用户体验和生态系统构建上全面对标苹果。本文将详细回顾此次发布会的内容&#xff0c;解析三星如何…

从“Hello,World”谈起(C++入门)

前言 c的发展史及c能干什么不能干什么不是我们今天的重点&#xff0c;不在这里展开&#xff0c;有兴趣的朋友可以自行查阅相关资料。今天我们主要是围绕c的入门程序&#xff0c;写一个“hello&#xff0c;world”&#xff0c;并且围绕这个入门程序简单介绍一下c和c的一些语法&…

事务的学习

一、什么是事务 事务 是一组操作的集合&#xff0c;是一个不可分割的工作单位&#xff0c;事务会把所有的操作作为一个整体一起向系统提交或撤销请求&#xff0c;这些操作要么同时成功&#xff0c;要么同时失败 一组操作集合&#xff0c;不可分割&#xff0c;一起向系统提交/…

7.2 AQS原理

AQS 原理 概述 全称是 AbstractQueuedSynchronizer&#xff0c;是阻塞式锁和相关的同步器工具的框架。 特点&#xff1a; 用 state 属性来表示资源的状态&#xff08;分独占模式和共享模式&#xff09;&#xff0c;子类需要定义如何维护这个状态&#xff0c;控制如何获取锁和…

Clion 使用gdbserver调试FreeSWITCH源码

1.准备环境 window安装clion安装好gdb、ssh、已经编译好的freeswitch可执行文件的docker镜像2.配置clion Settings -> Tools ->SSH Configurations Settings-Build, Execution, Deployment-Toolchains(其实设不设置都行,用默认也行的) Settings-Build, Execution, Depl…

JVM内存配置错误导致的线上服务问题

1.现象 大量用户反映不能正常使用服务&#xff0c;导致用户无法进行下一步工作。 2.检查 因为是休息日&#xff0c;初步听到这个消息的时候怀疑是自己的锅。一是因为项目刚刚进行了重构&#xff1b;二是对MySQL数据进行了迁移&#xff0c;并且对待迁移的旧数据进行了数据分析…

【qt】如何读取文件并拆分信息?

需要用到QTextStream类 还有QFile类 对于文件的读取操作我们可以统一记下如下操作: 就这三板斧 获取到文件名用文件名初始化文件对象用文件对象初始化文本流 接下来就是打开文件了 用open()来打开文件 用readLine()来读取行数据 用atEnd()来判断是否读到结尾 用split()来获取…

LabVIEW中modbusTCP怎样才能和profibusDP通信?

在LabVIEW中&#xff0c;Modbus TCP和Profibus DP是两种不同的工业通信协议&#xff0c;要实现这两者之间的通信&#xff0c;可以采用网关设备进行协议转换&#xff0c;或者通过一个中间设备&#xff08;如PLC&#xff09;进行数据桥接。以下是实现此通信的一些方法&#xff1a…

王牌站士Ⅵ--人工智能集成商的崛起

前言 系统集成商 (SI) 具有独特的优势&#xff0c;可以利用 GenAI 的变革力量。通过综合各种数据并重新定义客户获取见解和采取行动的方式&#xff0c;SI 可以发展成为AI 集成商&#xff0c;彻底改变企业的运营方式和与技术的互动方式&#xff0c;当然&#xff0c;还可以保留长…

[人工智能]对未来建筑行业的影响

作者主页: 知孤云出岫 目录 引言1. 人工智能在建筑行业的应用场景1.1 设计阶段1.2 施工阶段1.3 运营和管理 2. 关键技术2.1 机器学习2.2 计算机视觉2.3 自然语言处理2.4 大数据分析 3. 实际案例分析3.1 案例1&#xff1a;利用GAN生成建筑设计方案3.2 案例2&#xff1a;利用计算…