负载均衡详解

news2024/12/27 7:50:18

负载均衡可以简单分为服务端负载均衡和客户端负载均衡这两种。

根据 OSI 模型,服务端负载均衡还可以分为:

  • 二层负载均衡
  • 三层负载均衡
  • 四层负载均衡
  • 七层负载均衡

最常见的是四层和七层负载均衡

  • 四层负载均衡 工作在 OSI 模型第四层,也就是传输层,这一层的主要协议是 TCP/UDP,负载均衡器在这一层能够看到数据包里的源端口地址以及目的端口地址,会基于这些信息通过一定的负载均衡算法将数据包转发到后端真实服务器。也就是说,四层负载均衡的核心就是 IP+端口层面的负载均衡,不涉及具体的报文内容。
  • 七层负载均衡 工作在 OSI 模型第七层,也就是应用层,这一层的主要协议是 HTTP 。这一层的负载均衡比四层负载均衡路由网络请求的方式更加复杂,它会读取报文的数据部分(比如说我们的 HTTP 部分的报文),然后根据读取到的数据内容(如 URL、Cookie)做出负载均衡决策。也就是说,七层负载均衡器的核心是报文内容(如 URL、Cookie)层面的负载均衡,执行第七层负载均衡的设备通常被称为 反向代理服务器

        七层负载均衡比四层负载均衡会消耗更多的性能,不过,也相对更加灵活,能够更加智能地路由网络请求,比如说你可以根据请求的内容进行优化如缓存、压缩、加密。

        简单来说,四层负载均衡性能更强,七层负载均衡功能更强!

        常用的七层负载均衡解决方案:DNS 解析和反向代理        

        在工作中,我们通常会使用 Nginx 来做七层负载均衡,LVS(Linux Virtual Server 虚拟服务器, Linux 内核的 4 层负载均衡)来做四层负载均衡。

 

一、服务端负载均衡

        服务端负载均衡 主要应用在系统外部请求网关层之间,可以使用软件或 硬件实现。

        在我们日常开发中,一般很难接触到硬件负载均衡,接触的比较多的还是软件负载均衡 。软件负载均衡通过软件(比如 LVS、Nginx、HAproxy )实现负载均衡功能。

二、客户端负载均衡

        客户端负载均衡主要应用于系统内部的不同服务之间,可以使用现成的负载均衡组件来实现。

        在客户端负载均衡中,客户端会自己维护一份服务器的地址列表,发送请求之前,客户端会根据对应的负载均衡算法来选择具体某一台服务器处理请求。

        客户端负载均衡器和服务运行在同一个进程或者说 Java 程序里,不存在额外的网络开销。不过,客户端负载均衡的实现会受到编程语言的限制,比如说 Spring Cloud Load Balancer 就只能用于 Java 语言。

        Java 领域主流的微服务框架 Dubbo、Spring Cloud 等都内置了开箱即用的客户端负载均衡实现。Dubbo 属于是默认自带了负载均衡功能,Spring Cloud 是通过组件的形式实现的负载均衡,属于可选项,比较常用的是 Spring Cloud Load Balancer(官方,推荐) 和 Ribbon(Netflix,已被启用)。

Ribbon 支持的 7 种负载均衡策略:

  • RandomRule:随机策略。
  • RoundRobinRule(默认):轮询策略
  • WeightedResponseTimeRule:权重(根据响应时间决定权重)策略
  • BestAvailableRule:最小连接数策略
  • RetryRule:重试策略(按照轮询策略来获取服务,如果获取的服务实例为 null 或已经失效,则在指定的时间之内不断地进行重试来获取服务,如果超过指定时间依然没获取到服务实例则返回 null)
  • AvailabilityFilteringRule:可用敏感性策略(先过滤掉非健康的服务实例,然后再选择连接数较小的服务实例)
  • ZoneAvoidanceRule:区域敏感性策略(根据服务所在区域的性能和服务的可用性来选择服务实例)

Spring Cloud Load Balancer 支持的 2 种负载均衡策略:

  • RandomLoadBalancer:随机策略
  • RoundRobinLoadBalancer(默认):轮询策略

不过,Spring Cloud Load Balancer 支持的负载均衡策略其实不止这两种,看官方文档。

 

三、负载均衡常见的算法

随机法

轮询法

一致性 Hash 法

最小连接法

四、Nginx负载均衡实现原理

        Nginx服务器作为前端,Tomcat服务器作为后端,页面请求由Nginx服务来进行转发请求到不同的web服务器上,但是不是把所有的Web请求转发,静态页面请求Nginx服务器自己来处理,动态页面请求转发给后端的Tomcat服务器来处理。
        Tomcat是属于轻量级的应用服务器,它内置了一个轻量级的Web服务器,用于转发html文件的请求,可以接受的访问量可能会不足,所以我们需要多台Tmocat服务器,然后通过Nginx选择负载策略来挑选不同的Tomcat服务器去进行处理。
nginx+tomcat 部署实现负载均衡原理如下图:

五、Nginx和Ribbon的区别

        Nginx是服务端负载均衡,客户端所有请求都会交给nginx,然后由nginx实现转发请求到不同的web服务器上(如Tomcat),即负载均衡是由服务端实现的。
        Ribbon是客户端负载均衡,在调用服务接口时,会在注册中心上获取注册服务列表之后缓存到JVM本地,从而在本地实现RPC远程服务调用(个人理解的意思:nginx用来处理网关集群的,ribbon用来处理服务集群的,至于为不直接用nginx处理服务集群,好像是因为开发语言的问题)。
        Nginx适合于服务器端实现负载均衡,比如Tomcat ,Ribbon适合于在微服务中RPC远程调用实现本地服务负载均衡,比如Dubbo、SpringCloud中都是采用本地负载均衡。

        Nginx是一个独立运行的服务器,通过反向代理实现负载均衡。Ribbon是一个客户端负载均衡组件,它依赖于服务注册中心给出的服务列表,做服务路由选择。两个定位不一样,工作模式和位置也不一样。在某些基于DNS负载场合,两者是可以结合起来使用的。
        Ribbon是一个客户端负载均衡框架,最大的优势之一就是无单点,而使用nginx的话又会引入这样一个单点了,引入这个单点以后你还要调优它,请求也多了一层转发,从可靠性、复杂度这些方面都不如直接用ribbon。

        其实如果用k8s的话,甚至springcloud都不需要,看项目和团队怎么抉择吧。

六、正向代理和反向代理的区别


正向代理隐藏的是用户,反向代理隐藏的是服务器
正向代理是为用户服务的,反向代理是为服务器服务的
正向代理:
        正向代理是一个被配置为代表客户端的服务器(伪装客户端),客户端的请求转到代理处,而不是服务器处。代理再将请求转发给服务器,并等待响应,将其送回给客户端,这样的话,服务器就不知道客户端是谁了,它只知道代理的源IP地址, 这时候对于服务器而言用户是不可见的,他们并不知道用户在哪。因此,正向代理可以保护和隐藏客户端的身份。 VPN也遵循相同的工作原理。
优点:
1、选择性的发送/阻止请求
2、记录或监控请求
3、缓存回复 

 

vpn是在用户浏览器端设置的(并不是在远端的服务器设置)。
浏览器先访问vpn地址,vpn地址转发请求,并最后将请求结果原路返回来。

反向代理:
        反向代理是配置为代表另一台服务器运行的服务器(伪装服务器)。 代理代替服务器接收客户端的请求。 代理将请求转发到服务器并等待将它们发送回给客户端的响应。
        客户端不知道它正在与反向代理通信。 响应返回给客户端,似乎来自服务器本身。 这时对于用户而言服务器是不可见的,用户并不知道是哪个服务器给你传回来数据。因此反向代理可以保护和隐藏服务器的身份。
优点:
1、为一组服务器做负载均衡
2、服务器的匿名性和更高的安全性
3、更好的性能,代替服务器执行额外的任务 

        反向代理是作用在服务器端的,是一个虚拟ip(VIP)。对于用户的一个请求,会转发到多个后端处理器中的一台来处理该具体请求。
        大型网站都有DNS(域名解析服务器),load balance(负载均衡器)等。

注意:无论是正向代理和反向代理,实际上相互都不知道对方,他们只需要明确自己的需求和结果,而中间的发送和返回的过程并不关心,实际上一个传输的过程中完全有可能存在正向代理和反向代理两种模式,当你使用vpn(正向)访问一个使用了负载均衡(反向)的服务器。

例子:
正向代理:vpn,某个商店,你不能去买东西或者你不想暴露自己,但是你朋友可以去买,你就把钱给他让他去买。(你的请求给你朋友,商店不知道真正的客户是谁)
反向代理:vip,某个生产商,不想暴露自己的几个生产工厂,就把商品放到门店,你就去门店那里买。(你只关心你买到的东西,你并不知道真正的生产工厂是哪个)

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/748024.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

TIA博途中FC或FB块被多次调用后,监控单个块执行情况的具体方法

TIA博途中FC或FB块被多次调用后,监控单个块执行情况的具体方法 本文以简单的电机启保停程序为例进行说明: 如下图所示,首先添加一个“启保停”FC块,定义块的接口变量,并编写梯形图程序, 如下图所示,在PLC数据类型中添加一个motorControl数据类型,其中包含start、stop…

Python replace()函数使用详解,Python替换字符串

「作者主页」:士别三日wyx 「作者简介」:CSDN top100、阿里云博客专家、华为云享专家、网络安全领域优质创作者 「推荐专栏」:小白零基础《Python入门到精通》 replace函数使用详解 1、不改变原字符串2、指定替换次数3、转义符4、替换列表、元…

opencv 基础图像操作-彩色图像

opencv 基础图像操作-彩色图像 彩色图像 相比二值图像和灰度图像,彩色图像是更常见的一类图像,它能表现更丰富的细节信息。 神经生理学实验发现,在视网膜上存在三种不同的颜色感受器,能够感受三种不同的颜色:红色、绿色…

边缘计算在智慧校园应用,实现校园智能化管理

随着科技的发展和互联网技术进步,校园管理正逐步实现数字化、智能化转型。边缘计算作为一种新兴技术,通过在离数据源较近的地方进行数据处理,实现了实时性分析与响应,为校园带来了更智能、安全的管理方式。 学生学习状态监控 AI动…

LCD1602屏幕简介(全网最详细教程)

目录 1.接线说明 2.LCD1602显示原理 3.LCD1602时序分析 4.LCD1602显示一个字符 5.LCD1602显示一行 1.接线说明 第1引脚:GND为电源地 第2引脚:VCC接5V电源正极 第3引脚:V0为液晶显示器对比度调整端,接正电源时对比度最弱&…

关于海外的Apple搜索广告

随着Apple平台成为大多数应用的服务支柱,我们需要比以往任何时候都更加关注iOS搜索广告,从而成功与用户建立联系。Apple Search Ads能够通过搜索为我们的应用带来流量,让用户在App Store中输入相关关键词时能够高效、简单地发现应用。 Apple …

超详细的学习笔记:CSS浮动(附代码示例)

笔记参考b站网课:【前端开发入门教程,web前端零基础html5 css3前端项目视频教程】https://www.bilibili.com/video/BV1Kg411T7t9?p124&vd_source06e5549bf018e111f4275c259292d0da 目录 一、结构伪类选择器 二、伪元素 三、标准流 四、浮动 1、…

WEB APIs day3 (1)

一、表单全选反选案例 <!DOCTYPE html><html><head lang"en"><meta charset"UTF-8"><title>全选反选案例</title><style>* {margin: 0;padding: 0;}table {border-collapse: collapse;border-spacing: 0;border…

【ROS2】仿真入门

一、说明 在机器人项目中,仿真是一个具有多种用途的重要方面。首先,您可以测试希望机器人执行的行为代码。其次,您可以使用仿真来测试不同类型的硬件,例如距离传感器、相机或 3D 点云传感器,看看哪种效果最好。第三,可视化模拟的相同软件可以与真正的机器人实时使用,在机…

基于51单片机和proteus的智能垃圾桶系统

此系统是基于51单片机和proteus的仿真设计&#xff0c;功能如下&#xff1a; 1. LCD1602实时显示系统状态。 2. 超声波测距模拟检测人体靠近垃圾桶 3. 舵机模拟开启或关闭垃圾桶桶盖。 4. 垃圾桶满溢后报警指示。 5. LED指示人体状态满溢状态及系统状态。 功能框图如下&am…

BTP Integration Suite学习笔记 - (Unit2) Developing with SAP Integration Suite

BTP Integration Suite学习笔记 - (Unit1) Developing with SAP Integration Suite 这章内容比较大而空 Unit2 iPaaS介绍 2.1 SAP的集成策略 这张图应该不陌生&#xff0c;很多地方都可以看到&#xff0c;SAP对于智能企业的集成策略。它有四个原则&#xff1a; Predefined in…

剑指 offer 动态规划算法题:斐波那契数列(青蛙普通跳台阶)

题目描述&#xff1a;写一个函数&#xff0c;输入 n &#xff0c;求斐波那契&#xff08;Fibonacci&#xff09;数列的第 n 项&#xff08;即 F(N)&#xff09;。斐波那契数列的定义如下&#xff1a;F(0) 0, F(1) 1&#xff0c;F(N) F(N - 1) F(N - 2), 其中 N > 1.斐…

wordpress 导航栏 调用

环境&#xff1a;wordpress6、twentytwentyone模板 一、wp-content/themes/twentytwentyone/functions.php 添加以下代码&#xff1a; 1、注册 (左边是别名&#xff0c;右边是名称。别名会用在导航栏的调用上&#xff0c;名称则显示在菜单后台页面上&#xff1a;外观->菜单…

解密Sketch文件打开秘籍:简单两步操作!

虽然Figma&#xff0c;sketch,xd都很好用&#xff0c;但是设计师在设计工作流中经常会遇到无法在这三者软件中自由导入导出的情况。但是只要我们转变一下思路&#xff0c;因为这三种软件都支持导入sketch格式,所以我们只要将文件格式转成sketch&#xff0c;就能自由的在不同软件…

Visual Studio 新功能:Include 语句清理

Visual Studio 17.7 预览版 3 引入了一项新功能&#xff0c;用来提升开发者的生产力。我们很高兴地宣布这项新功能&#xff1a;Include 语句清理&#xff0c;这是一个帮助你维护干净代码的工具。如需使用此功能&#xff0c;请确保更新到最新版本的 Visual Studio 预览版。 Inc…

macOS 14 Sonama - 小记

文章目录 Sonoma 官方资讯关于 Sonama 命名关于 壁纸Sonoma 官方资讯 macOS Sonoma Preview https://www.apple.com/hk/en/macos/sonoma-preview/官方视频介绍 Apple Events --> Watch the Keynote --> 00:43:13 (约14min) https://www.apple.com/hk/en/apple-events/mac…

WEB APIs day3 (2)

3.其它事件 页面加载事件 <!DOCTYPE html> <html lang"en"><head><meta charset"UTF-8"><meta http-equiv"X-UA-Compatible" content"IEedge"><meta name"viewport" content"widthde…

Mac环境下安装nginx并本地部署项目

1、前提 必须安装了homebrew&#xff0c;可在终端输入命令brew -v查看是否已经安装&#xff0c;如果输入指令出现版本号说明已经安装成功 如果未安装先安装&#xff08;homebrew官网地址&#xff09; /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/H…

vue2+echarts5:2D地图打点、下钻

准备 要实现地图可点击、下钻&#xff0c;为了使地图有3D效果&#xff0c;原本用map3D需要下载依赖echarts-gl,由于存在地图下钻后在区域内无法展示完整地图&#xff0c;改用2D地图 "echarts": "^5.4.2", // "echarts-gl": "^2.0.9"…

ChatGpt基于第三方API2D服务封装的SpringBoot starter

前置条件&#xff1a; 看下API2D官网&#xff0c;第三方API2D服务对接流程&#xff1a; 其对接文档地址 https://api2d.com/wiki/doc 一:创建一个空的Maven项目 完成后整的项目层级图如下 1.pom.xml 中添加相关依赖包 <?xml version"1.0" encoding"UTF-…