Spring Cloud——Circuit Breaker上篇

news2024/11/24 3:15:17

Spring Cloud——Circuit Breaker上篇

  • 一、分布式系统面临的问题
    • 1.服务雪崩
    • 2.禁止服务雪崩故障
  • 二、Circuit Breaker
  • 三、resilience4j——服务熔断和降级
    • 1.理论知识
    • 2.常用配置
    • 3.案例实战
      • （1）COUNT_BASED（计数的滑动窗口）
      • （2）TIME_BASED（时间的滑动窗口）
  • 四、参考

一、分布式系统面临的问题

  • 复杂分布式体系结构中的应用程序有数十个依赖关系，每个依赖关系在某些时候将不可避免地失败。

1.服务雪崩

  • 多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其他的微服务，这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用，对微服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，所谓的“雪崩效应”。
  • 对于高流量的应用来说，单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是，这些应用程序还可能导致服务之间的延迟增加，备份队列，线程和其他系统资源紧张，导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理，以便单个依赖关系的失败，不能取消整个应用程序或系统。
  • 通常当你发现一个模块下的某个实例失败后，这时候这个模块依然还会接收流量，然后这个有问题的模块还调用了其他的模块，这样就会发生级联故障，或者叫雪崩。

2.禁止服务雪崩故障

  • 有问题的节点，快速熔断（快速返回失败处理或者返回默认兜底数据【服务降级】）。
  • “断路器”本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控（类似熔断保险丝），向调用方返回一个符合预期的、可处理的备选响应（FallBack），而不是长时间的等待或者抛出异常调用方法处理的异常，这样就保证了服务调用方的线程不会被长时间、不必要地占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。

二、Circuit Breaker

在这里插入图片描述

  • Circuit Breaker 只是一套规范和接口，落地实现者是 Resilience4j（resilience For Java） 和 Spring Retry。

三、resilience4j——服务熔断和降级

1.理论知识

  • Circuit Breaker 有三个普通状态：关闭（CLOSED）、开启（OPEN）、半开（HALF_OPEN），还有两个特殊状态：禁用（DISABLED）、强制开启（FORCED_OPEN）。
    在这里插入图片描述
    • 当断路器 CLOSED 时，所有的请求都会通过断路器。
    • 如果失败率超过设定的阈值，断路器 CLOSED ---> OPEN，这时所有的请求都会被拒绝。
    • 当经过一段时间后，断路器OPEN ---> HALF_OPEN，这时仅有一定数量的请求会被放入，并重新计算失败率。
    • 如果失败率仍超过阈值，则断路器 HALF_OPEN ---> OPEN，如果失败率低于阈值，则断路器 HALF_OPEN ---> CLOSED。
  • 断路器使用滑动窗口来存储和统计调用的结果。
    • 基于调用数量的滑动窗口：基于访问数量的滑动窗口统计了最近 N 次调用的返回结果。
    • 基于时间的滑动窗口：基于时间的滑动窗口统计了最近 N 秒的调用返回结果。
  • 除此之外，断路器还会有两种特殊状态：DISABLE（始终允许访问）、FOCRED_OPEN（始终拒绝访问）。
    • 这两个状态不会生成熔断器事件（除状态转换外），并且不会记录请求的成功或失败。
    • 退出这两个状态的唯一方法就是触发状态转换或者重置断路器。

2.常用配置

配置属性默认值描述
slidingWindowTypeCOUNT_BASED配置滑动窗口的类型，当断路器关闭时，将调用的结果记录在滑动窗口中。滑动窗口的类型可以是count-based或time-based。如果滑动窗口类型是COUNT_BASED，将会统计记录最近slidingWindowSize次调用的结果。如果是TIME_BASED，将会统计记录最近slidingWindowSize秒的调用结果。
slidingWindowSize100配置滑动窗口的大小。
failureRateThreshold50以百分比配置失败率阈值。当失败率等于或大于阈值时，断路器状态从关闭变为开启，并进行服务降级。
slowCallDurationThreshold6000[ms]配置调用时间的阈值，高于该阈值的呼叫视为慢调用，并增加慢调用比例。
slowCallRateThreshold100以百分比的方式配置，断路器把调用时间大于slowCallDurationThreshold的调用视为慢调用，当慢调用比例大于等于阈值时，断路器开启，并进行服务降级。
permittedNumberOfCallsInHalfOpenState10断路器在半开状态下允许通过的调用次数。
minimumNumberOfCalls100断路器计算失败率或慢调用率之前所需的最小调用数（每个滑动窗口周期）。例如，如果minimumNumberOfCalls为10，则必须至少记录10个调用，然后才能计算失败率。如果只记录了9次调用，即使所有9次调用都失败，断路器也不会开启。
waitDurationInOpenState6000[ms]断路器从开启过渡到半开应等待的时间。

3.案例实战

  • 具体案例：
    • 6 次访问中当执行方法的失败率达到 50% 时 CircuitBreaker 将进入开启 OPEN 状态（保险丝跳闸断电），拒绝所有请求。
    • 等待 5 秒后，CircuitBreaker 将自动从开启 OPEN 状态过渡到半开 HALF_OPEN 状态，允许一些请求通过以测试服务是否恢复正常。
    • 如还是异常 CircuitBreaker 将重新进入开启 OPEN 状态；如正常将进入关闭 CLOSE 关闭状态恢复正常处理请求。
      在这里插入图片描述

（1）COUNT_BASED（计数的滑动窗口）

  • 第一步，在调用服务方引入 Circuit Breaker 相关的依赖
    <!--resilience4j-circuitbreaker-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-circuitbreaker-resilience4j</artifactId>
</dependency>
<!-- 由于断路保护等需要AOP实现，所以必须导入AOP包 -->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-aop</artifactId>
</dependency>
  • 第二步，在OpenFeign中开启circuitbreaker
    spring:
  cloud:
    openfeign:
      # 开启 circuitbreaker 和 分组激活
      circuitbreaker:
        enabled: true
        # 没开分组永远不用分组的配置。精确优先、分组次之（开了分组）、默认最后
        group:
          enabled: true
  • 第三步，配置resilience4j相关的配置
    # 服务器的熔断降级配置
resilience4j:
  circuitbreaker:
    configs:
      default:
      	# 设置 50% 的失败率，超过失败请求百分比 CircuitBreaker 变为 OPEN 状态。
        failure-rate-threshold: 50 
        # 滑动窗口类型
        sliding-window-type: COUNT_BASED
        # 滑动窗口的大小, 配置 COUNT_BASED 表示 6 个请求，配置 TIME_BASED 表示 6 秒。
        sliding-window-size: 6
        # 断路器计算失败率或慢调用率之前所需的最小样本（每个滑动窗口周期）。如果 minimumNumberOfCalls 为 10, 则必须最少记录 10 个样本，然后才能计算失败率。如果只记录了9次调用，即使所有9次调用都失败，断路器也不会开启。
        minimum-number-of-calls: 6
        # 是否启用自动从 OPEN ---> HALF_OPEN, 默认值就为 TRUE
        automatic-transition-from-open-to-half-open-enabled: true  
        # 从 OPEN 到 HALF_OPEN状态需要等待的时间
        wait-duration-in-open-state:
          seconds: 1
        # 半开状态允许的最大请求值为 10.
        permitted-number-of-calls-in-half-open-state: 2
        # 记录的异常类型
        record-exceptions:
          - java.lang.Exception
    # 以上的配置适用于那个微服务
    instances:
      cloud-payment-service:
        base-config: default
  • 第四步，编写Controller
    @RestController
@RequestMapping("/circuit")
public class CircuitController {
    @Resource
    private PayCircuitFeignAPI payCircuitFeignAPI;

    @GetMapping("/order/{id}")
    @CircuitBreaker(name = "cloud-payment-service", fallbackMethod = "myCircuitFallback")
    public String myCircuit(@PathVariable("id") Integer id) {
        return payCircuitFeignAPI.myCircuit(id);
    }

    /**
     * myCircuitFallback就是服务降级后的兜底处理方法
     */
    public String myCircuitFallback(Integer id, Throwable t) {
        // 这里是容错处理逻辑，返回备用结果
        return "myCircuitFallback，系统繁忙，请稍后再试-----/(ㄒoㄒ)/~~";
    }
}

（2）TIME_BASED（时间的滑动窗口）

  • 只需要将上面基于次数的滑动窗口中关于resilience4j相关的配置修改为如下
    # 服务器的熔断降级配置
resilience4j:
  timelimiter:
    configs:
      default:
      	# 神坑的位置，timelimiter 默认限制远程 1s,超过 1s 就超时异常，配置了降级，就直接走降级逻辑了
        timeout-duration:
          seconds: 20
  circuitbreaker:
    configs:
      default:
      	#设置 50% 的失败率，超过失败请求百分比 CircuitBreaker 变为 OPEN 状态。
        failure-rate-threshold: 50
        # 滑动窗口类型 
        sliding-window-type: TiME_BASED
        # 慢调用时间阈值，高于这个阈值的视为慢调用并增加慢调用比例。
        slow-call-duration-threshold:
          seconds: 2
        #慢调用百分比峰值，断路器把调用时间大于 slow-call-duration-threshold,视为慢调用，当慢调用比例高于这个的时候进入到 OPEN。 
        slow-call-rate-threshold: 30
        # 滑动窗口的大小, 配置 COUNT_BASED 表示 2 个请求，配置 TIME_BASED 表示 2 秒。 
        sliding-window-size: 2 
        # 断路器计算失败率或慢调用率之前所需的最小样本（每个滑动窗口周期）。如果 minimumNumberOfCalls 为 10, 则必须最少记录 10 个样本，然后才能计算失败率。如果只记录了9次调用，即使所有9次调用都失败，断路器也不会开启。
        minimum-number-of-calls: 2 
        automatic-transition-from-open-to-half-open-enabled: true  # 是否启用自动从 OPEN ---> HALF_OPEN, 默认值就为 TRUE
        # 从 OPEN 到 HALF_OPEN状态需要等待的时间
        wait-duration-in-open-state:
          seconds: 10  
        # 半开状态允许的最大请求值为
        permitted-number-of-calls-in-half-open-state: 2 
        # 记录的异常类型
        record-exceptions:
          - java.lang.Exception
    # 以上的配置适用于那个微服务
    instances:
      cloud-payment-service:
        base-config: default

四、参考

[1]. Spring Cloud Circuit Breaker
[2]. resilience4j 官网
[3]. resilience4j 中文参考手册

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1639006.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

UE4_Niagara_两个模型之间的粒子幻化

UE4_Niagara_两个模型之间的粒子幻化

学习笔记&#xff0c;仅供参考&#xff01; 操作步骤&#xff1a; 1、新建niagara system&#xff0c;添加空的发射器&#xff0c;渲染改为网格体渲染器&#xff0c;网格体为1M_Cube. 2、创建粒子材质重载。 3、渲染网格体的材质设置&#xff1a; 4、在发射器属性面板&#x…
阅读更多...
LeetCode 213 —— 打家劫舍 II

LeetCode 213 —— 打家劫舍 II

阅读目录 1. 题目2. 解题思路3. 代码实现 1. 题目 2. 解题思路 此题是 LeetCode 198—— 打家劫舍 的升级版&#xff0c;多了一个首尾相连的设定。 因为首尾相连&#xff0c;所以第一个房屋和最后一个房屋只能偷窃其中一个。 所以&#xff0c;第一种方案就是不偷窃最后一个房…
阅读更多...
Web APIs 学习归纳6--- BOM浏览器对象

Web APIs 学习归纳6--- BOM浏览器对象

前面几节主要针对DOM进行了学习&#xff0c;现在开始新的内容的学习---DOM浏览器对象。 DOM是更注重页面&#xff08;document&#xff09;内容的设计&#xff0c;但是BOM不仅限于页面&#xff08;document&#xff09;的设计&#xff0c;而是更加全面包括页面的刷新&#xff0…
阅读更多...
SpringBoot使用ResponseBodyAdvice和RequestBodyAdvice实现请求体解密、响应体加密

SpringBoot使用ResponseBodyAdvice和RequestBodyAdvice实现请求体解密、响应体加密

文章目录 一、写在前面二、实现细节1、定义加解密注解2、请求体解密逻辑3、响应体加密逻辑4、测试类5、测试结果 三、源码分析1、RequestResponseBodyMethodProcessor2、RequestBodyAdvice3、ResponseBodyAdvice 一、写在前面 项目中经常需要对接第三方平台&#xff0c;每次对…
阅读更多...
redis ZRANGE 使用最详细文档

redis ZRANGE 使用最详细文档

环境&#xff1a; redis_version:7.2.2 本文参考 redis 官方文档1 语法 ZRANGE key start stop [BYSCORE | BYLEX] [REV] [LIMIT offset count] [WITHSCORES]参数含义key是有序集合的键名start stop在不同语境下&#xff0c;可用值不一样BYSCORE | BYLEX按照分数查询 | 相…
阅读更多...
Node.js -- mongoose

Node.js -- mongoose

文章目录 1. 介绍2. mongoose 连接数据库3. 插入文件4. 字段类型5. 字段值验证6. 文档处理6.1 删除文档6.2 更新文档6.3 读取文档 7. 条件控制8. 个性化读取9. 代码模块化 1. 介绍 Mongoose是一个对象文档模型库&#xff0c;官网http://www.mongoosejs.net/ 方便使用代码操作mo…
阅读更多...
2021-10-21 51单片机两位数码管显示0-99循环

2021-10-21 51单片机两位数码管显示0-99循环

缘由单片机两位数码管显示0-99循环-编程语言-CSDN问答 #include "REG52.h" #include<intrins.h> sbit K1 P3^0; sbit K2 P3^1; sbit K3 P3^2; sbit K4 P3^3; sbit bpP3^4; bit k1,wk10,wk20; unsigned char code SmZiFu[]{63,6,91,79,102,109,125,7,127,1…
阅读更多...
数据库(MySQL) —— DDL语句

数据库(MySQL) —— DDL语句

MySQL—— DDL语句 什么是MySQL的DDL语句查看所有的所有数据库查看当前使用的数据库库操作创建库使用数据库删除库 表操作创建表查询当前库中所有的表查询表结构查询指定表的建表语句删除表 表修改删除字段修改数据类型修改字段名和字段类型重命名表删除指定表并重新创建该表 我…
阅读更多...
c3 笔记7 css基本语法

c3 笔记7 css基本语法

相关内容&#xff1a;字体、段落、词间距、文字效果&#xff08;对齐、上下标、阴影&#xff09;、背景图、背景渐变、…… 单位pt与px的差别pt是印刷使用的字号单位&#xff0c;不管屏幕分辨率是多少&#xff0c;打印到纸上看起来都是相同的&#xff0c;lot的长度是0.01384英寸…
阅读更多...
Mybatis四种实例化对象方式

Mybatis四种实例化对象方式

代码准备 创建mybatis-config.xml <?xml version"1.0" encoding"UTF-8" ?> <!DOCTYPE configurationPUBLIC "-//mybatis.org//DTD Config 3.0//EN""http://mybatis.org/dtd/mybatis-3-config.dtd"> <configuration…
阅读更多...
【golang学习之旅】深入理解字符串string数据类型

【golang学习之旅】深入理解字符串string数据类型

系列文章 【golang学习之旅】报错&#xff1a;a declared but not used 【golang学习之旅】Go 的基本数据类型 目录 系列文章使用示例string的底层数据结构关于字符串复制字符串是不可变的如何高效的进行字符串拼接&#xff1f; 使用示例 Go 语言中的字符串只是一个只读的字节…
阅读更多...
CUDA CPP Unity Compute Shader

CUDA CPP Unity Compute Shader

为学 开始一个新的学习计划&#xff0c;涵盖&#xff1a; 主题学习内容CUDAProfessional CUDA C Programming/NVIDIA CUDA初级教程视频(周斌)CCPrimer / The Cherno CPPUnity Compute ShaderUdemy Learn to Write Unity Compute ShadersLinear AlgebraMIT 18.06 Prof.Gilbert…
阅读更多...
typescript类型检查和原始类型

typescript类型检查和原始类型

typescript类型检查和原始类型 类型检查 非严格类型是typescript默认的类型检查模式&#xff0c;在该模式下&#xff0c;类型检查的规则相对轻松&#xff0c;不会对undefined和null值做过多的限制&#xff0c;允许将undefined和null值赋给string类型的变量。进行JavaScript代…
阅读更多...
【算法】高精度乘法

【算法】高精度乘法

前言 最近在参加某个比赛的时候遇到了这个问题&#xff0c;用字符串表示时&#xff0c;长度能达到15&#xff0c;所以针对大数乘法写一篇文章。 高精度 * 低精度 在这种场景下&#xff0c;一般都是给定一个无法用int或long long 存储的数&#xff0c;再给定一个能用int或lon…
阅读更多...
第74天：漏洞发现-Web框架中间件插件BurpSuite浏览器被动主动探针

第74天：漏洞发现-Web框架中间件插件BurpSuite浏览器被动主动探针

目录 思维导图 前置知识 案例一&#xff1a;浏览器插件-辅助&资产&漏洞库-Hack-Tools&Fofa_view&Pentestkit 案例二&#xff1a; BurpSuite 插件-被动&特定扫描-Fiora&Fastjson&Shiro&Log4j 思维导图 前置知识 目标&#xff1a; 1. 用…
阅读更多...
Linux 进程间通信之命名管道

Linux 进程间通信之命名管道

&#x1f493;博主CSDN主页:麻辣韭菜&#x1f493;   ⏩专栏分类&#xff1a;Linux知识分享⏪   &#x1f69a;代码仓库:Linux代码练习&#x1f69a;   &#x1f339;关注我&#x1faf5;带你学习更多Linux知识   &#x1f51d; 目录 前言 命名管道 创建一个命名管道 …
阅读更多...
八大排序详解：动图、代码、注释

八大排序详解：动图、代码、注释

目录 何为八大排序&#xff1f; 直接插入排序 排序过程解读 直接插入排序的特性总结&#xff1a; 希尔排序 希尔排序的特性总结&#xff1a; 直接选择排序 直接选择排序的特性总结&#xff1a; 堆排序 直接选择排序的特性总结&#xff1a; 冒泡排序 快速排序 1.Hoa…
阅读更多...
全景剖析阿里云容器网络数据链路（七）：Terway DataPath V2（Terway≥1.8.0）

全景剖析阿里云容器网络数据链路（七）：Terway DataPath V2（Terway≥1.8.0）

作者&#xff1a;余凯 前言 近几年&#xff0c;企业基础设施云原生化的趋势越来越强烈&#xff0c;从最开始的IaaS化到现在的微服务化&#xff0c;客户的颗粒度精细化和可观测性的需求更加强烈。容器网络为了满足客户更高性能和更高的密度&#xff0c;也一直在高速的发展和演…
阅读更多...
【JavaEE网络】网络编程及其应用概述

【JavaEE网络】网络编程及其应用概述

目录 面向字节流粘包问题 TCP异常情况TCP/UDP对比 网络层重点协议IP协议IP地址 面向字节流 粘包问题 在面向字节流的情况下&#xff0c;会产生一些其他的问题&#xff1a;粘包问题&#xff0c;这里“粘”的是“应用层数据报”&#xff0c;通过TCP read/write的数据&#xff0…
阅读更多...
jvm 马士兵 01

jvm 马士兵 01

01.JVM是什么 JVM是一个跨平台的标准 JVM只识别class文件&#xff0c;符合JVM规范的class文件都可以被识别
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023