【微服务】- 分布式系统的流量防卫兵 - sentinel

news2024/9/21 12:47:52

Sentinel流量防卫兵

😄生命不息,写作不止
🔥 继续踏上学习之路,学之分享笔记
👊 总有一天我也能像各位大佬一样
🏆 一个有梦有戏的人 @怒放吧德德
🌝分享学习心得,欢迎指正,大家一起学习成长!

在这里插入图片描述

文章目录

  • Sentinel流量防卫兵
    • 前言
    • 服务雪崩与容错机制
      • (1)、服务雪崩
        • 服务雪崩的原因
      • (2)、容错机制
        • 服务限流
        • 超时机制
        • 熔断机制
        • 服务降级
    • sentinel简介
    • Sentinel初体验-通过API实现
      • 流量控制规则 (FlowRule)
        • 导入依赖
        • 定义资源和流控规则
      • *通过注解优化使用流量控制
        • 添加依赖
        • 配置SentinelResourceAspect的Bean
        • 配置资源与规则
      • 熔断降级规则 (DegradeRule)
        • 定义熔断降级规则
      • 使用sentinel-dashboard
    • 总结

前言

预谋学习springcloud-alibaba组件这么久,由于自身以及工作的原因脱了这么久,近期就开始逐步恢复学习,学完了nacos组件、openfeign组件以及负载均衡,接下来就是对流量控制的学习sentinel组件。

服务雪崩与容错机制

学习sentinel首先要知道什么是服务雪崩与容错机制,最后再来通过集成Sentinel来提供服务治理和容错的能力。

(1)、服务雪崩

服务雪崩就是当一个或多个服务出现故障或不可用时,这些故障会导致其他服务也因为等待或依赖这些服务而崩溃,最终整个系统不可用的情况。服务雪崩通常发生在高并发的情况下,当请求量增加时,一些服务可能会因为超负荷而变得不稳定或不可用,导致其他服务也因此被阻塞或超时,从而使整个系统出现连锁反应,最终导致系统崩溃。
在这里插入图片描述

服务雪崩的原因

导致雪崩的原因有许多

  • 服务间的依赖关系:在分布式系统中,服务与服务之间存在依赖关系,如果其中一个服务出现故障或延迟,会导致其他服务等待或阻塞的连锁反应,从而引发雪崩效应。
  • 负载均衡问题:当请求量过大时,如果负载均衡策略不合理或者负载均衡器本身出现故障,就可能导致某些服务的压力过大,从而引发服务雪崩。
  • 缓存问题:如果系统中的缓存出现问题,例如缓存击穿、缓存雪崩等,会导致请求直接落到数据库,从而引发数据库压力过大,最终导致服务雪崩。
  • 数据库问题:当数据库出现故障、网络延迟等情况时,会影响到相关服务的响应能力,从而导致整个系统的不可用。
  • 代码问题:如果代码质量不高,存在一些潜在的问题,例如死循环、内存泄漏等,会导致服务出现问题,最终引发服务雪崩。

当大量得请求造成了请求失败,会不断得重试,这反而还会加重请求流量,造成雪崩效应。归根到底也就是大量得线程同步等待造成的资源耗尽。

(2)、容错机制

容错机制是指在分布式系统中,通过设计和实现一些技术手段和策略,使系统能够在出现故障、错误或异常的情况下仍然能够继续运行,保证系统的可用性和可靠性。

服务限流

当服务达到一定的临界值的时候,有可能会导致服务宕机。常见使用的是服务限流,首先会对服务进行压测,测出最大的QPS(每秒处理的请求数量),当开启限流时,大于规定限流的QPS就会被限流,对于这些限流的请求,可以是进行流量降级,或者是直接拒绝。

超时机制

超时机制就是当大量的请求得不到相应会线程等待,如果检测到超时,就会释放资源。

熔断机制

当服务不稳定或者暂时关闭,这就是服务熔断。在现实中,这就好比如空气开关在电路出现过载、短路等故障时,及时切断电路,以保护电气设备和人身安全,防止电路烧坏。而在软件上,服务熔断的实现原理通常是通过对服务请求进行监控,当服务请求的失败率达到一定的阈值时,服务熔断器会自动打开,将后续请求快速失败返回,而不是一直等待服务超时。当服务熔断器处于打开状态时,一部分请求会快速失败返回,而另一部分请求则会被拦截,从而避免服务雪崩的发生。

服务降级

所谓降级,就是当某个服务熔断之后,服务将不再被调用,此时客户端可以自己准备一个本地的fallback(回退)回调, 返回一个缺省值。 例如:(备用接口/缓存/mock数据) 。这样做,虽然服务水平下降,但好歹可用,比直接挂掉要强,当 然这也要看适合的业务场景。服务降级是通过削减服务的负载或者降低服务的质量来保证系统的稳定性。

sentinel简介

Sentinel是一个轻量级的开源框架,它提供了实时监控、流量控制、熔断降级等功能,可以在微服务架构中用于保护服务的稳定性和可靠性。在Spring Cloud中,可以通过集成Sentinel来提供服务治理和容错的能力。
在这里插入图片描述

官方网站:https://sentinelguard.io/zh-cn/docs/quick-start.html
功能包括如下:
1.流量控制:通过限流的方式来控制服务的请求量,防止系统超负荷而导致的故障和错误。
2.熔断降级:当服务出现故障或异常时,可以通过熔断机制来控制请求量,保护服务的可用性和稳定性。
3.实时监控:可以通过Dashboard界面来实时监控服务的运行情况,包括流量、响应时间、异常等信息。
4.异常处理:可以通过定义规则来处理各种异常情况,例如超时、限流、熔断等,提高服务的容错能力。
5.集成Spring Cloud:Sentinel可以和Spring Cloud的组件集成,也可以是由springboot集成,例如Eureka、Ribbon、Feign等,方便在微服务架构中使用。

Sentinel初体验-通过API实现

Sentinel 可以简单的分为 Sentinel 核心库和 Dashboard。核心库不依赖 Dashboard,但是结合 Dashboard 可以取得最好的效果。
首先使用核心库的方式。

流量控制规则 (FlowRule)

导入依赖

引入sentinel的核心库依赖

<!-- 整合sentinel-核心库,支持分布式系统,并不一定需要微服务,因此可以不添加springcloud -->
<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-core</artifactId>
    <version>1.8.6</version>
</dependency>

定义资源和流控规则

根据sentinel官方文档说的来,需要先定义资源,定义规则,接着校验规则是否生效的步骤。
定义资源:
资源 是 Sentinel 中的核心概念之一。在本次demo,定义一个资源名称为:RESOURCE_NAME = “test”,我们需要把需要控制流量的代码用Sentinel API SphU.entry("HelloWorld")entry.exit() 包围起来即可。通过SphU.entry(RESOURCE_NAME)来指定流量控制的资源。

Entry entry = null;
    try {
        // sentinel对指定的资源进行流控
        entry = SphU.entry(RESOURCE_NAME); // 配置流控规则
        // 业务...
        log.info(">>>执行正常业务流程>>>");
        return "执行业务";
    } catch (BlockException be) {
        // 阻止资源访问,被限流或者降级
        log.info("block");
        return "流量控制";
    } catch (Exception ex) {
        // 若需要配置降级规则,需要通过这种方式记录业务异常
        Tracer.traceEntry(ex, entry);
    } finally {
        if (entry != null) {
            entry.exit();
        }
    }
    return null;

定义规则:
通过initFlowRules方法来定义规则,因为流控规则可以有多个,因此使用一个流控集合,FlowRule就是流控规则。可以设置需要控制的资源以及流控规则(本次设置的是QPS),定义完规则之后,在通过FlowRuleManager.loadRules方法加载规则。
从官网中可以知道流量控制规则可以设置的参数如下:
在这里插入图片描述

/**
 * 定义规则
 */
@PostConstruct
private static void initFlowRules() {
    // 设置流控规则 流控规则可以多个
    List<FlowRule> rules = new ArrayList<>();
    // 流控规则
    FlowRule rule = new FlowRule();
    // 设置流控资源
    rule.setResource(RESOURCE_NAME);
    // 设置流控规则 - QPS
    rule.setGrade(RuleConstant.FLOW_GRADE_QPS);
    // 设置阈值
    rule.setCount(1);
    rules.add(rule);
    // 加载配置的规则
    FlowRuleManager.loadRules(rules);
}

运行几次之后,可以看到被限流了
在这里插入图片描述

*通过注解优化使用流量控制

由以上例子可以看得出使用Sentinel API SphU.entry("HelloWorld") entry.exit() 包围起来写起来非常麻烦,在实际开发中,用这样写是相当麻烦的。好在sentinel中提供了注解的方式来进行流量控制的使用。

添加依赖

需要添加sentinel-annotation-aspectj的pom依赖

<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-annotation-aspectj</artifactId>
    <version>1.8.6</version>
</dependency>

配置SentinelResourceAspect的Bean

为了方便使用,就在启动类中配置SentinelResourceAspect

@Bean
public SentinelResourceAspect sentinelResourceAspect() {
    return new SentinelResourceAspect();
}

配置资源与规则

前一个demo是通过SphU.entry来配置资源,而现在就只需要添加在注解的value属性上。通过blockHandler设置流控降级的处理方法,需要注意的是注解方式埋点不支持 private 方法,blockHandler指定的方法需要在当前类中来定义,如果在其他类,就需要额外参数**blockHandlerClass = “”**来指明类的地址。这里还有个fallback属性,这是用来指定接口异常执行的方法。

@SentinelResource属性如下

  • value:资源名称,必需项(不能为空)
  • entryType:entry 类型,可选项(默认为 EntryType.OUT)
  • blockHandler/blockHandlerClass :blockHandler 对应处理 BlockException 的函数名称,需要用public修饰,并且参数和返回类型要与原函数相同,需要在同个类中;如果不在同个类,就需要使用blockHandlerClass属性,为对应的类的 Class 对象,注意对应的函数必需为 static 函数
  • fallback/ fallbackClass:fallback 函数名称,可选项,用于在抛出异常的时候提供 fallback 处理逻辑。函数的相关条件与blockHandler一样。
  • defaultFallback:默认的 fallback 函数名称。
  • exceptionsToIgnore:用于指定哪些异常被排除掉,不会计入异常统计中,也不会进入 fallback 逻辑中,而是会原样抛出。

以下代码就是在test2接口中通过添加**@SentinelResource注解进行流量控制。
*** blockHandler 函数会在原方法被限流/降级/系统保护的时候调用,而 fallback 函数会针对所有类型的异常。

/**
 * @SentinelResource: 改善接口中资源定义以及流量降级的处理方法
 * value: 资源名称
 * blockHandler: 流量降级的处理方法(默认处理方法要在同类中)
 *              如果不在同个类,就需要额外参数blockHandlerClass = "",来指明类的地址, 并需要用静态方法
 * fallback: 用来指定接口异常执行的方法
 * @return
 */
@GetMapping("/test2")
(value = RESOURCE_NAME2, blockHandler = "blockHandlerTs")
public String test2(String id) {
    log.info("<<<测试2<<<" + id);
    return "正常返回";
}

设置流量降级方法的时候,对于参数以及返回类型,都要与控制类相同。

/**
 * 一定是public, 返回的类型/与参数要与接口的类型相同
 * @param id
 * @param ex
 * @return
 */
public String blockHandlerTs(String id, BlockException ex) {
    ex.printStackTrace();
    return "流量控制";
}

接下来就可看看执行的结果,疯狂请求几次。。。

熔断降级规则 (DegradeRule)

对于熔断降级规则 (DegradeRule)配置如下
在这里插入图片描述

定义熔断降级规则

同一个资源可以同时有多个降级规则。通过**degradeRule.setGrade(RuleConstant.DEGRADE_GRADE_EXCEPTION_COUNT);**设置熔断策略,它是基于异常数量的熔断降级策略,当系统中某个资源的异常数超过设定的阈值后,触发降级策略,进入熔断状态。接着通过 **degradeRule.setStatIntervalMs(60*1000);**设置统计时长1分钟,单位是毫秒,**degradeRule.setTimeWindow(10);**这个是将统计时间窗口设置为60秒,表示每隔60秒对该资源的运行状况进行一次统计和计算。这表示一分钟出现两次异常就会熔断降级。10秒过去之后就会变成:半开状态,恢复请求调用,在十秒过后,如果再一次请求异常,就会再次熔断,不会根据设置的条件进行判断。

/**
 * 熔断降级规则
 */
@PostConstruct
private static void initDegradeRules() {
    // 降级规则
    List<DegradeRule> degradeRules = new ArrayList<>();
    DegradeRule degradeRule = new DegradeRule();
    // 设置资源
    degradeRule.setResource(DEGRADE_NAME);
    // 设置熔断策略
    degradeRule.setGrade(RuleConstant.DEGRADE_GRADE_EXCEPTION_COUNT);
    // 统计时长:单位:ms,这里设置1分钟
    degradeRule.setStatIntervalMs(60*1000);
    // 一分钟执行两次,出现两次异常就会熔断降级

    // 熔断持续时长:单位:秒
    // 一旦触发熔断,再次请求对应接口就会调用降级方法
    // 10秒过去之后就会变成:半开状态,恢复请求调用,如果第一次请求异常,再次熔断,不会根据设置的条件进行判断
    degradeRule.setTimeWindow(10);
    degradeRules.add(degradeRule);
    DegradeRuleManager.loadRules(degradeRules);
}

使用sentinel-dashboard

到官网下载jar包 https://github.com/alibaba/Sentinel/releases
用命令窗口运行jar包

java -Dserver.port=1111 -Dcsp.sentinel.dashboard.server=localhost:1111 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar

启动访问http://localhost:1111/ 就能看到登录界面,账号密码都是sentinel
在这里插入图片描述
在springcloud项目中的yml添加配置,需要配置服务名以及sentinel-dashboard的地址

server:
  port: 8122
spring:
  application:
    name: order-sentinel
  cloud:
    sentinel:
      transport:
        dashboard: 127.0.0.1:1111

启动项目,访问一个接口,就可以在sentinel控制台看到服务了
在这里插入图片描述

总结

sentinel能够很好的对接口请求进行请求控制,能够在一定程度防止服务挂掉,并且不一定是需要依赖spring-cloud。能够通过api的方式以及可视化控制台进行流控、降级管理。

👍创作不易,可能有些语言不是很通畅,如有错误请指正,感谢观看!记得点赞哦!👍

虽然在学习之前,有看过几篇博客,当时是为了启动若依的微服务项目,并不是真正会用sentinel,以上介绍如有错误,请各位大佬评论区指出!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/448597.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

代码优化- 中间表示上的优化

中间表示上的代码优化依赖于具体所使用的中间表示&#xff1a;控制流图&#xff08;CFG&#xff09;、控制依赖图&#xff08;CDG&#xff09;、静态单赋值形式&#xff08;SSA&#xff09;、后续传递风格&#xff08;CPS&#xff09;等 共同的特点是需要进行程序分析&#xf…

7 ADC(一)

7 ADC ADC简介 ADC&#xff08;Analog-Digital Converter&#xff09;模拟-数字转换器 ADC可以将引脚上连续变化的模拟电压转换为内存中存储的数字变量&#xff0c;建立模拟电路到数字电路的桥梁 12位&#xff08;0-2^(12-1)&#xff09;逐次逼近型ADC&#xff0c;1us转换时间…

HTTP连接要考虑超时,重试和并发之原因

一、原因&#xff08;why) 连接超时配置得特别长&#xff0c;比如 60 秒。一般来说&#xff0c;TCP 三次握手建立连接需要的时间非常短&#xff0c;通常在毫秒级最多到秒级&#xff0c;不可能需要十几秒甚至几十秒。如果很久都无法建连&#xff0c;很可能是网络或防火墙配置的…

光纤网卡传输速率和它的应用领域有哪些呢?通常用会到有哪些型号网络变压器呢?

Hqst盈盛&#xff08;华强盛&#xff09;电子导读&#xff1a;常有客户问起光纤网卡该如何选用到合适的产品&#xff0c;选用时要注意到哪些事项&#xff0c;这节将结合配合到的网络变压器和大家一起探讨&#xff0c;希望对大家有些帮助。 1&#xff0e;光纤网卡传输速率与网络…

AlgoC++第三课:C++世界观

目录 C世界观前言1. 程序逻辑2. 内存的逻辑3. 调度的逻辑4. 编译的逻辑5. 作用域的逻辑6. 命名空间的逻辑7. 生命周期的逻辑8. C类的逻辑9. 编译时和运行时的逻辑总结 C世界观 前言 手写AI推出的全新面向AI算法的C课程 Algo C&#xff0c;链接。记录下个人学习笔记&#xff0c…

如何查看CPU的L2、L3缓存的容量

可以用CPU-Z&#xff0c;不过需要下载。 可以用命令&#xff1a; wmic cpu get L2CacheSize,L3CacheSize结果&#xff1a;

Golang微服务一把嗦 用户微服务集成主流最新go技术栈

声明&#xff1a;此文章为博主个人学习记录&#xff0c;仅供学习和交流&#xff0c;如有侵权请联系博主。 前言 前段时间&#xff0c;因为本地k8s环境一直出问题&#xff0c;线上云环境也用不起&#xff0c;&#xff08;后面搞定了再慢慢学习&#xff09;所以就暂时搁置了k8s学…

SQL Server基础 第二章 表结构管理

目录 一、数据类型 1&#xff0c;字符类数据类型 2&#xff0c;数值型数据类型 3&#xff0c;日期/时间型数据类型 二、主键&#xff08;Primary key&#xff09; 三、默认值 四、唯一键&#xff08;Unique&#xff09; 五、自增标识 六、约束 七、外键 一、数据类型 …

node+vue+mysql+java健身房网站管理系统

通过大数据管理的方法对健身房管理系统进行了详细的设计说明以及介绍&#xff0c;对健身房管理系统进行了开发和实践。作为一个健身房网站&#xff0c;它为用户提供了一个良好的求知平台。让用户能更好地了解健身带来的好处。前端技术&#xff1a;nodejsvueelementui,视图层其实…

3D智能四向穿梭车在电商物流中的应用|HEGERLS箱式四向穿梭车系统在服装制造仓的创新应用

四向穿梭车技术是物流仓储系统中的革命性技术&#xff0c;也由于四向穿梭车对于场地的适应性非常强的特性&#xff0c;可实现前后、左右、上下六维运行&#xff0c;结合提升机的布置和输送系统的布局&#xff0c;灵活调整四向车的空间布局&#xff0c;使某些不规则场地和闲置空…

NXP公司LPC21xx+热敏电阻实现温度检测

LPC2131/32/34/36/38微控制器基于16位/32位Arm7TDMI-S™CPU&#xff0c;支持实时仿真和嵌入式跟踪&#xff0c;具有尺寸小&#xff0c;功耗低&#xff0c;多个32位定时器、单/双10位8通道ADC、10位DAC、PWM通道、47个GPIO线&#xff08;它们拥有多达9个边沿或电平触发的外部中断…

SpringCloud 项目如何方便 maven 打包以及本地开发

一、背景 springcloud-alibaba &#xff0c;使用 nacos 做配置中心&#xff0c;maven 作为构建工具。为了防止 test 、prod 环境配置文件覆盖问题&#xff0c;使用 mvn -P 命令。 二、项目 pom 文件 1. 利用 resources 标签来指定目录&#xff0c;build > resources 标签&a…

【轴承故障检测】滚动轴承中进行基于振动的故障诊断研究(Matlab代码实现)

&#x1f4a5;&#x1f4a5;&#x1f49e;&#x1f49e;欢迎来到本博客❤️❤️&#x1f4a5;&#x1f4a5; &#x1f3c6;博主优势&#xff1a;&#x1f31e;&#x1f31e;&#x1f31e;博客内容尽量做到思维缜密&#xff0c;逻辑清晰&#xff0c;为了方便读者。 ⛳️座右铭&a…

110.【十万字带你深入学习23种设计模式】

Java 23种设计模式 (一)、设计模式相关内容介绍1.软件设计模式概述(1).软件设计模式的产生背景(2).软件设计模式的概念(3).学习设计模式的重要性(4).设计模式分类 2.UML图(1).类图概述(2).类图的作用(3).类图表示法 3.软件设计原则(1).开闭原则 (重写不修改)(2).里氏代换原则 (…

Node内置模块 【https模块】

文章目录 &#x1f31f;前言&#x1f31f;https模块&#x1f31f;https原理&#x1f31f;SSL&#x1f31f;使用https&#x1f31f;搭建HTTPS服务器&#x1f31f;写在最后 &#x1f31f;前言 哈喽小伙伴们&#xff0c;新的专栏 Node 已开启&#xff1b;这个专栏里边会收录一些N…

不得不说的结构型模式-组合模式

组合模式是一种结构型设计模式&#xff0c;它允许您将对象组合成树形结构&#xff0c;并以统一的方式处理它们。该模式基于递归组合的想法&#xff0c;其中一个组件可以由许多更小的组件组成&#xff0c;这些更小的组件可以由更小的组件组成&#xff0c;以此类推。 在组合模式中…

Latex安装与简介

文章目录 Latex一.步入Latex的两种方式:1.下载安装与Vscode集成2.在线的编辑器: overleaf 二.解决中文输入的问题三.简单介绍 Latex 一.步入Latex的两种方式: 1.下载安装与Vscode集成 texlive下载与安装参考: https://blog.csdn.net/weixin_47581344/article/details/1243560…

Midjourney 提示词工具(10 个国内外最好最推荐的)

Midjourney&#xff0c;是一个革命性的基于人工智能的艺术生成器&#xff0c;可以从被称为提示的简单文本描述中生成令人惊叹的图像。Midjourney已经迅速成为艺术家、设计师和营销人员的首选工具&#xff08;包括像我这样根本不会设计任何东西的无能之辈&#xff09;。 为了帮…

前端优化的分析

前端优化的分析 目录概述需求&#xff1a; 设计思路实现思路分析渲染层性能更好的API 参考资料和推荐阅读 Survive by day and develop by night. talk for import biz , show your perfect code,full busy&#xff0c;skip hardness,make a better result,wait for change,cha…

强化学习技巧

此软件包处于维护模式&#xff0c;请使用Stable-Baselines3 (SB3)获取最新版本。您可以在 SB3 文档中找到迁移指南。 本节的目的是帮助您进行强化学习实验。它涵盖了有关 RL 的一般建议&#xff08;从哪里开始、选择哪种算法、如何评估算法等&#xff09;&#xff0c;以及使用自…