一、高并发带来的问题

服务雪崩效应

二、常见容错方案

（一）隔离

（二）超时

（三）限流

（四）熔断

（五）降级

三、常见的容错组件

四、Sentinel概述

（一）Sentinel 特征:

（二）两个重要概念

五、安装Sentinel控制台

1、下载jar包,上传到服务器

2、编写启动脚本（根据官网启动命令）

六、Sentinel规则

（一）流量控制规则

1、QPS流控

2、并发线程数

（二）隔离与降级

1、Feign整合Sentinel

2、线程隔离

（三）熔断降级规则

1.慢调用比例 (SLOW_REQUEST_RATIO)：

2.异常比例 (ERROR_RATIO)：

3.异常数 (ERROR_COUNT)：

（四）热点规则

七、Sentinel规则持久化

一、概念

二、如何持久化？

1.添加 pom 依赖

2.修改 yml 配置文件，添加 Nacos 数据源配置

3.Nacos 配置管理

三、yml 配置详解（与 Ncaos 整合）

四、json 参数详解

1、流控规则

2、降级规则

3、热点规则

4、系统规则

5、授权规则

五、持久化过程中碰到的错误

一、高并发带来的问题

在微服务架构中，我们将业务拆分成一个个的服务，服务与服务之间可以相互调用，但是由于网络原因或者自身的原因，服务并不能保证服务的100%可用，如果单个服务出现问题，调用这个服务就会出现网络延迟，此时若有大量的网络涌入，会形成任务堆积，最终导致服务瘫痪。

服务雪崩效应

在分布式系统中,由于网络原因或自身的原因,服务一般无法保证 100% 可用。如果一个服务出现了问题，调用这个服务就会出现线程阻塞的情况，此时若有大量的请求涌入，就会出现多条线程阻塞等待，进而导致服务瘫痪。由于服务与服务之间的依赖性，故障会传播，会对整个微服务系统造成灾难性的严重后果，这就是服务故障的 “雪崩效应” 。

二、常见容错方案

要防止雪崩的扩散，我们就要做好服务的容错，容错说白了就是保护自己不被猪队友拖垮的一些措施, 下面介绍常见的服务容错思路和组件。常见的容错思路：常见的容错思路有隔离、超时、限流、熔断、降级这几种，下面分别介绍一下。

（一）隔离

它是指将系统按照一定的原则划分为若干个服务模块，各个模块之间相对独立，无强依赖。当有故障发生时，能将问题和影响隔离在某个模块内部，而不扩散风险，不波及其它模块，不影响整体的系统服务。常见的隔离方式有：线程池隔离和信号量隔离．

（二）超时

在上游服务调用下游服务的时候，设置一个最大响应时间，如果超过这个时间，下游未作出反应，就断开请求，释放掉线程。

（三）限流

限流就是限制系统的输入和输出流量已达到保护系统的目的。为了保证系统的稳固运行,一旦达到的需要限制的阈值,就需要限制流量并采取少量措施以完成限制流量的目的。

（四）熔断

在互联网系统中，当下游服务因访问压力过大而响应变慢或失败，上游服务为了保护系统整体的可用性，可以暂时切断对下游服务的调用。这种牺牲局部，保全整体的措施就叫做熔断。

服务熔断一般有三种状态：

熔断关闭状态（Closed）：服务没有故障时，熔断器所处的状态，对调用方的调用不做任何限制

熔断开启状态（Open）：后续对该服务接口的调用不再经过网络，直接执行本地的fallback方法

半熔断状态（Half-Open）：尝试恢复服务调用，允许有限的流量调用该服务，并监控调用成功率。如果成功率达到预期，则说明服务已恢复，进入熔断关闭状态；如果成功率仍旧很低，则重新进入熔断关闭状态。

（五）降级

降级其实就是为服务提供一个托底方案，一旦服务无法正常调用，就使用托底方案。

三、常见的容错组件

Hystrix

Hystrix是由Netflix开源的一个延迟和容错库，用于隔离访问远程系统、服务或者第三方库，防止级联失败，从而提升系统的可用性与容错性。

Resilience4J

Resilicence4J一款非常轻量、简单，并且文档非常清晰、丰富的熔断工具，这也是Hystrix官方推荐的替代产品。不仅如此，Resilicence4j还原生支持Spring Boot 1.x/2.x，而且监控也支持和 prometheus等多款主流产品进行整合。

Sentinel

Sentinel 是阿里巴巴开源的一款断路器实现，本身在阿里内部已经被大规模采用，非常稳定。

四、Sentinel概述

Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点, 从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。

Sentinel 分为两个部分:

核心库（Java 客户端）不依赖任何框架/库,能够运行于所有 Java 运行时环境，同时对 Dubbo / Spring Cloud 等框架也有较好的支持。

控制台（Dashboard）基于 Spring Boot 开发，打包后可以直接运行，不需要额外的 Tomcat 等应用容器

（一）Sentinel 特征:

丰富的应用场景、完备的实时监控、广泛的开源生态、完善的 SPI 扩展点

（二）两个重要概念

1、资源资源就是Sentinel要保护的东西；资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容，可以是一个服务，也可以是一个方法，甚至可以是一段代码。

2、规则规则就是用来定义如何进行保护资源的作用在资源之上, 定义以什么样的方式保护资源，主要包括流量控制规则、熔断降级规则以及系统保护规则。

五、安装Sentinel控制台

1、下载jar包,上传到服务器

您可以从 release 页面下载您需要的班版本的控制台 jar 包。

2、编写启动脚本（根据官网启动命令）

将jar包上传至服务器，并在同一目录下创建启动脚本start.sh,内容如下：

创建start.sh

[root@localhost sentinel]# touch start.sh

编辑start.sh文件（使用命令或者使用Xtfp软件进行编辑）

[root@localhost sentinel]# vim start.sh

将下面内容复制到文件中，如若8081端口冲突，可使用 -Dserver.port=新端口进行设置。

rm -rf /sentinel/sentinel.log
nohup java -Dserver.port=8081 -Dcsp.sentinel.dashboard.server=localhost:8081 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.8.6.jar > /sentinel/sentinel.log 2>&1 &

给予权限

[root@localhost sentinel]# chmod 777 start.sh

启动sentinel控制台
```
[root@localhost sentinel]# ./start.sh
```
访问控制台：192.168.XXX.XXX:8081 （Linux系统IP地址，可使用 ip a 命令查看）进行访问

username:sentinel password:sentinel

六、Sentinel规则

（一）流量控制规则

流量控制，其原理是监控应用流量的QPS(每秒查询率) 或并发线程数等指标，当达到指定的阈值时对流量进行控制，以避免被瞬时的流量高峰冲垮，从而保障应用的高可用性。

项目中引入jar包

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

1、QPS流控

（1）yml文件配置

spring:
  cloud:
    sentinel: # 服务容错
      transport:
        dashboard: 192.168.177.129:8081
        port: 8719

（2）定义资源

@RestController
@RefreshScope // 在需要动态读取配置的类上添加此注解就可以（动态配置刷新）
@RequestMapping("/user")
public class UserController {    
    @RequestMapping("/get1")
    @SentinelResource(value = "/resource/user/get1", blockHandler = "blockHandlerForGet1")
    public Integer get1(){
        return 111111;
    }

    public Integer blockHandlerForGet1(BlockException ex) {
        return 999999;
    }
}

（3）启动项目，发送请求（http://localhost:端口号/user/get1）

（4）定义限流规则点击簇点链路，我们就可以看到访问过的接口地址，然后点击对应的(@SentinelResource注解的value的值)流控按钮，进入流控规则配置页面。新增流控规则界面如下:

资源名：唯一名称，默认是请求路径，可自定义
针对来源：指定对哪个微服务进行限流，默认指default，意思是不区分来源，全部限制阈值类型/单机阈值：

QPS（每秒请求数量）: 当调用该接口的QPS达到阈值的时候，进行限流。线程数：当调用该接口的线程数达到阈值的时候，进行限流。
是否集群：暂不需要集群

（5）效果

再快速通过网页发送多次请求，会发现每秒只有两次是get1结果，其余超出的都是blockHandlerForGet1的结果。

2、并发线程数

Sentinel并发控制是指使用Sentinel来限制接口的最大并发访问量。Sentinel并发控制不负责创建和管理线程池，而是简单统计当前请求上下文的线程数且（正在执行的调用数目），如果超出阈值，新的请求会被立即拒绝，效果类似于信号量隔离。并发数控制通常在调用端进行配置。

（1）定义资源

@RequestMapping("/get1")
@SentinelResource(value = "/resource/user/get1", blockHandler = "blockHandlerForGet1")
public Integer get1(){
    try {
        Thread.sleep(5000);
    } catch (Exception e) {
        throw new RuntimeException(e);
    }
    return 666666;
}
//   blockHandler 函数会在原方法被限流/降级/系统保护的时候调用
public Integer blockHandlerForGet1(BlockException ex){
    return 999999;
}

（2）定义限流规则

（3）测试

使用Postman进行测试，建立多个请求，都发送请求进行测试。

3、流控模式

sentinel共有三种流控模式，分别是：

直接（默认）：接口达到限流条件时，开启限流
关联：当关联的资源达到限流条件时，开启限流 [适合做应用让步]
链路：当从某个接口过来的资源达到限流条件时，开启限流

4、流控效果

在Sentinel中,当流控规则生效时,会对超出阈值的请求进行限流处理。常见的限流策略有:

直接拒绝:直接拒绝超出阈值的请求,返回限流提示。
慢启动(Warm Up):它从开始阈值到最大QPS阈值会有一个缓冲阶段，一开始的阈值是最大QPS阈值的1/3，然后慢慢增长，直到最大阈值，适用于将突然增大的流量转换为缓步增长的场景。

举个例子，阀值为10，预热时长设置5秒。系统初始化的阀值为10 / 3约等于3，即阀值刚开始为3，然后过了 5秒后阀值才慢慢升高恢复到10。
排队等待:超出阈值的请求会加入等待队列,当阈值允许时依次放行,如果等待超时则拒绝。

（二）隔离与降级

现代微服务架构都是分布式的，由非常多的服务组成。不同服务之间相互调用，组成复杂的调用链路。以上的问题在链路调用中会产生放大的效果。复杂链路上的某一环不稳定，就可能会层层级联，最终导致整个链路都不可用。因此我们需要对不稳定的弱依赖服务调用进行熔断降级，暂时切断不稳定调用，避免局部不稳定因素导致整体的雪崩。熔断降级作为保护自身的手段，通常在客户端（调用端）进行配置。

1、Feign整合Sentinel

修改application.yml开启Feign的Sentinel功能
```
feign:
  sentinel:
    enabled: true
```

创建feign远程调用接口

@FeignClient(value = "order-server",path = "/order")
public interface OrderFeign {
    
    @GetMapping("/get1")
    Integer get1();
}

给feignClient编写失败后的降级逻辑方式一：FallbackClass 无法对远程调用的异常做处理方式二：FallbackFactory 可以对远程调用的异常做处理

public class UserClientFallbackFactory implements FallbackFactory<OrderFeign> {
    @Override
    public OrderFeign create(Throwable cause) {
        return new OrderFeign() {
            @Override
            public Integer get1() {
                return 123456;
            }
        };
    }
}

将降级工程注册为一个Bean

@Configuration
public class SentinelConfig {
    @Bean
    public UserClientFallbackFactory userClientFallbackFactory(){
        return new UserClientFallbackFactory();
    }
}

给feign远程调用接口指定降级工厂

@FeignClient(value = "order-server",path = "/order",fallbackFactory = UserClientFallbackFactory.class)
public interface OrderFeign {

    @GetMapping("/get1")
    Integer get1();
}

2、线程隔离

线程隔离有两种实现方式：

线程池隔离
信号量隔离（Sentinel默认采用）

（三）熔断降级规则

熔断策略：

1.慢调用比例 (SLOW_REQUEST_RATIO)：

选择以慢调用比例作为阈值，需要设置允许的慢调用 RT（即最大的响应时间），请求的响应时间大于该值则统计为慢调用。当单位统计时长（statIntervalMs）内请求数目大于设置的最小请求数目，并且慢调用的比例大于阈值，则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态（HALF-OPEN 状态），若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断，若大于设置的慢调用 RT 则会再次被熔断。

解读：如果在统计时长10秒内，发送的请求超过10个，并且其中百分之50（比例阈值）的请求时间超过了500ms（最大RT），则触发熔断，熔断时长为5s，在5s时间之内所有请求都将无法访问，等进入half-open状态，放行一次请求进行测试。

2.异常比例 (ERROR_RATIO)：

当单位统计时长（statIntervalMs）内请求数目大于设置的最小请求数目，并且异常的比例大于阈值，则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态（HALF-OPEN 状态），若接下来的一个请求成功完成（没有错误）则结束熔断，否则会再次被熔断。异常比率的阈值范围是 [0.0, 1.0]，代表 0% - 100%。

3.异常数 (ERROR_COUNT)：

当单位统计时长内的异常数目超过阈值之后会自动进行熔断。经过熔断时长后熔断器会进入探测恢复状态（HALF-OPEN 状态），若接下来的一个请求成功完成（没有错误）则结束熔断，否则会再次被熔断。注意由于统计时间窗口是分钟级别的，若时间窗口小于 60s，则结束熔断状态后仍可能再进入熔断状态。