1、流控效果
流控效果是指请求达到流控阈值时应该采取的措施,包括三种:
快速失败:达到阈值后,新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
warm up:预热模式,对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化,从一个较小值逐渐增加到最大阈值。
排队等待:让所有的请求按照先后次序排队执行,两个请求的间隔不能小于指定时长
1.1流控效果-warm up
warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor,持续指定时长后,逐渐提高到threshold值。而coldFactor的默认值是3.
例如,我设置QPS的threshold为10,预热时间为5秒,那么初始阈值就是 10 / 3 ,也就是3,然后在5秒后逐渐增长到10
需求:给/order/getInfo 这个资源设置限流,最大QPS为10,利用warm up效果,预热时长为5秒。
预热模式
1.2流控效果-排队等待
当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。
在某一时刻,服务很忙,而其他时刻,服务很闲。
例如:QPS = 5,意味着每200ms处理一个队列中的请求;timeout = 2000,意味着预期等待超过2000ms的请求会被拒绝并抛出异常。
需求:给/order/{orderId}这个资源设置限流,最大QPS为10,利用排队的流控效果,超时时长设置为5s
一开始超出阈值,会在队列里,排队等待
总结
流控效果有哪些?
快速失败:QPS超过阈值时,拒绝新的请求
warm up: QPS超过阈值时,拒绝新的请求;QPS阈值是逐渐提升的,可以避免冷启动时高并发导致服务宕机。
排队等待:请求会进入队列,按照阈值允许的时间间隔依次执行请求;如果请求预期等待时长大于超时时间,直接拒绝
2、热点参数限流
之前的限流是统计访问某个资源的所有请求,判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求,判断是否超过QPS阈值。
代表的含义是:对hot这个资源的0号参数(第一个参数)做统计,每1秒相同参数值的请求数不能超过5个。
在热点参数限流的高级选项中,可以对部分参数设置例外配置:
结合上一个配置,这里的含义是对0号的long类型参数限流,每1秒相同参数的QPS不能超过5,有两个例外:
如果参数值是100,则每1秒允许的QPS为10
如果参数值是101,则每1秒允许的QPS为15
需求:给/order/{orderId}这个资源添加热点参数限流,规则如下:
• 默认的热点参数规则是每 1 秒请求量不超过 2• 给 102 这个参数设置例外:每 1 秒请求量不超过 4给103这个参数设置例外:每1秒请求量不超过10
controller中的接口默认无效,使用SentinelResouce注解的资源有效
@GetMapping("{id}")
@SentinelResource("hot")
public String hello(@PathVariable Integer id){
return "hello====="+id;
}
3、隔离和降级
虽然限流可以尽量避免因高并发而引起的服务故障,但服务还会因为其它原因而故障。而要将这些故障控制在一定范围,避免雪崩,就要靠线程隔离(舱壁模式)和熔断降级手段了。
不管是线程隔离还是熔断降级,都是对客户端(调用方)的保护。
3.1Feign整合Sentinel
SpringCloud中,微服务调用都是通过Feign来实现的,因此做客户端保护必须整合Feign和Sentinel。
3.2 开启Feign的Sentinel功能
开启feign整合sentinel功能
#开启feign整合sentinel的功能
feign.sentinel.enabled=true
3.3 ProductFeignFactory
创建feign接口的降级类 兜底类
package com.aaa.order.feign.factory;
import com.aaa.order.feign.ProductFeign;
import com.aaa.pojo.Product;
import feign.hystrix.FallbackFactory;
/**
* @program: parent
* @author: Jmy
* @create: 2023-05-18 21:55
* 兜底方法 熔断降级
**/
@Component
public class ProductFeignFactory implements FallbackFactory<ProductFeign> {
@Override
public ProductFeign create(Throwable throwable) {
//匿名实现类
return new ProductFeign() {
@Override
public Product getById(Integer pid) {
Product product = new Product();
product.setPid(-1);
product.setPname("商品服务出现故障");
return product;
}
};
}
}
在@FeignClient(fallbackFactory = ProductFeignFactory.class)
package com.aaa.order.feign;
import com.aaa.order.feign.factory.ProductFeignFactory;
import com.aaa.pojo.Product;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
/**
* @program: parent
* @author: Jmy
* @create: 2023-05-14 14:18
**/
//@FeignClient(value="服务提供者的名字")
@FeignClient(value = "qy163-product",fallbackFactory = ProductFeignFactory.class)
public interface ProductFeign {
//抽象方法一定要和服务提供者的接口方法一模一样
@GetMapping("/product/getById/{pid}")
public Product getById(@PathVariable Integer pid);
}
有异常,降级处理
给productController加一个异常,重启服务
浏览器访问
4、熔断降级
熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例,如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求;而当服务恢复时,断路器会放行访问该服务的请求。
4.1熔断策略-慢调用
断路器熔断策略有三种:慢调用、异常比例、异常数
慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。例如:
解读:RT超过500ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
4.2熔断策略-慢调用
需求:给 ProductFeign的查询商品接口设置降级规则,慢调用的RT阈值为50ms,统计时间为1秒,最小请求数量为5,失败阈值比例为0.4,熔断时长为5
提示:为了触发慢调用规则,我们需要修改UserService中的业务,增加业务耗时:
浏览器访问
10秒后断路器进入半开状态,打开一个实验
在这期间访问其他id也会降级处理
5、push到配置中心nacos
sentinel 的持久化,我们希望这样:
可以在 sentinel 控制台中编辑 限流配置,并且同步到 nacos 做持久化
在 nacos 中修改了限流配置,也可以同步到 sentinel 控制台
要实现上述第一个功能需要对 sentinel 控制台的源码有所了解,并加依改造。
但 GitHub 上已经有人改造好了,做了个加强版 控制台。
https://github.com/CHENZHENNAME/sentinel-dashboard-nacos
打开上述网址 下载到本地
5.1sentinel持久化的安装
(1)解压
(2)打开根目录下的 pom.xml ,修改 sentinel 的版本
ctrl+s保存
(3)进入项目根目录,cmd,执行命令
mvn clean package
打包后生产在target目录下
(4)执行命令,启动控制台:
java -Dserver.port=8070 -Dnacos.serverAddr=localhost:8848 -jar sentinel-dashboard.jar # -Dserver.port 控制台端口号 # -Dnacos.serverAddr: nacos 地址 # -Dnacos.namespace: 你项目所在的 nacos 命名空间 如果命名空间就是public可以省略该参数
放在sentinel界面
谷歌浏览器出不来,换成了edge浏览器
5.2微服务客户端接入sentinel控制面板
(1)依赖
<dependency>
<groupId>com.alibaba.csp</groupId>
<artifactId>sentinel-datasource-nacos</artifactId>
<version>1.8.1</version>
</dependency>
(2)修改配置文件
spring.cloud.sentinel.transport.dashboard=localhost:8070
spring.cloud.sentinel.datasource.ds1-flow.nacos.server-addr=localhost:8848
spring.cloud.sentinel.datasource.ds1-flow.nacos.data-id=${spring.application.name}-flow-rules
# 还可以是 degrade authority param-flow
spring.cloud.sentinel.datasource.ds1-flow.nacos.rule-type=flow
spring.cloud.sentinel.datasource.ds1-flow.nacos.data-type=json
spring.cloud.sentinel.datasource.ds1-flow.nacos.group-id=SENTINEL_GROUP
(3)启动微服务
浏览器访问 http://localhost:8090/order/getInfo 最开始什么都没有,然后访问你自己的项目的任意一个要限流的接口,则 左侧会出现对于的 服务名称
点击 簇点链路,新增 一个流控规则:
当你在 sentinel 控制台中,无论增加规则,还是修改规则,都会同步到 nacos;相反,修改 nacos 中 配置文件的限流规则,也会同步到 sentinel 。