微服务为什么要使用流控降级组件
- 为了提高系统运行期间的稳定性和可用性
- 在微服务环境下,服务之间存在复杂的调用关系,单个服务的故障或过载可能会迅速影响到整个系统,导致服务雪崩效应。流控组件可以限制进入系统的流量,防止系统因超出处理能力而崩溃。降级组件则在不可用或响应过慢时,提供降级逻辑,如返回备用数据或执行降级操作,以保证核心业务的正常运行。
- 需求:对下单接口进行流控
-
sentinel是什么?
Sentinel是面向分布式、多语言异构服务架构的流量治理组件,主要以流量为切入点,从流量路由、流量控制、流量整形、熔断降级、系统自适应过载保护、热点流量防护等多个维护来帮助开发者保障微服务的稳定性。
Sentinel基本概念
资源
资源是Sentinel的关键概念。它可以是Java应用程序中的任何内容,例如,由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。在接下来的文档中,我们都会用资源来描述代码块。
只要通过Sentinel API定义的代码,就是资源,能够被Sentinel保护起来。大部分情况下,可以使用方法签名,URL,甚至服务名称作为资源来标示资源。
规则
围绕资源的实时状态设定的规则,可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。
Sentinel功能和设计理念
流量控制
流量控制在网络传输中是一个常用的概念,它用于调整网络包的发送数据。然而,从系统稳定性角色考虑,在处理请求的速度上,也有非常多的讲究。任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel作为一个调配器可以根据需要把随机的请示调整成合适的的形状。
流量控制有以下几个角度:
- 资源的调用关系,例如资源的调用链路,资源和资源之间的关系;
- 运行指标,例如QPS、线程池、系统负载等;
- 控制的效果,例如直接限流、冷启动、排名等;
Sentinel的设计理念是让您自由选择控制的角度,并进行灵活组合,从而达到想的效果。
熔断降级
什么是熔断降级
除了流量控制以外,降低调用链路中的不稳定资源也是Sentinel的使命之一。由于调用关系的复杂,如果调用链路中的某个资源出现了不稳定,最终会导致请求发生堆积。这个问题和Hystrix里面描述 的问题是一样的。
Sentinel和Hystrix的原则是一致的:当调用链路中某个资源出现不稳定,例如,表现为timeout,异常比例升高的时候,则对这个资源的调用进行限制,并让请求快速失败,避免影响到其它的资源,最终产生雪崩的效果。
熔断降级设计理念
在限制手段上,Sentinel和Hystrix采取了完全不一样的方法。
Hystrix通过线程池的方式,来对依赖(在我们的概念中对应资源)进行了隔离。这样做的好处是资源和资源之间做一了最彻底是除了增加了线程切换的成本,还需要预先给各个资源做线程池大小的分配。
Sentinel对这个问题采取了两种手段:
- 通过并发线程进行限制
和资源池隔离的方法不同,Sentinel通过限制资源并发线程的数量,来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗,也不需要预先分配线程池大小。当某个资源出现不稳定的情况下,例如响应时间变长,对资源的直接影响就是会造成线程数据的逐步堆积。当线程数在待定资源上堆积到一定的数量之后,对该资源的新请求会被拒绝。堆积的线程完成任务后才开始继续接收请求。 - 通过响应时间对资源进行降级
除了对并发线程数据进行控制以外,Sentinel还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后,所有对该资源的访问都会被直接拒绝,直到过了指定的时间窗口才重新恢复。
系统负载保护
Sentinel同时提供系统维度的自适应保护能力。防止雪崩,是系统防护中重要的一环。当系统负载较高的时候,如果还持续让请求进行,可能会导致系统崩溃,无法响应。在集群环境下,网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器处在一个边缘状态的时候,这个增加的流量就会导致 这台机器也崩溃,最后导致整个集群不可用。
针对这个情况,Sentinel提供了对应的保护机制,让系统的入口流量和系统负载达到一个平衡,保证系统在能力范围之内处理最多的请求。
Sentinel是如何工作的
Sentinel的主要工作机制如下:
- 对主流框架提供适配或显示的API,来定义需要保护的资源,并提供设计对资源进行实时统计和调用链路分析。
- 根据预设的规则,结合对资源的实时统计信息,对流量进行控制。同时,Sentinel提供开放的接口,方便您定义及改变规则。
- Sentinel提供实惠的监控系统,方便快速了解目前系统的状态。
流控降级与容错标准
Sentinel社区正在将流量治理相关标准抽出到OpenSergo spec中,Sentinel作为流量治理标准实现。
Sentinel的使用
到官网下载sentinel-dashboard,下载
安装sentinel控制台
1.启动sentinel控制台
- 执行
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=tlmall-sentinel-dashboard:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.8.6.jar
如果端口冲突,可用使用-Dserver.port=新端口进行设置。 - 从sentinel1.6.0起,sentinel控制台引入基本的登录功能,默认用户名和密码都是sentinel。
访问:http://localhost:8080
2、sentinel整合微服务
官方参考文档,参考文档
- 引入依赖
<!-- sentinel 依赖-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
-
业务代码中配置要保护的资源
- mvc接口方法自动埋点,不需要配置
- 非mvc接口方法可以使用@SentinelResource注解用来标识资源是否被限流、降级
- 对下单接口进行流控,此处不需要处理
-
测试,重启服务,对用户操作进行流控
- 启动sentinel控制台,在sentinel控制台中设置流控规
- 将单机阈值调为1,用postman测试接口,是否被流控