一、线程隔离
总结
- 线程隔离的两种手段是?
- 信号量隔离
- 线程池隔离
- 信号量隔离的特点是?
- 基于计数器模式,简单,开销小
- 线程池隔离的特点是?
- 基于线程池模式,有额外开销,但隔离控制更强
二、熔断降级
Sentinel如何来去实现熔断降级?融合降级,它其实就是用一个断路器去统计服务调用时的一个异常比例、慢请求比例,如果说在做服务调用的时候,异常的比例过高,触发了阈值,就会熔断该服务,拦截访问该服务的一切请求。那这样呢,就会把这个故障服务隔离开了,不会让它影响到我们正常的服务。(就像古代啊,这个武侠人士是吧,这手被毒蛇咬了,赶紧手起刀落,把这个手砍掉,那脚还中毒了呢,卡,把脚砍掉,防止这个毒扩散到全身啊。所以壮士断腕就是一种自我保护)。当然,你把手砍了不算本事啊,你要是能接回来才算本事。所以呢,服务熔断很好做,将来服务如果恢复了,还应该去恢复对该服务的访问。那这个我们的断路器怎么去做呢?
它是由内部的一个状态机来实现的,这个状态机,包含三个状态,分别是Close、Open、Half-Open。Open绿色代表走,这种状态下,断路器不会拦截任何请求,不管请求是正常的还是异常的,都可以访问,但是我们的断路器会统计这个调用的异常比例,如果统计过程中发现异常的比例过高,达到了阈值,它就会从Closed状态切换到Open状态,红色代表停止,那这个时候他就会拦截进入该服务的一些请求了,也就相当于是垄断,但是你不能一直是垄断状态(因为万一这个服务它又恢复了),那因此我们这个熔断的状态会有一个持续的时间,当这个熔断时间结束时,它会从Open状态切换到Half-Open状态,在这个状态下它会放行一次请求,然后根据这次请求的结果来判断接下来干嘛,比如说Half-Open放行了一次请求,结果发现这个请求依然是失败的,那会再次进入Open状态,拦截一切请求,进入熔断,当然同样是持续一段熔断时间,然后再进入Half-Open,那如果放行的这个请求它执行完了,发现是成功的,那么就会从Half-Open切换到Cloesd,这个时候,就等于我们的登录器又开始放行了,那大家随便,然后又开始做数据统计了。那么这三个状态啊,就可以按照这种方式进行一个切换,因此呢,我们不仅能够熔断,还能恢复,就是靠这个来实现的。那在这里面啊,比较关键的两个东西。第一,就是熔断的持续时间(这个将来肯定有我们去配置),第二,失败的阈值,什么情况下你要去熔断。而这个达成熔断的条件啊,在Sentinel里面就叫做熔断的策略。
熔断策略
熔断策略到底有哪些呢?
断路器熔断策略有三种:慢调用、异常比例、异常数
慢调用
慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。例如:
上面降级规则配置的解读:RT超过500ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
案例
异常比例、异常数
总结
Sentinel熔断降级的策略有哪些?
-
慢调用比例:超过指定时长的调用为慢调用,统计单位时长内慢调用的比例,超过阈值则熔断
-
异常比例:统计单位时长内异常调用的比例,超过阈值则熔断
-
异常数:统计单位时长内异常调用的次数,超过阈值则熔断