前面几篇文章,我们了解了一下Nacos的单机部署、集群部署以及微服务接入Nacos的步骤。从本篇开始,我们来看一下微服务第二个通用组件-负载均衡(Ribbon)。
1、Ribbon负载均衡器
负载均衡顾名思义,是指通过软件或者硬件措施。将来自客户端的请求按照某种策略分配到集群的每一个节点上,保证提供服务的这些节点 CPU、内存等设备负载情况大致在一条水平线,避免由于某个节点负载过高产生宕机,再将这些处理压力传递到其他节点上产生系统性崩溃。
例如:我们有个微服务是做数据推送的,一共部署了3个节点,如果没有负载均衡策略来分摊推送请求,那么就会逮住一台服务器拼命推送,如果请求量巨大,把第一台服务器搞宕机了,那么海量的请求就会去第二台服务器,把第二台服务器也整宕机了,请求继续去嚯嚯第三台服务器,第三台也毫无疑问的就义了。那么我们数据推送功能就彻底废了。。。数据推送下游服务就没事儿可干了,但业务也就中断了,P1级别的事故就此产生。。。大概就这么个道理。
由此可见,微服务间的负载均衡在海量请求时,发挥的作用还是非常大的。那么负载均衡在实现方式上分类,可以分为服务端负载均衡和客户端负载均衡。
(1)服务端负载均衡
服务端负载均衡,就是指在架构中搭建专门的负载均衡器,由负载均衡器持有后端服务节点的信息,客户端发送来的请求会由负载均衡器分发给后端服务的某个节点,进而实现服务的负载均衡。目前常用的负载均衡软硬件有:F5、Nginx、Haproxy。
(2)客户端负载均衡
客户端负载均衡,是指在架构中不再部署额外的负载均衡器,在每个服务消费者内部持有客户端负载均衡器,由内置的负载均衡策略决定向哪个服务提供者发起请求。
说到这,我们的主角登场了,Netfilx Ribbon 是 Netflix 公司开源的一个负载均衡组件,是属于客户端负载均衡器。目前Ribbon 已被 Spring Cloud 官方技术生态整合,运行时以 SDK 形式内嵌到每一个微服务实例中,为微服务间通信提供负载均衡与高可用支持。
例如:我们有个订单服务在查询订单时需要附带对应商品详情,这就意味着订单服务依赖于商品服务,两者必然产生服务间通信,执行过程如下图所示:
1、订单服务与商品服务实例在启动时会向Nacos注册信息。
2、订单服务向商品服务发起查询前,Ribbon会向Nacos查询商品服务的可用实例列表。
3、Ribbon根据设置的负载均衡策略从商品服务列表中选择一个实例。
4、订单服务根据Ribbon选择的实例发起请求,完成RESTful通信。
负载均衡的作用大概说完了,那么我们上面一直有提到一个叫负载策略的东西,它到底是啥呢? 具体有哪些策略呢? 我们接着看!
2、负载均衡策略
Ribbon中内置有以下几种策略:
(1)RoundRobinRule(轮询)
这是Ribbon的默认策略。默认超过10次获取到的服务(server)都不可用,会返回一个空的server。
(2)RandomRule(随机)
如果随机到的server为null或不可用,会不停的循环选取。
(3)RetryRule(重试)
⼀定时限内循环重试。默认继承 RoundRobinRule,也⽀持自定义注⼊,RetryRule 会在每次选取之后,对选取的 server 进⾏判断,是否为 null,是否 alive,并且在 500ms 内会不停地选取判断。而 RoundRobinRule 失效的策略是超过 10 次,RandomRule 没有失效时间的概念,只要 serverList 没都挂。
(4)BestAvailableRule(最小连接数)
Ribbon通过遍历 serverList,选取出可⽤的且连接数最小的⼀个 server。那么会调用 RoundRobinRule 重新选取。
(5)AvailabilityFilteringRule(可用过滤)
可用过滤策略,扩展了轮询策略,会先通过默认的轮询选取⼀个 server,再去判断该 server 是否超时可用、当前连接数是否超限,都成功再返回。
(6)ZoneAvoidanceRule(区域权衡)
区域权衡策略。扩展了轮询策略,除了过滤超时和链接数过多的 server,还会过滤掉不符合要求的 zone 区域⾥⾯的所有节点,始终保证在⼀个区域/机房内的服务实例进行轮询。
3、如何在微服务中更改负载均衡策略
要更改微服务通信时采用的负载均衡策略也很简单,在 application.yml 中采用下面格式书写即可。
provider-service: #服务提供者的微服务id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #设置对应的负载均衡类
具体的负载均衡类可以在 com.netflix.loadbalancer 包下找到:
Ribbon介绍到这里就结束了,下一篇我们来看一下如何使用Ribbon和RestTemplate实现服务间的高可用。欢迎继续关注。
欢迎关注公众号:服务端技术精选。欢迎点赞、关注、转发。