目录
编辑
一、Ribbon 负载均衡原理
1.1、前言
1.2、负载均衡的工作流程
二、负载均衡策略
2.1、策略原理
2.2、负载均衡自定义方式
三、Ribbon 加载方式
一、Ribbon 负载均衡原理
1.1、前言
ps:案例是上一章所讲的 “根据订单id查询订单的同时,把订单所属的用户信息一起返回” 。
上一章我们讲到 order-service(订单服务) 使用 RestTemplate 发送 Http 请求到 user-service(用户服务),同时我们使用 @LoadBalanced 注解增加负载均衡,通过负载均衡算法分配到 user-service 集群,那么中间这个负载均衡到底是什么东西在起作用?负载均衡算法到底是什么?
接下来我们就一起来了解一下吧~
1.2、负载均衡的工作流程
负载均衡的工作流程主要有以下几个过程:
- 首先 order-service 使用 RestTemplate 发送的请求会被 Ribbon(负载均衡) 所拦截,并对请求的 url 进行解析;
- 拿到服务名称 userservice(user-service 配置文件中服务命名) ,接着 Ribbon 会通过这个服务名称 userservice 去 eureka-server (服务注册中心)拉去服务的服务列表(要访问的主机ip和端口号);
- 最后 Ribbon 会通过负载均衡算法从服务列表中挑选出合适的ip+端口号,接着 Ribbon 会通过修改服务名称 userservice 为挑选出的 ip+端口号 刚刚请求到对应的服务。
Ribbon 底层源码工作流程如下图:
二、负载均衡策略
2.1、策略原理
负载均衡的实现主要有三种算法:轮询(默认方式)、随机、权值分配,其中轮询 ZoneAvoidanceRule 也是 @LoadBalanced 注解默认的分配策略,细节上可以分为以下几种:
内置负载均衡规则类 | 规则描述 |
RoundRobinRule | 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。 |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule(默认) | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑 |
2.2、负载均衡自定义方式
负载均衡的自定义方式主要有以下两种:
- 代码实现;
- 配置文件。
首先,代码方式,就是在 order-service 中的 OrderApplication 类中,定义一个新的 IRule(Ribbon的负载均衡规则是一个叫做IRule的接口来定义的) ,然后加上 @Bean 注解注入到 spring 中,例如我要定义负载均衡算法为随机算法,如下:
import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.mybatis.spring.annotation.MapperScan;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;
//@MapperScan 注解的作用相当于在指定包下的所有 mapper 接口上都加上了 @mapper 注解
@MapperScan("cn.itcast.order.mapper")
@SpringBootApplication
public class OrderApplication {
public static void main(String[] args) {
SpringApplication.run(OrderApplication.class, args);
}
/**
* 将 RestTemplate 对象注入到 spring 容器中
* @return
*/
@Bean
public RestTemplate restTemplate() {
return new RestTemplate();
}
//修改负载均衡算法为随机
@Bean
public IRule randomRule() {
return new RandomRule();
}
}
另外,还有一种方式,是使用配置文件的方式,在 order-service 的 application.yml 文件中,添加新的配置规则:
userservice:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule# 负载均衡规则
三、Ribbon 加载方式
Ribbon 默认是采用懒加载的方式,也就是只有第一次访问时才会去创建 LoadBalanceClient,因此第一次请求的时间会很长~
此外,Ribbon 还有一种加载方式——饥饿加载,就是在项目启动时去创建,降低第一次访问的耗时,需要通过下面配置开启饥饿加载:
ribbon:
eager-load:
enabled: true # 开启饥饿加载
clients: userservice # 指定对userservice这个服务饥饿加载
Ps:但是值得注意的是,项目启动之初本身也是需要很大的系统开销的,某些情景下,我们将 Ribbon 修改为饥饿加载,可能会更大的加重系统的开销,所以一定要根据实际情况进行选择~