文章目录
- 一、Ribbon
- 1.1 Ribbon的负载均衡流程:
- 1.2 负载均衡策略
- 1.2.1 内置的负载均衡策略
- 1.2.2 如何修改负载均衡
- 1.3 加载方式
一、Ribbon
1.1 Ribbon的负载均衡流程:
- 获取可用的服务列表:客户端在进行服务调用之前,首先需要获取可用的服务实例列表。一般情况下,客户端会向注册中心(例如Eureka)发起查询请求,获取同一服务的多个实例的地址和端口号等信息,以便后续的负载均衡。
- 选择负载均衡策略:Ribbon提供了多种负载均衡算法,包括轮询、随机、加权随机、最少连接数等。客户端根据实际需求选择相应的负载均衡策略,并将该策略的实现类注入到RestTemplate或FeignClient等HTTP客户端中。
- 发送请求:当应用程序需要发起请求时,HTTP客户端(例如RestTemplate或FeignClient)会使用注入的负载均衡策略来选择一个可用的服务实例。Ribbon会在可用的服务实例列表中选择一个实例,并将请求发送到该实例。
- 处理响应:选择的服务实例接收到请求并处理后,会返回响应。Ribbon会将响应传递回应用程序,完成本次服务调用。
Ribbon还支持服务实例的健康检查和动态服务实例的添加和删除等功能。如果某个服务实例无法正常工作,Ribbon会将其从可用服务列表中剔除,并选择其他健康的服务实例。如果有新的服务实例加入,Ribbon会自动将其加入可用服务列表中,以便后续的负载均衡。
1.2 负载均衡策略
1.2.1 内置的负载均衡策略
内置的负载均衡策略 | 说明 |
---|---|
RoundRobinRule(轮询规则) | 按照轮询的方式依次选择可用的服务实例。该规则适用于所有的负载均衡场景,但可能会因为实例响应时间不同而导致负载不均衡的情况。 |
RandomRule(随机规则) | 随机选择一个可用的服务实例。该规则适用于需要随机分配负载的场景,例如有些服务实例处理能力比较强,可以通过加权来解决负载不均衡的问题。 |
WeightedResponseTimeRule(加权响应时间规则) | 根据服务实例的响应时间和权重来进行负载均衡。响应时间越短的实例被选择的概率越大,而权重越大的实例被选择的概率也越大。该规则适用于需要快速响应的场景。 |
BestAvailableRule(最佳可用规则) | 选择最少正在并发请求的服务实例,即最空闲的实例。该规则适用于服务实例处理能力相差比较大的场景。 |
AvailabilityFilteringRule(可用过滤规则) | 过滤掉一些故障实例和高并发实例,选择剩余实例中最小响应时间的实例进行负载均衡。该规则适用于需要快速响应的场景。 |
ZoneAvoidanceRule(区域避免规则) | 避免选择与当前客户端在同一区域内的实例,以提高容错能力。该规则适用于跨区域调用服务的场景。 |
RetryRule(重试规则) | 在请求失败时,会自动重试。该规则适用于需要提高调用成功率的场景,但可能会导致请求的响应时间变长。 |
1.2.2 如何修改负载均衡
通过定义IRule实现可以修改负载均衡规则,有两种方式:
- 代码方式:在启动类中,定义一个新的IRule:
@Bean
public IRule randomRule(){
return new RandomRule();
}
作用全局
- 配置文件方式:在yml文件中,添加新的配置也可以修改规则:
userservice:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
作用指定服务
1.3 加载方式
在使用Ribbon进行负载均衡时,存在两种不同的加载方式:懒加载和饥饿加载。
- 懒加载
懒加载是指在第一次请求到达时,才会初始化负载均衡器并进行服务实例的获取和负载均衡计算。也就是说,在应用程序启动时,并不会立即初始化负载均衡器和服务实例列表,只有在第一次请求到达时,才会进行初始化和计算。
这种方式的优点是可以节省资源,因为在应用程序启动时不需要立即初始化和计算,只有当需要使用负载均衡器时,才进行初始化和计算。但是缺点是,由于需要在第一次请求到达时初始化,可能会造成请求的延迟。
可以通过设置ribbon.eager-load.enabled=false
属性来禁用懒加载,使用饥饿加载方式。
- 饥饿加载
饥饿加载是指在应用程序启动时,就会立即初始化负载均衡器和服务实例列表,并进行负载均衡计算。也就是说,无论是否有请求到达,都会进行初始化和计算。
这种方式的优点是可以提高请求的响应速度,因为负载均衡器和服务实例列表已经提前初始化,不需要等待第一次请求到达时再进行初始化和计算。但是缺点是会占用一定的资源,因为在应用程序启动时就需要初始化和计算。
可以通过设置ribbon.eager-load.enabled=true
属性来启用饥饿加载方式。
- 如果希望节省资源并可以容忍一定的请求延迟,可以选择懒加载方式;
- 如果希望提高请求的响应速度,可以选择饥饿加载方式。
示例:
ribbon:
eager-load:
enabled: true #开启饥饿加载
clients: # 指定饥饿加载的服务名称
-xxxservice
-xxxservice