原文网址:Spring Cloud LoadBalancer--负载均衡的原理(源码分析)_IT利刃出鞘的博客-CSDN博客
简介
说明
本文介绍Spring Cloud LoadBalancer负载均衡的原理。
SpringCloud从2020版本开始移除了对Ribbon的依赖,官方使用Spring Cloud Loadbalancer正式替换Ribbon,而且Spring Cloud Loadbalancer成为了Spring Cloud负载均衡器的唯一实现。
本例使用的SpringCloud版本为:2020.0.1,SpringBoot版本为:2.4.13。
Loadbalancer提供的的负载均衡策略
- RandomLoadBalancer - 随机策略
- RoundRobinLoadBalancer - 轮询策略(默认)
粉丝福利:有很多粉丝私信问我有没有面试及PDF书籍等资料,我把它们进行了整理,包含:真实面试题汇总、简历模板、PDF书籍、PPT模板等。这些是我自己也在用的资料,面试题是面试官问到我的问题的整理,其他资料也是我自用的,真正实用、靠谱。资料可以从这里免费获取:资料地址
实例代码
本处的场景是:order(订单微服务)调用storage(库存微服务)扣减库存。
本处只列出核心代码:依赖和feign定义,其他略。
依赖
pom.xml
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<!--<version>2.3.7.RELEASE</version>-->
<version>2.4.13</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<groupId>com.knife</groupId>
<artifactId>gateway</artifactId>
<version>0.0.1-SNAPSHOT</version>
<name>gateway</name>
<description>Demo project for Spring Boot</description>
<properties>
<java.version>1.8</java.version>
</properties>
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>2020.0.1</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>2021.1</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
<exclusions>
<exclusion>
<groupId> springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-loadbalancer</artifactId>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<version>1.18.24</version>
<scope>provided</scope>
</dependency>
</dependencies>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
<version>2.4.13</version>
</plugin>
</plugins>
</build>
</project>
feign接口
package com.knife.storage.api;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestParam;
@FeignClient("storage")
public interface StorageFeignClient {
@PostMapping("/feign/storage/decreaseStorage")
void decreaseStorage(@RequestParam("productId") Long productId, @RequestParam("count") Integer count);
}
原理分析
打断点
在Feign接口上打断点
到达断点,多次点击“Step Into”(跳到方法内)(我点击了15次才进去)
FeignInvocationHandler#invoke
到达feign-core包里边的:feign.ReflectiveFeign.FeignInvocationHandler#invoke
执行到最后一行(点下图红色箭头所指按钮“Step Over”(跳过),一直到最后一行)
进入到invoke方法(如下图:先点击绿色箭头按钮,再点击红色 箭头所指invoke方法)
SynchronousMethodHandler#invoke
上边点击之后,进入feign.SynchronousMethodHandler#invoke(feign-core包)。
进入到executeAndDecode方法:
SynchronousMethodHandler#executeAndDecode
上边点击之后,进入到feign.SynchronousMethodHandler#executeAndDecode(feign-core包)。
进入到client.execute方法内:
FeignBlockingLoadBalancerClient#execute
上一步点击完之后,进入org.springframework.cloud.openfeign.loadbalancer.FeignBlockingLoadBalancerClient#execute(spring-cloud-openfeign-core包)。
其中,loadBalancerClient.choose是核心,它里边会去找一个storage实例去调用。
同样的方法,也是跳到方法内部去。
BlockingLoadBalancerClient#choose(重点)
本方法是核心,先找到负载均衡策略,再按负载均衡策略挑选实例。
执行到此方法(spring-cloud-loadbalancer包):
org.springframework.cloud.loadbalancer.blocking.client.BlockingLoadBalancerClient#choose(java.lang.String, org.springframework.cloud.client.loadbalancer.Request<T>)
本方法做了两件事情:找到负载均衡策略、根据负载均衡策略找到实例。
LoadBalancerClientFactory#getInstance(选策略)
执行到方法内(spring-cloud-loadbalancer包):org.springframework.cloud.loadbalancer.support.LoadBalancerClientFactory#getInstance
跳到 getInstance方法内部:
getContext的作用:根据name(本处是“storage”)找到@FeignClient标记的接口,返回Context(@LoadBalancerClient或者@LoadBalancerClients如果配置了负载均衡策略,则此处即生效)。
上图可以看到,获得到的负载均衡策略为:RoundRobinLoadBalancer(轮询负载均衡)。
我们退出方法,往下执行:
ReactiveLoadBalancer#choose(选实例)
上一步点击之后,进入到:
org.springframework.cloud.loadbalancer.core.RoundRobinLoadBalancer#choose
本处的分析略。
为什么是轮询策略?
见:Spring Cloud--LoadBalancer默认的负载均衡策略_IT利刃出鞘的博客-CSDN博客