微服务Sentinel流控难题：QPS模式与线程数模式区别

news2024/10/5 14:14:48

问题引入

不少新学Sentinel的小伙伴在配置Sentinel流控规则时犯迷糊，如下图：

其中迷糊点是阈值类型这里：

QPS：当调用该接口的QPS达到阈值的时候，进行限流

线程数：当调用该接口的线程数达到阈值的时候，进行限流

咋一看，好像解释了，又好像没有解释，哈哈，要理解上面2个逻辑，先明白QPS而是啥，线程数又是啥。

QPS

每秒查询率（QPS，Queries-per-second）是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。

上面解释是从百度百科中摘取的，有点专业，我们以web项目举例，在web中， QPS可以理解为单位时间内，发起请求(可以是接口/可以是页面/可以是资源)的个数。

回归到sentinel，看下面的配置

配置意思：QPS阈值为3，单位时间能访问接口次数 <= 3，超过3之后表示不满足流控规则，拒绝访问。

线程数

先假设：当前是web项目，使用tomcat作为web服务器

web项目中的线程数，表示web请求进来服务器，tomcat开启几个线程来处理这些web请求。

先看一个例子：使用springboot 搭建web项目

不理解的同学，可以先看：SpringBoot 极简入门

@RestController
public class TestController {
    public Set<Thread> set= new HashSet<>();
    @GetMapping("/test")
    public Object test() throws InterruptedException {
        Thread thread = Thread.currentThread();
        set.add(thread);
        System.out.println(set.size());
        return thread.toString();
    }
}

启动服务，访问： http://localhost:8080/test，你会发现返回数据：

Thread[http-nio-8080-exec-1,5,main]
Thread[http-nio-8080-exec-2,5,main]
Thread[http-nio-8080-exec-3,5,main]
Thread[http-nio-8080-exec-4,5,main]
Thread[http-nio-8080-exec-5,5,main]
Thread[http-nio-8080-exec-6,5,main]
Thread[http-nio-8080-exec-7,5,main]
Thread[http-nio-8080-exec-8,5,main]
Thread[http-nio-8080-exec-9,5,main]
Thread[http-nio-8080-exec-10,5,main]
Thread[http-nio-8080-exec-1,5,main]
Thread[http-nio-8080-exec-2,5,main]
....

一直访问，一直循环1到10

后台打印输出

1到10之后，set.size()值一直停留在10。

这是啥回事？

SpringBoot web项目内置了tomcat，项目启动后，tomcat会初始化一个线程池，当请求进入tomcat服务器，tomcat会从线程池中获取处理请求线程。其中线程池一个配置：默认最小工作空闲线程数为10，当请求并发数(同一个时刻能处理的请求数)没有超过10次时，线程数会一直维持在10个。下面是默认springboot 内嵌tomcat 默认线程池配置

# 等待队列长度，默认100。
server.tomcat.accept-count=100

# 最大工作线程数，默认200。
server.tomcat.max-threads=200

# 最小工作空闲线程数，默认10。
server.tomcat.min-spare-threads=10

#最大连接数，默认为10000
server.tomcat.max-connections=10000

有了这铺垫，再看下面的sentinel的配置