Sentinel限流--流控模式与限流效果

news2024/11/30 1:51:29

文章目录

  • 1、簇点链路
  • 2、流控入门案例
  • 3、流控模式：关联模式
  • 4、流控模式：链路模式
  • 5、流控效果：warm up
  • 6、限流效果：排队等待
  • 7、热点参数限流

1、簇点链路

簇点链路就是项目内的调用链路（controller -> servcie -> mapper ），链路中被监控的每个接口就是一个资源。

默认情况下sentinel会监控SpringMVC的每一个端点（Endpoint），Endpoint可以理解为controller中的每一个方法，每一个端点（Endpoint）就是调用链路中的一个资源。

流控、熔断等都是针对簇点链路中的资源来设置的。

在这里插入图片描述

点击流控，可以新增流控规则：

在这里插入图片描述

QPS为1，即每秒只允许1次请求，超出的请求会被拦截并报错。

2、流控入门案例

需求：给 /order/{orderId}这个资源设置流控规则，QPS不能超过 5。然后利用jemeter测试。
  • 点击流控，设置QPS

在这里插入图片描述

  • 打开Jemter，添加测试计划，右键start

在这里插入图片描述

  • 查看结果树，可以看到确实每秒最多5个请求

在这里插入图片描述

  • 查看sentinel控制台

在这里插入图片描述

3、流控模式：关联模式

在添加限流规则时，点击高级选项，可以选择三种流控模式：

  • 直接：统计当前资源的请求，触发阈值时对当前资源直接限流，也是默认的模式（入门案例里的效果）
  • 关联：统计与当前资源相关的另一个资源，触发阈值时，对当前资源限流
  • 链路：统计从指定链路访问到本资源的请求，触发阈值时，对指定链路限流

流控模式：关联

关联模式的使用场景如：比如用户支付时需要修改订单状态，同时用户要查询订单。但查询和修改操作会争抢数据库锁，二者为竞争关系。

很明显，我需要优先满足支付，即修改订单状态优先级更高，因此当修改订单业务触发阈值时，需要对查询订单业务限流。直白讲就是，二者竞争，超过阈值时，优先级低的被限流，避免影响优先级高的。

在这里插入图片描述
当/write资源访问量触发阈值时，就会对/read资源限流，避免影响/write资源。关联资源是优先级高的，在优先级低的上面添加限流规则！

需求：
- 在OrderController新建两个端点：/order/query和/order/update，无需实现业务
- 配置流控规则，当/order/ update资源被访问的QPS超过5时，对/order/query请求限流
  • 写两个测试接口资源
@GetMapping("/order/query")
public String queryOrder(){
	return "查询订单成功";
}

@GetMappinng("/order/update")
public String updateOrder(){
	return "更新订单成功";
}
  • 很明显，query资源优先级低，在它上面添加流控规则

在这里插入图片描述

  • jmeter模拟请求/order/update,QPS设置10，按图中设置，这100秒内，update的QPS均大于阈值5

在这里插入图片描述

  • 访问/order/query，可以看到已被限流

在这里插入图片描述

  • 但/order/update资源却不被限制

在这里插入图片描述

对关联模式做个总结就是;

在这里插入图片描述

4、流控模式：链路模式

只针对从指定链路访问到本资源的请求做统计，判断是否超过阈值

例如有两条请求链路：

  • /test1 到 /common
  • /test2 到 /common

如果只希望统计从/test2进入到/common的请求，则可以这样配置：

在这里插入图片描述

需求：
- 有查询订单和创建订单业务，两者都需要查询商品。
- 针对从查询订单进入到查询商品的请求统计，并设置限流，QPS<2。

访问资源"查询商品方法"，以上就有两条链路：

  • 入口1：查询订单/order/query—>查询商品queryGoods
  • 入口2：创建订单/order/save —> 查询商品queryGoods

这里需要对queryGoods添加链路模式限流，从/order/query进入queryGoods方法的QPS限制必须小于2.

但注意默认只有controller中的方法会被监控，Service层的queryGoods方法没有被监控，也就不能配置限流规则，要标记其它方法，需要利用@SentinelResource注解：

@SentinelResource("goods")
public void queryGoods() {   
	System.err.println("查询商品");
}

此外：Sentinel默认会将Controller方法做context整合，认为是由同一个根链路发展来的子链路，从而导致链路模式的流控失效，因此需要修改application.yml，添加配置：

spring:
  cloud:    
   sentinel:      
     web-context-unify: false # 关闭context整合
  • 接口与方法资源代码展示
public class OrderService{

	@SentinelResource("goods")
	public void queryGoods(){
		System.out.println("查询商品");
	}
	
}

@Resource
private OrderService orderService;


@GetMapping("/order/query")
public String queryOrder(){
	orderService.queryGoods();  //查商品，形成一个链路
	System.out.println("查询订单");
	return "查询订单成功";	
}

@GetMapping("/order/save")
public String saveOrder(){
	orderService.queryGoods(); //查商品，形成一个链路
	System.out.println("新增订单");
	return "新增订单成功";	

}
  • 访问下save和query接口，查看sentinel簇点链路：

在这里插入图片描述

  • 两个goods都一样，随便选一个点击新增流控按钮

在这里插入图片描述

  • 打开Jmeter做测试，QPS我设为200/50 = 4 > 2，发送query和save请求：

在这里插入图片描述

  • 可以看到save不受影响：

在这里插入图片描述

  • 但query的链路我设置了限流，可以看到每秒总有4-2=2个请求失败：

在这里插入图片描述

关于流控模式的总结：

在这里插入图片描述

5、流控效果：warm up

流控效果是指请求达到流控阈值时应该采取的措施，包括三种：

  • 快速失败：达到阈值后，新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
  • warm up：预热模式，对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化，从一个较小值逐渐增加到最大阈值。
  • 排队等待：让所有的请求按照先后次序排队执行，两个请求的间隔不能小于指定时长

在这里插入图片描述

就像剧烈运动前慢跑热身一样，服务器刚启动时，不能直接打满到最大QPS，这就是warm up的限流效果：

warm up也叫预热模式，是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor，前者为最大QPS，后者为冷启动因子。持续指定时长后，逐渐提高到threshold值。而coldFactor的默认值是3.

例如，我设置QPS的threshold为10，预热时间为5秒，那么初始阈值就是 10 / 3 ，也就是3，然后在5秒后逐渐增长到10.

在这里插入图片描述

需求：
- 给/order/{orderId}这个资源设置限流，最大QPS为10。
- 利用warm up效果，预热时长为5秒

添加流控规则：

在这里插入图片描述

Jmeter设置QPS为10，start发起请求：

在这里插入图片描述

可以看到刚开始，10个请求只成功3个：

在这里插入图片描述
随着时间的推移，达到10，则全部请求都能成功：

在这里插入图片描述
查看监控面板：

在这里插入图片描述

6、限流效果：排队等待

当请求超过QPS阈值时，快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中，然后按照阈值允许的时间间隔依次执行。当预期等待时长超过timeout时间，则请求才会被拒绝。

在这里插入图片描述
假设QPS=5，即每200ms处理一个请求，比如设置timeout=2000。如上图，预计等待时间线上排队着一个个请求，最后一个绿点的预计等待时间刚好为2000ms == timeout，此时再来一个需求，预计等待时间就大于了timeout，这个需求就会被拒绝。

在这里插入图片描述
这种限流效果，其实起到了一个流量整形的效果，不管client来的需求每秒有多少个，进入队列后再出来，就都是一秒QPS个：

在这里插入图片描述

需求：
给/order/{orderId}这个资源设置限流，最大QPS为10，利用排队的流控效果，超时时长设置为5s
  • 新增流控规则

在这里插入图片描述

  • Jmeter中设置QPS为15，如果是前两种限流效果，则每秒的15个请求中，成功10个，失败5个。按排队的限流效果，应该是刚开始多出的5个不会失败

在这里插入图片描述

  • 查看监控面板，可以看到每秒10个请求，且多出来的5个不是全部拒绝，而是排队时间预计超过5s的才拒绝

在这里插入图片描述

流控效果小结：

在这里插入图片描述

7、热点参数限流

之前的限流是统计所有请求，然后判断QPS是否超过阈值，如下图，即QPS为4：

在这里插入图片描述

而热点参数限流则是分别统计参数值相同的请求，然后判断是否超过阈值。

在这里插入图片描述

配置示例为：

在这里插入图片描述

含义是：对hot这个资源的0号参数（第一个参数）做统计，每1秒相同参数值的请求数不能超过5

但此时有个问题，比如商品001没人看，商品002火爆，现在限制商品id相同的请求，每秒不能大于5个，则001，002都没一竿子打死了，001的QPS用不完，002的QPS不够用。针对这种场景，可以对部分参数设置例外配置：

在这里插入图片描述

这个配置的含义就是：对0号的long类型参数限流，每1秒相同参数的QPS不能超过5。但如果参数值为100或者101，则可以例外：

  • 如果参数值是100，则每1秒允许的QPS为10
  • 如果参数值是101，则每1秒允许的QPS为15
需求：

- 给/order/{orderId}这个资源添加热点参数限流，规则如下：
- 默认的热点参数规则是每1秒请求量不超过2
- 给102这个参数设置例外：每1秒请求量不超过4
- 给103这个参数设置例外：每1秒请求量不超过10

在这里插入图片描述
就是说，添加热点参数限流，我们之前的controller中的那一个个方法，热点限流不再认识，需要额外加@SentinelSource注解。

  • 修改代码，添加@SentinelSource注解
@SentinelSource("hot") //此时，这个资源（方法）就有两个名字了，之前的/order/{orderID}和hot
@GetMapping("{orderId}")
public Oeder queryOrderByUserId(@PathVariable("orderId") Long orderId){

	return orderService.queryOrderById(orderId);
}
  • 重启服务，可以看到簇点链路中多了一个hot（别直接在后面点击【+热点】来配置，这里没高级选项）

在这里插入图片描述

  • 切到热点规则侧边栏，新增热点限流规则

在这里插入图片描述

  • 使用Jmeter模拟并发，QPS设置为500/100 = 5，三个取样器中分别请求101、102、103三个orderId

在这里插入图片描述

  • 查看Jmeter结果树或者Sentinel的监控面板

在这里插入图片描述

最后，这个热点限流是根据传参来进行更细粒度的限流，且传参只支持基本数据类型。要是没有这种细粒度需求，走前面的正常限流模式 + 限流效果即可。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/768802.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

python-在transformers的问答模型中使用中文

python-在transformers的问答模型中使用中文

先安装transformers在huggingface下载模型 模型bert-multi-cased-finetuned-xquadv1可以从huggingface中下载&#xff0c;具体操作方法可以参照文章https://blog.csdn.net/zhaomengsen/article/details/130616837下载 git clone就可以了然后使用pipline加载模型 from transfor…
阅读更多...
【卫朋】华为 IFS 集成财经服务流程（限制版）

【卫朋】华为 IFS 集成财经服务流程（限制版）

目录 简介 集成财经服务 专栏列表 CSDN学院 简介 今天主要来谈谈华为流程体系中的财经流程。 大家可以看下面这张图。 深蓝色标注的就是 IFS 流程的在企业整体流程架构中的位置。 财经部门其实也是直接或间接跟客户打交道的。 这就意味着&#xff0c;财经也是需要做端到…
阅读更多...
Unity源码分享-大量鱼类模型Underwater Animals Pack

Unity源码分享-大量鱼类模型Underwater Animals Pack

Unity源码分享-大量鱼类模型Underwater Animals Pack 下载地址&#xff1a;https://download.csdn.net/download/Highning0007/88061483
阅读更多...
FPGA XDMA 中断模式实现 PCIE3.0 HDMI视频采集卡 提供2套工程源码和QT上位机源码

FPGA XDMA 中断模式实现 PCIE3.0 HDMI视频采集卡 提供2套工程源码和QT上位机源码

目录 1、前言2、我已有的PCIE方案3、PCIE理论4、总体设计思路和方案视频采集和缓存XDMA简介XDMA中断模式QT上位机及其源码 5、vivado工程详解6、上板调试验证7、福利&#xff1a;工程代码的获取 1、前言 PCIE&#xff08;PCI Express&#xff09;采用了目前业内流行的点对点串…
阅读更多...
中国芯片发出怒吼，要求回购700台光刻机，ASML承受不起

中国芯片发出怒吼，要求回购700台光刻机，ASML承受不起

多家媒体报道指国内知名存储芯片企业长江存储的董事长指出已买回的光刻机因维护和零件问题可能无法使用&#xff0c;因此提出基于公平原则&#xff0c;ASML理应回购这些光刻机&#xff0c;凸显出中国芯片企业的愤怒。 由于美国的阻挠&#xff0c;ASML不仅不会继续对中国出售先进…
阅读更多...
工厂方法模式（java）

工厂方法模式（java）

目录 结构 案例 类图 代码实现 抽象咖啡工厂 美式咖啡工厂 拿铁咖啡工厂 咖啡类&#xff08;抽象产品类&#xff09; 美式咖啡 拿铁咖啡 咖啡店类 测试类 优缺点 优点 缺点 结构 工厂方法模式的主要角色&#xff1a; 抽象工厂&#xff08;Abstract Factory&…
阅读更多...
MySQL常用语句

MySQL常用语句

目录 连接MySQL 数据库操作 表的操作 数据操作 进阶查询 源码等资料获取方法 连接MySQL -- 语法&#xff1a;mysql -u用户名 -p密码 注&#xff1a;--空格 起到注释的作用 mysql -uroot -p123456 数据库操作 -- 显示当前时间、用户名、数据库版本&#xff08;可以单独…
阅读更多...
NodeJS实现支付宝沙箱支付②③

NodeJS实现支付宝沙箱支付②③

文章目录 前言版权声明Alipay SDK 沙箱环境简介Node环境要求沙箱环境配置下载所需模块准备前端静态页面以及Node服务器文件夹规范AlipaySdk 配置准备AlipaySdk 代码演示 Alipay实例化 ~ alipay.sdk 文件 AlipayForm ~ alipayForm文件 AlipayFormStatus ~ alipayForm文件 …
阅读更多...
MQTT协议在物联网环境中的应用及代码实现解析（四）

MQTT协议在物联网环境中的应用及代码实现解析（四）

四、使用单片机环境编程接收MQTT服务器上特定主题的信息 以下是使用STM32F103单片机链接W5500芯片链接到网络上&#xff0c;利用MQTT协议接收MQTT服务器“mqtt.laobai.net”上的“laobai_topic001”主题上的订阅信息&#xff0c;并发送给串口的C语言代码示例&#xff0c;包括完…
阅读更多...
C语言——指针详解（进阶）

C语言——指针详解（进阶）

轻松学会C语言指针 一、字符指针二、数组指针2.1 数组指针的定义2.2 &数组名VS数组名2.3 数组指针的使用 三、指针数组四、数组参数和指针参数4.1 一维数组传参4.2 二维数组传参4.3 一级指针传参4.4 二级指针传参 五、函数指针六、函数指针数组七、指向函数指针数组的指针八…
阅读更多...
计算机网络微课堂学习笔记(详细图解讲解）-长期更新

计算机网络微课堂学习笔记(详细图解讲解）-长期更新

前言&#xff1a; 计算机网络在信息时代的作用 计算机网络已由一种通信基础设施发展成为一种重要的信息服务基础设施&#xff0c;计算机网络已经像水、电、煤气这些基础设施一样&#xff0c;成为我们生活中不可或缺的一部分 一、因特网概述 &#xff08;1&#xff09;网络、…
阅读更多...
ChatGPT火热之下的冷思考

ChatGPT火热之下的冷思考

作为一款基于人工智能的自然语言处理(NLP)​​聊天机器人​​程序&#xff0c;ChatGPT通过大量来自互联网的文本进行训练&#xff0c;并使用深度学习和机器学习算法来理解用户的问题并提供准确的回答。并且&#xff0c;ChatGPT还内置了情感分析、关键字提取和实体识别等功能&am…
阅读更多...
ngsoc使用指南

ngsoc使用指南

和威胁告警差不多。 ngsoc是以资产为核心&#xff0c;以安全事件为管理的关键流程&#xff0c;建立一套威胁检测&#xff0c;相应&#xff0c;预测&#xff0c;和持续监控分析&#xff0c;一体化的监控与相应平台。 和天眼的区别&#xff1a;会把天眼的告警&#xff0c;其他安…
阅读更多...
【041】从零开始：逐步学习使用C++ STL中的stack容器

【041】从零开始：逐步学习使用C++ STL中的stack容器

从零开始&#xff1a;逐步学习使用C STL中的stack容器 引言一、stack容器概述二、stack容器常用API2.1、构造函数2.2、赋值操作2.3、数据存取操作2.4、大小操作 三、使用stack容器实现一个高效的算法总结 引言 &#x1f4a1; 作者简介&#xff1a;一个热爱分享高性能服务器后台…
阅读更多...
安达发|如何选择更适合我们的APS高级排程软件

安达发|如何选择更适合我们的APS高级排程软件

如何选择aps高级排程公司更适合我们?在选购aps高级排程的时候&#xff0c;一些朋友由于不清楚其中的选购技巧&#xff0c;许多时候会掉入些许选择误区&#xff0c;导致我们买不了合适我们选择的aps高级排程。因此选择适合我们的aps高级排程就变得十分重要&#xff0c;唯有明白…
阅读更多...
23.JavaWeb-集群+Nginx+JMeter

23.JavaWeb-集群+Nginx+JMeter

1.集群概念 平时用的服务是的并发量是有限的&#xff0c;像tomcat只有不到500的并发量&#xff0c;不能满足高并发的需求&#xff0c;因此就采用了集群的方法&#xff0c;用多个服务器 当用户请求集群系统时&#xff0c;集群给用户的感觉就是一个单一独立的服务器&#xff0c;而…
阅读更多...
项目中使用拆分数据库的优势

项目中使用拆分数据库的优势

为什么要拆分数据库&#xff1f; 取决于数据库的负载和数据量。 单体项目在构建之初&#xff0c;数据库的负载和数据量都不大&#xff0c;所以不需要对数据库做拆分&#xff0c;小型财务系统、文书系统、ERP系统、OA系统&#xff0c;用一个MySQL数据库实例基本就够用了。 就…
阅读更多...
重绘 ( Repaint) 和回流 ( Reflow)

重绘 ( Repaint) 和回流 ( Reflow)

重绘 ( Repaint) 和回流 ( Reflow) 首先了解 重绘 ( Repaint) 和回流 ( Reflow)其实是关乎到浏览器性能的问题 重绘和回流是渲染步骤中的⼀⼩节&#xff0c;但是这两个步骤对于性能影响很大 重绘和回流的过程都需要浏览器耗费大量的计算资源&#xff0c;过多的使用会导致网页性…
阅读更多...
港联证券|熨平短期扰动 7月MLF小额加量续作

港联证券|熨平短期扰动 7月MLF小额加量续作

7月17日&#xff0c;为保护银行系统流动性合理充裕&#xff0c;人民银行开展1030亿元中期借贷便利&#xff08;MLF&#xff09;操作和330亿元公开商场逆回购操作,充沛满足了金融机构需求。本月MLF中标利率和公开商场逆回购操中标利率与上期持平&#xff0c;分别为2.65%、1.9%。…
阅读更多...
[深度学习入门]什么是神经网络？[神经网络的架构、工作、激活函数]

[深度学习入门]什么是神经网络？[神经网络的架构、工作、激活函数]

目录 一、前言二、神经网络的架构——以手写数字识别三、神经网络的工作1、单输入单输出感知器函数2、二维输入参数3、三维输入参数 四、激活函数1、激活函数2、ReLU激活函数3、非线性激活函数&#xff08;1&#xff09;二输入二输出的神经网络的架构&#xff08;2&#xff09;…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023