SpringCloudGateway--Sentinel限流、熔断降级

news2024/12/23 23:40:13

目录

一、概览

二、安装Sentinel

三、微服务整合sentinel

四、限流

1、流控模式

①直接

②关联

③链路

2、流控效果

①快速失败

②Warm Up

③排队等待

五、熔断降级

1、慢调用比例

2、异常比例

3、异常数


一、概览

       SpringCloudGateway是一个基于SpringBoot2.x的API网关,它可以帮助实现路由、过滤、容错等功能,同时也是微服务架构中不可或缺的一部分。在这篇博客中,将会了解到如何使用Sentinel实现SpringCloudGateway的限流、熔断降级。

        Sentinel是一个轻量级的流量控制框架,它可以帮助我们实现熔断降级、限流等功能,同时也可以与SpringCloudGateway无缝集成。通过使用Sentinel,可以有效地保护微服务架构免受故障和异常的影响。

二、安装Sentinel

        官方提供了UI控制台,下载地址:https://github.com/alibaba/Sentinel/releases

        将下载好的jar包放到任意非中文路径目录,使用java命令启动,可以修改Sentinel的默认端口、账户、密码;server.port默认8080,sentinel.dashboard.auth.username默认sentinel,sentinel.dashboard.auth.password默认sentinel。

        比如我这里放到D盘的Jar文件夹,启动时换成2500端口,命令如下:

java -Dserver.port=25000 -jar  D:\Jar\sentinel-dashboard-1.8.2.jar

        启动之后访问:http://localhost:25000/,账户密码都是sentinel,第一次启动后界面是空白的,因为还没有进行相关微服务项目的整合。

三、微服务整合sentinel

         SpringCloudGateWay项目参考:SpringCloudGateway--自动路由映射与手动路由映射_雨欲语的博客-CSDN博客,源码下载地址:

GitHub - dengyifanlittle/littledyf-test: my-test

        添加依赖:

        <!-- https://mvnrepository.com/artifact/com.alibaba.cloud/spring-cloud-starter-alibaba-sentinel -->
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
            <version>2020.0.RC1</version>
        </dependency>

        添加配置文件:

spring:
  cloud:
    sentinel:
      transport:
      # 服务监控端口
      dashboard: localhost:25000
      # 默认 8719,如果8719被占用了会自动从 8719 开始依次 +1 扫描,直至找到未被占用的端口
      port: 8719

四、限流

        启动项目,访问:http://localhost:9999/service/nacos/test,这时再刷新sentinel界面,里面便有数据了

        流控规则页面新增:

        资源名:指需要进行流控的资源名称。例如,如果我们需要对某个 API 接口进行流控,那么这个 API 接口的地址就是这个规则的资源名。

        针对来源:指需要进行流控的请求来源,可以是单个 IP 地址、应用程序、用户等。例如,我们可以为某个 IP 地址创建一个流控规则,或者为某个应用程序创建一个流控规则,填写微服务名,默认 default(不区分来源)。

         阈值类型/单位阈值:指流控的阈值类型和具体的阈值。阈值类型可以是并发线程数、QPS(每秒请求数)等,具体的阈值则取决于阈值类型。例如,如果阈值类型为并发线程数,那么阈值可以是 100,表示最多只能有 100 个并发线程在访问这个资源

        是否集群:指这个流控规则是否应用于整个集群,如果是,则表示该规则将应用于整个集群范围内的所有实例。如果不是,则表示规则只应用于当前实例。

        流控模式:指当超过阈值时,Sentinel 会采取的流控策略。有三种模式,分别为直接流控模式、关联流控模式、链路流控模式。

        ①直接流控模式:当资源超过阈值时,直接拒绝请求。这是一种比较常见的流控模式,适用于对请求处理能力要求比较高的场景,如秒杀系统。

        ②关联流控模式:当资源超过阈值时,拒绝请求的同时,还会对关联的资源进行流控。这种流控模式适用于有些资源的请求频率较低,但是对资源的请求能力有较大的影响的场景,如数据库或者缓存。

        ③链路流控模式:当资源超过阈值时,不仅会对当前请求进行流控,还会对整个请求链路上的资源进行流控。这种流控模式适用于分布式系统中的场景,例如微服务架构下的请求链路。

        流控效果:指当流控规则触发时,Sentinel 采取的具体流控效果。

        ①快速失败:在快速失败的流控效果下,当请求被拒绝后,Sentinel会立即返回错误信息,告诉请求方请求被拒绝。这种流控效果适用于对响应时间要求比较高的场景,例如秒杀系统或高并发的API接口。

        ②Warm Up:在Warm Up的流控效果下,当系统初次启动或资源被重新分配时,Sentinel会允许一部分请求通过,以减缓流控策略的限制,等待系统稳定后再进行全面的流控。这种流控效果适用于需要短时间内承受高流量的场景,例如系统升级或重启。

        ③排队等待:在排队等待的流控效果下,当请求被拒绝后,Sentinel会将请求放入等待队列中,等待资源可用后再进行处理。这种流控效果适用于对响应时间要求不是很高的场景,例如消息队列或后台任务。

1、流控模式

①直接

        新增流控规则,流控模式选择直接模式,阈值类型QPS,单机阈值1:

        使用jemeter进行测试,线程数量、现成启动时间、运行次数分别设置为1、1、4:

        可以看到有一个成功,三个失败,且失败信息是sentinel默认:

        删除原有规则,新增流控规则,流控模式选直接,阈值类型选择并发线程数,单机阈值设置为2,微服务中只启动一个service即可,并修改其中代码:

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * @Author dengyifan
 * @create 2023/11/1 17:02
 * @description
 */

@RestController
@RequestMapping("/nacos")
public class NacosTestController {

    @GetMapping("/test")
    public String test() throws InterruptedException {

        Thread.sleep(2000);
        return "8088";
    }
}

         并发线程数表示1秒内访问该API接口的线程数,当排队的线程数达到设定的阈值的时候就会进行限流操作,这种通常是出现在访问接口响应很慢的时候,因此代码里面主动休眠2秒模拟。jmeter模拟测试时线程数设置为10,其余为1:

        可以看到返回结果中成功两次,其余8次失败,并返回sentinel默认错误信息:

        如果将sentinel的流控规则删除,则全部成功:

②关联

        新增流控规则,流控模式选择关联,阈值类型选择QPS,单机阈值设置为2,关联资源填写另外的访问接口:

        在我们的微服务中新增两个接口:

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * @Author dengyifan
 * @create 2023/11/1 17:02
 * @description
 */

@RestController
@RequestMapping("/nacos")
public class NacosTestController {


    @GetMapping("/test-one")
    public String testOne() {

        return "8088-one";
    }


    @GetMapping("/test-two")
    public String testTwo() {

        return "8088-two";
    }
}

        在jmeter中线程组设置为1、1、10:

        设置两个http请求,分别设置为test-one和test-two:

        启动测试,可以发现模拟test-one的接口两个成功,8个失败,模拟test-two的接口10个全部成功,因为设置了关联模式,并且test-one关联了test-two接口,当test-two接口的访问超过2的时候,就会让test-one的处于失败状态。这种:

③链路

        对于链路模式,比如A路径会访问到资源C,B路径也会访问到资源C,此时配置链路模式,入口资源设置为A,当访问A达到一定限制就会触发限流,B没有配置,则不会触发。

        配置文件增加:

sentinel.web-context-unify=false

        在gateway项目中新建Controller和Service:

import com.littledyf.service.SentinelTestService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * @Author dengyifan
 * @create 2023/11/9 10:41
 * @description
 */
@RestController
@RequestMapping("/test")
public class SentinelTestController {

    @Autowired
    private SentinelTestService sentinelTestService;

    @GetMapping("/test-sentinel")
    public String testSentinel() {
        return sentinelTestService.testSentinel();
    }
}
import com.alibaba.csp.sentinel.annotation.SentinelResource;
import org.springframework.stereotype.Service;

/**
 * @Author dengyifan
 * @create 2023/11/9 10:42
 * @description
 */
@Service
public class SentinelTestService {
    @SentinelResource("sentinel")
    public String testSentinel() {
        return "test sentinel";
    }
}

        其中@SentinelResource("sentinel")是手动设置资源名,sentinel只会扫描controller层的资源,service通过注解设置。

        新增链路流控:

        jmeter添加测试:

        启动测试查看结果可发现4次里面3次失败:

2、流控效果

①快速失败

        之前流控模式都是使用快速失败,即直接失败,抛出异常。

②Warm Up

        warm up是指预热,比如一些秒杀环节,之前系统流量不高,当秒杀开启突然升高,这个时候开启预热模式,让通过的流量缓慢增加,能够达到设定阈值为止,这样能够很好的保护系统。

        其中会有一个默认1的coldFactor,该值为3,请求QPS从threshold/3开始,经过设置的预热时间后达到设定的阈值,比如我们现在进行以下设置:

        即刚开始有5/3个,后面经过3秒后达到设定的阈值5。

        jmeter设置:

        启动后可以看到前几秒都有失败的,经过3秒后,就稳定达到5个成功:

③排队等待

        排队等待即让请求均匀通过,其实跟漏桶算法是对应的,选择排队等待,必须要将类型设置为QPS,否则是无效的:

        jmeter设置:

        效果:

五、熔断降级

        新增熔断规则界面:

资源名:指需要进行流控的资源名称。例如,如果我们需要对某个 API 接口进行流控,那么这个 API 接口的地址就是这个规则的资源名。

熔断策略:表示触发熔断的条件

①慢调用比例

②异常比例

③异常数

最大RT:当资源的响应时间超过设定的阈值,则统计计数

比例阈值:表示触发熔断的比例阈值,当某个熔断策略的比例超过该阈值,触发熔断

熔断时长:表示触发熔断后,保持熔断状态的时间,一般是为了避免熔断状态过早结束,导致系统负载过高

最小请求数:表述触发熔断的最小请求数,当某个资源的请求数不足该值时,不触发熔断

统计时长:表示熔断策略统计的时间范围,例如最近10秒内的统计数据

1、慢调用比例

        为了模拟慢调用,在接口中进行1000毫秒的休眠达到响应慢的作用:


import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * @Author dengyifan
 * @create 2023/11/1 17:02
 * @description
 */

@RestController
@RequestMapping("/nacos")
public class NacosTestController {

    @GetMapping("/test")
    public String test() throws InterruptedException {
        Thread.sleep(1000);
        return "8088";
    }
}

        熔断设置:

        jmeter设置:

        结果:

        刚运行完之后,在5秒内继续运行,可以看到结果都是失败状态,都被熔断处理了。 

2、异常比例

        代码修改成会出现异常的情况:

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * @Author dengyifan
 * @create 2023/11/1 17:02
 * @description
 */

@RestController
@RequestMapping("/nacos")
public class NacosTestController {

    @GetMapping("/test")
    public String test() throws Exception {
        String s = null;
        if (s.equals("1")){
            return "1";
        }
        return "8088";
    }
}

        新增熔断规则,熔断策略选择异常比例:

        jmeter设置不变,其中前5个都会抛出空指针异常,后面5个是直接熔断:

3、异常数

        熔断策略选择异常数跟异常比例类似,只是异常比例变为异常数了而已

        sentinel还可以配置热点规则以及系统自适应限流。热点规则就类似于微博热搜一样,有时候突然一个热点访问量大,这时候可以进行限流设置,很多时候热点都会进行相应的缓存,比如加上一级缓存、二级缓存等,这些实际就是为了保护系统而进行的设置。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1189666.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

第一次pta认证P测试C++

第一题 试题编号&#xff1a;20210701-1 试题名称&#xff1a;标题统计 时间限制&#xff1a; 1.0s 内存限制&#xff1a; 128.0MB 【问题描述】 小明阅读了一篇特别优美的英文文章&#xff0c;读到最后总结段落的时候&#xff0c;突发奇 想&#xff0c;想要数一数这个段落中…

python+pytorch人脸表情识别

概述 基于深度学习的人脸表情识别&#xff0c;数据集采用公开数据集fer2013&#xff0c;可直接运行&#xff0c;效果良好&#xff0c;可根据需求修改训练代码&#xff0c;自己训练模型。 详细 一、概述 本项目以PyTorch为框架&#xff0c;搭建卷积神经网络模型&#xff0c;训…

数据采集中的基本参数

分辨率(resolution) 分度数量越多则分辨率越高&#xff0c;测量精度也越高 区间(range) 模数转换所能处理模拟信号电平的极限 应尽量使输入与此区间匹配&#xff0c;物尽其用 信号极限幅度集合 所测信号的最大值和最小值 应与输入信号的最大值和最小值相接近 LSB 最低有效…

python编程复习系列——week1(Input Output)

Input & Output 前言0、我们的第一个Python程序一、变量和数据类型1.变量是用来存储值的保留存储位置2.变量以特定的数据类型存储值。常见数据类型&#xff1a;3.字符串添加&#xff08;连接&#xff09;4.字符串乘法&#xff08;带数字&#xff09;&#xff01;5.从用户处…

4K壁纸下载器,多种风格壁纸,一键批量下载到本地,桌面壁纸,高清壁纸,壁纸下载

一个桌面壁纸爬虫工具&#xff0c;该工具可以从内置的多个壁纸网站爬取高清壁纸&#xff0c;并支持将壁纸一键下载到本地&#xff0c;真正实现了所见即所得&#xff0c;不必再费心费力的翻看多个网站。 文末附工具下载链接~ 一、软件简介 本次带来的工具由吾爱的一位大佬开发…

DVWA - 2

文章目录 SQL Injectionlowmediumhigh SQL Injection low 输入 1&#xff0c;可以展示 id 1 的人员信息&#xff1a;输入 1’&#xff0c;有报错信息。可以看出是mysql数据库&#xff0c;‘‘1’’’ 去除两边的引号&#xff0c;再去除1两端的引号&#xff0c;可以看出闭合符…

【遮天】叶凡首次高燃时刻,暴打姜峰逼其下跪,故事逐渐燃情

Hello,小伙伴们&#xff0c;我是小郑继续为大家深度解析国漫资讯。 深度爆料&#xff0c;《遮天》国漫30集剧情最新内容解析&#xff0c;前面剧情中&#xff0c;叶凡被姜峰如疯狗一般追杀&#xff0c;他像一只被狼群追逐的鹿&#xff0c;在山林中亡命逃窜。身后是姜峰那歇斯底…

Mac电脑专业raw图像处理 DxO PhotoLab 7中文最新 for mac

DxO PhotoLab 7是一款专业的图像处理软件&#xff0c;为摄影师和摄影爱好者提供了强大而全面的照片处理和编辑功能。 该软件可以处理来自各种相机的RAW格式图像&#xff0c;包括佳能、尼康、索尼、富士等品牌&#xff0c;同时也支持JPEG格式的处理。这使得用户可以在不损失图像…

uniapp使用vur-cli新建项目并打包

新建项目 npm install -g vue/cli vue create -p dcloudio/uni-preset-vue my-project选择默认模板npm run dev:h5 运行 安装sass和uview &#xff08;npm安装失败&#xff09; bug&#xff1a;使用uni.scss中的变量或样式&#xff0c;<style lang"scss"> 必…

命令行远程操作windows

如遇安装python模块问题&#xff0c;请参考此连接处理&#xff1a;http://t.csdnimg.cn/l9W6f 一、命令行中使用ssh连接 1、安装 OpenSSH 客户端&#xff1a; 在 Windows 10 中&#xff0c;打开“设置”应用&#xff0c;选择“应用” > “可选功能” > “添加功能”。…

request安装完不可用?编辑器没选对

问题&#xff1a; 在vscdo中request安装完不可用 解决方案&#xff1a; 右下角的编辑器选一下。

一种ESDF地图实现方法:FIESTA

背景&#xff1a; 在机器人定位、行动规划中建图是一个很重要的工作&#xff0c;只有通过感知器感知到自己在哪、周围有什么&#xff1b;才能为下一步行动作出决策的依据。然而要知道自己在哪&#xff0c;就必须要有一个整体规划和参照也就是所谓的地图。地图相当于是一次规划…

论文实验可视化方法

真实值预测值误差 张永, 龚众望, 郑英, 等. 工业设备的健康状态评估和退化趋势预测联合研究. 中国科学: 技术科学, 2022, 52: 180–197 Zhang Y, Gong Z W, Zheng Y, et al. Joint study on health state assessment and degradation trend prediction of industrial equipment…

blender动画制作全流程软件

blender官网下载地址 Download — blender.org blender菜单中英文对照表 blender常用快捷键&#xff1a; ~切换视图 z切换着色模式 shiftA新建物体 tab进入编辑模式 在编辑模式下: 1编辑点 2编辑线 3编辑面 shfit空格弹出所有快捷键 游标一般配合标注使用 常用:G移动物体…

接口测试|HttpRunner模拟发送GET请求自动生成测试报告

HttpRunner模拟发送GET请求&自动生成测试报告 前面说到&#xff0c;HttpRunner必须使用yaml或者json文件来进行使用&#xff0c;测试场景文件推荐使用yaml文件进行编辑。 httprunner 项目下yaml文件的格式 在python项目下新建一个 testcases 文件夹&#xff0c;然后再新…

IDEA 设置 Git 在左侧展示

File->settings->Version Control->commit 勾选 Use non-model commit interface

计算当月工作日时间进度

目录 1.按一个月平均算 2.除去星期六星期天算 3.自定义节假日算 1.按一个月平均算 // 获取当前时间 const now new Date(); // 获取当前年份和月份 const currentYear now.getFullYear(); const currentMonth now.getMonth() 1; // 计算当月天数 const daysInMonth ne…

《016.SpringBoot+vue校园社团管理系统》【有文档】

《016.SpringBootvue校园社团管理系统》【有文档】 项目简介 [1]本系统涉及到的技术主要如下&#xff1a; 推荐环境配置&#xff1a;DEA jdk1.8 Maven MySQL 前后端分离; 后台&#xff1a;SpringBootMyBatisPlus; 前台&#xff1a;vueElementUI; [2]功能模块展示&#xff1a…

分享一本让你真正理解深度学习的书

关注微信公众号&#xff1a;人工智能大讲堂&#xff0c;后台回复udl获取pdf文档。 今天要分享的书是Understanding Deep Learning&#xff0c;作者是西蒙普林斯&#xff0c;英国巴斯大学的荣誉教授&#xff0c;其个人学术能力相当强大&#xff0c;在AI领域有着深厚的学术造诣。…

【C++】类型转换【4中类型转换】

目录 1. C语言中的类型转换 2. C的四种类型转换 2.1 static_cast 3.2 reinterpret_cast 3.3 const_cast 3.4 dynamic_cast 3. explict 4. RTTI&#xff08;了解&#xff09; 1. C语言中的类型转换 在 C 语言中&#xff0c;如果 赋值运算符左右两侧类型不同&#xff0…