微服务组件(高并发带来的问题 服务器雪崩效应 Sentinel入门)

news2025/1/6 17:22:21

高并发带来的问题 服务器雪崩效应 Sentinel入门

  • 高并发带来的问题
    • 模拟高并发
  • 服务器雪崩效应
    • 常见容错方案
  • Sentinel入门(常见的容错组件)
    • 什么是Sentinel?
    • 订单服务集成Sentinel
    • 流控规则
      • 预热流控
      • 等待流控
      • 关联流控
      • 链路流控
    • 降级(提供一个兜底方案)
      • 慢调用比例
      • 异常比例
      • 异常数案例


高并发带来的问题

在微服务架构中,我们将业务拆分成一个个的服务,服务与服务之间可以相互调用,但是由于网络原因或者自身的原因,服务并不能保证服务的100%可用,如果单个服务出现问题,调用这个服务就会出现网络延迟,此时若有大量的网络涌入,会形成任务堆积,最终导致服务瘫痪。


模拟高并发

1.创建SentinelController

@RestController
    public class SentinelController {
        @RequestMapping("/sentinel1")
        public String sentinel1() throws InterruptedException {
            TimeUnit.SECONDS.sleep(1);
            return "sentinel1";
        }
        @RequestMapping("/sentinel2")
        public String sentinel2() throws InterruptedException {
            return "sentinel2";
        }
    }

2.修改配置文件中tomcat的并发数

tomcat:
  threads:
    max: 10 #tomcat的最大并发值修改为10

服务器雪崩效应

在分布式系统中,由于网络原因或自身的原因,服务一般无法保证100%可用。如果一个服务出现了问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等待,进而导致服务瘫痪。
由于服务与服务之间的依赖性,故障会传播,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的“雪崩效应”。
服务器的雪崩效应其实就是某个微小的服务器挂了,导致整一大片的服务器都不可用,类似生活中的雪崩效应,由于落下的最后一片雪花引发了雪崩的情况。
雪崩发生的原因多种多样,有不合理的容量设计,或者是高并发下某一个方法响应变慢,亦或是某台机器的资源耗尽。我们无法完全杜绝雪崩源头的发生,只能做好足够 的容错,保证在一个服务器发生问题,不会影响到其它服务的正常运行。

常见容错方案

1.隔离机制:比如服务A内总共有100个线程,现在服务A可能会调用服务B,服务C,服务D.我们在服务A进行远程调用的时候,给不同的服务分配固定的线程,不会把所有线程都分配给某个微服务.比如调用服务B分配30个线程,调用服务C分配30个线程,调用服务D分配40个线程.这样进行资源的隔离,保证即使下游某个服务挂了,也不至于把服务A的线程消耗完。比如服务B挂了,这时候最多只会占用服务A的30个线程,服务A还有70个线程可以调用服务C和服务D。

2.超时机制:在上游服务调用下游服务的时候,设置一个最大响应时间,如果超过这个时间,下游未作出反应,就断开请求,释放掉线程。

3.限流机制:限流就是限制系统的输入和输出流量已达到保护系统的目的。为了保证系统的稳固运行,一旦达到的需要限制的阈值,就需要限制流量并采取少量措施以完成限制流量的目的。

4.熔断机制:在互联网系统中,当下游服务因访问压力过大而响应变慢或失败,上游服务为了保护系统整体的可用性,可以暂时切断对下游服务的调用。这种牺牲局部,保全整体的措施就叫做熔断。
服务熔断一般有三种状态:
。熔断关闭状态(Closed)
服务没有故障时,熔断器所处的状态,对调用方的调用不做任何限制
。熔断开启状态(Open)
后续对该服务接口的调用不再经过网络,直接执行本地的fallback方法4.
。半熔断状态(Half-Open)
尝试恢复服务调用,允许有限的流量调用该服务,并监控调用成功率。如果成功率达到预期,则说明服务已恢复,进入熔断关闭状态;如果成功率仍旧很低,则重新进入熔断关闭状态。

5.降级机制:降级其实就是为服务提供一个兜底的方案了,一旦服务无法正常调用,就使用兜底方案

注意:在调用第三方接口的时候不能同步调用,要么通过异步线程池,要么通过mq消息中间件的方式


Sentinel入门(常见的容错组件)

什么是Sentinel?

Sentinel (分布式系统的流量防卫兵)是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性

Sentinel管控台:针对服务进行规则的配置
Sentinel核心库:做具体的信息拦截和请求发送


订单服务集成Sentinel

第一步:导入依赖

<!--sentinel组件-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency

第二步:增加配置文件

spring:
  cloud:
    sentinel:
      transport:
        port: 9999 #跟控制台交流的端口,随意指定一个未使用的端口即可
        dashboard: localhost:8080 #指定控制台服务的地址

第三步:安装sentinel控制台

下载jar包

在这里插入图片描述

启动控制台
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar

成功标志
在这里插入图片描述

进入到控制台面板,登录账号和密码默认都是sentinel
在这里插入图片描述

流控规则

流量控制,其原理是监控应用流量的QPs(每秒查询率)或并发线程数等指标,当达到指定的阈值时对流量进行控制

资源名:唯一名称,默认是请求路径,可自定义
针对来源:指定对哪个微服务进行限流,默认指default,意思是不区分来源,全部限制阈值类型/单机阈值:
.QPS(每秒请求数量):当调用该接口的QPs达到阈值的时候,进行限流
·线程数:当调用该接口的线程数达到阈值的时候,进行限流
是否集群:暂不需要集群


预热流控

在这里插入图片描述
前期初始化需要消耗大量资源,所以需要将流量控制的少一点

等待流控

在这里插入图片描述如果一个请求等待的时间超过规定时间,就会被流控

关联流控

当某一核心资源的重要请求到达他的阈值,为了保证它能够正常运转,对别的不重要的请求进行限流
在这里插入图片描述

链路流控

在这里插入图片描述
不添加该属性的话,默认会将tranceService折叠掉
在这里插入图片描述

公共部分:

public class SentinelServiceImpl {
    @SentinelResource(value = "tranceService")
    public String resourceMethod(){
        //做业务
        return "业务资源";
    }
}

Controller接口:

@RestController
    public class TraceController {

        @Autowired
        private SentinelServiceImpl sentinelService;
        @RequestMapping("/trace1")
        public String trace1(){
            sentinelService.resourceMethod();
            return "trace1";
        }

        @RequestMapping("/trace2")
        public String trace2(){
            sentinelService.resourceMethod();
            return "trace2";
        }
    }

控制台:

在这里插入图片描述


降级(提供一个兜底方案)

慢调用比例

在这里插入图片描述

最大RT=1000
请求处理时间大于1000毫秒,属于一个慢请求
比例阈值 = 0.1
熔断时长 = 10
最小请求数 = 5
当—段时间,请求中慢比例的数值大于10%,自动触发熔断机制,拒绝请求进入,拒绝10秒.

异常比例

在这里插入图片描述

比例阈值 0.3,如果错误的请求数/总请求数>0.3,达到了进行熔断的条件
请求1 正常
请求2 正常
请求3 错误
请求4 正常

在这里插入图片描述

异常数案例

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/189778.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

显著图(Saliency map)

这里写目录标题概念应用算法传统算法静态显著性算法&#xff1a;对数光谱&#xff08;SpectralResidual&#xff09;&#xff1a;静态显著性算法&#xff1a;细粒方法&#xff08;FineGrained&#xff09;&#xff1a;人工智能算法基于眼动仪预测显著性区域方法积分梯度方法对比…

jsp学生宿舍管理系统Myeclipse开发mysql数据库web结构java编程计算机网页项目

一、源码特点 jsp 学生宿舍管理系统 是一套完善的web设计系统&#xff0c;对理解JSP java编程开发语言有帮助&#xff0c;系统具有完整的源代码和数据库&#xff0c;系统主要采用B/S模式开发。开发环境为 TOMCAT7.0,Myeclipse8.5开发&#xff0c;数据库为Mysql&#xff0c;使…

【Vue】Vue的简介和特性

一、Vue简介Vue.js可以说是MVVM架构的最佳实践&#xff0c;是一个JavaScript MVVM库&#xff0c;是一套构建用户界面的渐进式前端框架。专注于MVVM中的ViewModel&#xff0c;不仅做到了数据双向绑定&#xff0c;而且也是一款相对比较轻量级的JS 库&#xff0c;API简洁。1. 构建…

Day 15 SpringBoot Condition

1 Condition作用&#xff1a;该功能可以选择性的创建Bean1.1 验证在Spring的IOC容器中有一个User的 Bean&#xff0c;现要求导入Jedis坐标后&#xff0c;加载该Bean&#xff0c;没导入&#xff0c;则不加载。【第一步】创建User对象Repository Conditional(ClassCondition.clas…

【yolov5系列】yolov5-onnxruntime在Ubuntu和RK芯片上运行

前言 这里yolov5的onnx模型的推理&#xff0c;分别在 x64上 和 移动端上运行&#xff0c;前者在自己本地Ubuntu系统上运行&#xff0c;后者在瑞芯微的rk3566上运行。 要完成如上工作我们需要一下步骤&#xff1a; 1 下载onnxruntime编译好的库2 下载opencv库并安装3 下载交叉编…

88E1548P大流量传输插拔网线导致网络不通

1、测试环境硬件&#xff1a;NXP LS1046A ARM64平台 88E1548P 软件&#xff1a;linux 4.19.26 linux 5.10.35环境说明&#xff1a;88E1548P 是一个QSGMII 的 phy 芯片&#xff0c;LS1046A CPU 提供4个GMAC 与 88E1548P 连接&#xff0c;就是4个千兆网口。2、具体现象eth7发包…

OFDM系统架构梳理(1)

1、ofdm简介OFDM是一种特殊的多载波传输方案&#xff0c;它可以被看作是一种调制技术&#xff0c;也可以被当作一种复用技术。多载波传输把数据流分解成若干子比特流&#xff0c;这样每个子数据流将具有低得多的比特速率&#xff0c;用这样的低比特率形成的低速率多状态符号再去…

Spring Batch 批处理-步骤Step与Tasklet

引言 接着上篇&#xff1a;Spring Batch 批处理-执行上下文&#xff0c;了解作业执行上下文后&#xff0c;本篇就来了解一下Spring Batch批处理步骤Step对象与任务处理对象Tasklet&#xff0c;看下Spring Batch 如何运作的。 步骤介绍 一般认为步骤是一个独立功能组件&#…

密码学大咖DavidWong历经数年创作编写而成的这本书

从我开始写本书到图书出版已经有几年了。最初&#xff0c;我打算将本书作为介绍现实世界常用密码原语的图书。但是&#xff0c;这显然是一件不可能完成的事情。任何一个领域都不可能用一本书来总 结清楚。出于这个原因&#xff0c;我必须在知识的深度和广度之间找到平衡。我希望…

3.6双端口RAM和多模块存储器

文章目录关键词正文一、存取周期二、引子三、双端口RAM四、多体并行存储器&#xff08;1&#xff09;高位交叉编址方式&#xff08;2&#xff09;低位交叉编址方式&#xff08;3&#xff09;编址&#xff08;4&#xff09;特性举例<1> 高位交叉编址<2> 低位交叉编址…

word实用技巧:拼音指南用法及注意事项

如果你是一位语文老师&#xff0c;在为学生准备试卷时&#xff0c;时常会用到Word拼音指南功能&#xff1b;如果你是一位职场白领&#xff0c;在为领导准备发言稿、颁奖名单时&#xff0c;以防领导读错音&#xff0c;也会用到Word拼音指南功能对生僻字&#xff0c;多音字进行单…

RabbitMQ 获取消息(Ack Mode)

在服务器端的客户端页面从队列中获取消息是一个危险的动作&#xff0c;生产环境一定要了解业务之后再做操作。 Act Mode Nack message requeue true 接收消息但不做确认&#xff0c;消息会重新加入队列 Automatic ack 获取消息&#xff0c;应答确认&#xff0c;消息不…

C#,编程语言的基本概念与知识点

本文归纳整理C#的一些知识点&#xff0c;便于快速浏览与掌握C#语言的一些基本概念。本文并没有很好地层次与组织&#xff0c;抄了不少&#xff0c;写了不少&#xff0c;想到什么&#xff0c;就写什么。01 类 class类是C#等面向对象编程语言&#xff08;Object-oriented program…

分享152个ASP源码,总有一款适合您

ASP源码 分享152个ASP源码&#xff0c;总有一款适合您 下面是文件的名字&#xff0c;我放了一些图片&#xff0c;文章里不是所有的图主要是放不下...&#xff0c; 152个ASP源码下载链接&#xff1a;https://pan.baidu.com/s/1fOOs06p6YghEzceqJ4twaA?pwd0p4z 提取码&#x…

Vue-透传Attributes使用解析

透传是vue中一种特性&#xff0c;官方的解释是&#xff1a;“透传 attribute”指的是传递给一个组件&#xff0c;却没有被该组件声明为 props 或 emits 的 attribute 或者 v-on 事件监听器。最常见的例子就是 class、style 和 id。这句话解释过来就是一些不被prop定义的属性直接…

面对层出不穷的问题,延迟开学的原因就是取消延时服务?

面对层出不穷的问题&#xff0c;延迟开学的原因就是取消延时服务&#xff1f; #延迟开学#请问为什么要延迟&#xff1f;疫情期间说要回家可以理解&#xff0c; 这两天都传着说郑州市的中小学、幼儿园推迟开学了&#xff0c;到底有没有这种情况&#xff1f;我们现在又来到了郑…

零基础入行软件测试怎么学习~

随着近几年软件测试行业的异军突起&#xff0c;加之这又是个进入门槛相对较低的行业&#xff0c;导致不少人都想从事这个岗位。那么&#xff0c;许多初学者在一开始都会想知道&#xff0c;零基础入门软件测试要学什么?希望本文可以对大家的软件测试学习之路有一定的指导意义&a…

Vue实现考勤记录删除-自定义右击删除菜单

一、定义和使用oncontextmenu 事件在元素中用户右击鼠标时触发并打开上下文菜单。注意&#xff1a;所有浏览器都支持 oncontextmenu 事件&#xff0c; contextmenu 元素只有 Firefox 浏览器支持。二、语法HTML 中:<element oncontextmenu"myScript">JavaScript…

RabbitMQ面试题

什么是 MQ MQ(message queue)&#xff0c;从字面意思上看&#xff0c;本质是个队列&#xff0c;FIFO 先入先出&#xff0c;只不过队列中存放的内容是 message 而已。 还是一种跨进程的通信机制&#xff0c;用于上下游传递消息。 在互联网架构中&#xff0c;MQ 是一种非常常见的…

一文走进多核架构下的内存模

一、走进多核编程CPU 发展早期阶段&#xff0c;性能的提升主要来自于主频的提升和架构的优化&#xff0c;当这条优化途径出现瓶颈后&#xff0c;多核 CPU 开始流行起来。多核心同时执行任务极大地提高了系统整体性能&#xff0c;但也对硬件架构和软件编写提出了更大的挑战。各个…