sentinel 以及 sentinel-golang 让你的服务坚如磐石

news2024/11/18 23:38:59

首先要说 Sentinel,这是阿里巴巴内部使用多年并演化出来的流控软件,经受住了多年的双十一考验,最早是服务于Java语言的,在2020年推出了 Sentinel-golang 版本。

官方文档:https://sentinelguard.io/zh-cn/docs/introduction.html

Sentinel 基本概念

资源

资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容,例如,由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。在接下来的文档中,我们都会用资源来描述代码块。

只要通过 Sentinel API 定义的代码,就是资源,能够被 Sentinel 保护起来。大部分情况下,可以使用方法签名,URL,甚至服务名称作为资源名来标示资源。

规则

围绕资源的实时状态设定的规则,可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。

Sentinel 功能和设计理念

流量控制

流量控制在网络传输中是一个常用的概念,它用于调整网络包的发送数据。然而,从系统稳定性角度考虑,在处理请求的速度上,也有非常多的讲究。任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel 作为一个调配器,可以根据需要把随机的请求调整成合适的形状,如下图所示:

在这里插入图片描述

流量控制有以下几个角度:

  • 资源的调用关系,例如资源的调用链路,资源和资源之间的关系;
  • 运行指标,例如 QPS、线程池、系统负载等;
  • 控制的效果,例如直接限流、冷启动、排队等。

Sentinel 的设计理念是让您自由选择控制的角度,并进行灵活组合,从而达到想要的效果。

熔断降级

什么是熔断降级

除了流量控制以外,降低调用链路中的不稳定资源也是 Sentinel 的使命之一。由于调用关系的复杂性,如果调用链路中的某个资源出现了不稳定,最终会导致请求发生堆积。这个问题和 Hystrix 里面描述的问题是一样的。

在这里插入图片描述

Sentinel 和 Hystrix 的原则是一致的: 当调用链路中某个资源出现不稳定,例如,表现为 timeout,异常比例升高的时候,则对这个资源的调用进行限制,并让请求快速失败,避免影响到其它的资源,最终产生雪崩的效果。

熔断降级设计理念

在限制的手段上,Sentinel 和 Hystrix 采取了完全不一样的方法。

Hystrix 通过线程池的方式,来对依赖(在我们的概念中对应资源)进行了隔离。这样做的好处是资源和资源之间做到了最彻底的隔离。缺点是除了增加了线程切换的成本,还需要预先给各个资源做线程池大小的分配。

Sentinel 对这个问题采取了两种手段:

  • 通过并发线程数进行限制

和资源池隔离的方法不同,Sentinel 通过限制资源并发线程的数量,来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗,也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下,例如响应时间变长,对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后,对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。

  • 通过响应时间对资源进行降级

除了对并发线程数进行控制以外,Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后,所有对该资源的访问都会被直接拒绝,直到过了指定的时间窗口之后才重新恢复。

系统负载保护

Sentinel 同时提供系统维度的自适应保护能力。防止雪崩,是系统防护中重要的一环。当系统负载较高的时候,如果还持续让请求进入,可能会导致系统崩溃,无法响应。在集群环境下,网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,这个增加的流量就会导致这台机器也崩溃,最后导致整个集群不可用。

针对这个情况,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。

Sentinel 是如何工作的

Sentinel 的主要工作机制如下:

  • 对主流框架提供适配或者显示的 API,来定义需要保护的资源,并提供设施对资源进行实时统计和调用链路分析。
  • 根据预设的规则,结合对资源的实时统计信息,对流量进行控制。同时,Sentinel 提供开放的接口,方便您定义及改变规则。
  • Sentinel 提供实时的监控系统,方便您快速了解目前系统的状态。

流控降级与容错标准

Sentinel 社区正在将流量治理相关标准抽出到 OpenSergo spec 中,Sentinel 作为流量治理标准实现。有关 Sentinel 流控降级与容错 spec 的最新进展,请参考 opensergo-specification,也欢迎社区一起来完善标准与实现。

在这里插入图片描述

Sentinel Go 实践

引入依赖

> go get -u github.com/alibaba/sentinel-golang

已适配的框架

  • Web
    • CloudWeGo Hertz
    • echo
    • gear
    • Gin
  • RPC
    • CloudWeGo Kitex
    • dubbo-go
    • gRPC-go
    • go-micro
    • go-zero
  • Service Mesh && Runtime
    • Dapr
    • MOSN

定义资源

资源 (resource) 是 Sentinel 中的最核心概念之一,Sentinel 中所有的限流熔断机制都是基于资源生效的,不同资源的限流熔断规则互相隔离互不影响。

在 Sentinel 中,用户可以灵活的定义资源埋点。资源可以是应用、接口、函数、甚至是一段代码。我们的流量治理机制都是为了保护这段资源运行如预期一样。

用户通过 Sentinel api 包里面的接口可以把资源访问包起来,这一步称为“埋点”。每个埋点都有一个资源名称(resource),代表触发了这个资源的调用或访问。有了资源埋点之后,我们就可以针对资源埋点配置流量治理规则。即使没有配置任何规则,资源埋点仍然会产生 metric 统计。

gin框架

> go get -u github.com/sentinel-group/sentinel-go-adapters/gin
go: github.com/sentinel-group/sentinel-go-adapters@v1.0.1 requires
        github.com/micro/go-micro/v2@v2.9.1 requires
        github.com/micro/cli/v2@v2.1.2: reading https://goproxy.io/github.com/micro/cli/v2/@v/v2.1.2.mod: 404 Not Found
        server response:
        not found: github.com/micro/cli/v2@v2.1.2: invalid version: git ls-remote -q origin in /data1/golang/pkg/mod/cache/vcs/2f5431eb5439e9d79f82a6d853348656f17b78125db9eda81300
bc014d0f0a5d: exit status 128:
                fatal: could not read Username for 'https://github.com': terminal prompts disabled
        Confirm the import path was entered correctly.
        If this is a private repository, see https://golang.org/doc/faq#git_https for additional information.

应该是go-micro这个项目出现了问题,这是已知的事情。

sentinel-go-adapters fork 到自己仓库,将 micro 相关的删掉,然后 go mod tidy,提交到自己的仓库。

go get github.com/phprao/sentinel-go-adapters@v1.0.2
import sentinelPlugin "github.com/phprao/sentinel-go-adapters/gin"

使用中间件的方式引入

r := gin.New()
r.Use(sentinelPlugin.SentinelMiddleware())

这是默认的方式,其效果是

  • 资源名称:{method}:{path}, such as "GET:/api/users/:id"
  • 如果触发了限流,会返回 429 (http.StatusTooManyRequests) 状态码
  • 可以通过传入 Option 来改变默认行为

方法签名

// SentinelMiddleware returns new gin.HandlerFunc
// Default resource name is {method}:{path}, such as "GET:/api/users/:id"
// Default block fallback is returning 429 code
// Define your own behavior by setting options
func SentinelMiddleware(opts ...Option) gin.HandlerFunc {
	options := evaluateOptions(opts)
	return func(c *gin.Context) {
		resourceName := c.Request.Method + ":" + c.FullPath()

		if options.resourceExtract != nil {
			resourceName = options.resourceExtract(c)
		}
		// 埋点
		entry, err := sentinel.Entry(
			resourceName,
			sentinel.WithResourceType(base.ResTypeWeb),// 标记该埋点资源的分类
			sentinel.WithTrafficType(base.Inbound),// 入网流量
		)

         // 触发了限流
		if err != nil {
			if options.blockFallback != nil {
				options.blockFallback(c)
			} else {
				c.AbortWithStatus(http.StatusTooManyRequests)
			}
			return
		}
		// 业务逻辑结束后一定要关闭 entry
		defer entry.Exit()
		c.Next()
	}
}

提供了两个 Option,而且 Entry 只封装了这两个。

// WithResourceExtractor sets the resource extractor of the web requests.
func WithResourceExtractor(fn func(*gin.Context) string) Option {
	return func(opts *options) {
		opts.resourceExtract = fn
	}
}

// WithBlockFallback sets the fallback handler when requests are blocked.
func WithBlockFallback(fn func(ctx *gin.Context)) Option {
	return func(opts *options) {
		opts.blockFallback = fn
	}
}

分别用来设置 resourceName 和 触发限流后的返回信息,如果将 resourceName 设置为客户端IP,那就成了IP限流,比如。

// customize resource extractor if required
// method_path by default
WithResourceExtractor(func(ctx *gin.Context) string {
    return ctx.GetHeader("X-Real-IP")
}),

// customize block fallback if required
// abort with status 429 by default
WithBlockFallback(func(ctx *gin.Context) {
    ctx.AbortWithStatusJSON(400, map[string]interface{}{
        "err":  "too many request; the quota used up",
        "code": 10222,
    })
}),

剩下的就是初始化

import sentinel "github.com/alibaba/sentinel-golang/api"

err := sentinel.InitDefault()
if err != nil {
    t.Fatalf("Unexpected error: %+v", err)
}

然后加载流控规则

import "github.com/alibaba/sentinel-golang/core/flow"

_, err = flow.LoadRules([]*flow.Rule{
	{
		Resource:               "GET:/show/stats",
		Threshold:              10,// 1秒10个
		TokenCalculateStrategy: flow.Direct,// 表示直接使用字段 Threshold 作为阈值
		ControlBehavior:        flow.Reject,// 表示超过阈值直接拒绝
         StatIntervalInMs:       1000,// 统计周期,单位毫秒,设置为1000就意味着QPS
	},
})
if err != nil {
	// 加载规则失败,进行相关处理
}

测试

func TestSentinel(t *testing.T) {
	for i := 0; i < 20; i++ {
		t.Run("run-"+strconv.Itoa(i), func(t *testing.T) {
			resp, err := http.Get("http://127.0.0.1:8007/show/stats")
			if err != nil {
				log.Println(err)
			} else {
				_, err := io.ReadAll(resp.Body)
				if err != nil {
					log.Println(resp.StatusCode, err)
				} else {
					log.Println(resp.StatusCode)
				}
			}

		})
	}
}
=== RUN   TestSentinel/run-0
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-1
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-2
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-3
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-4
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-5
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-6
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-7
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-8
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-9
2023/09/27 14:57:50 200
=== RUN   TestSentinel/run-10
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-11
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-12
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-13
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-14
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-15
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-16
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-17
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-18
2023/09/27 14:57:50 429
=== RUN   TestSentinel/run-19
2023/09/27 14:57:50 429

dashboard控制台

下载 jar 包:https://github.com/alibaba/Sentinel/releases/download/1.8.6/sentinel-dashboard-1.8.6.jar

> java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.8.6.jar

访问:localhost:8080

登录:sentinel / sentinel

在这里插入图片描述

还不知道 golang 怎么接入。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1046825.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

GreatSQL一个关于主从复制的限制描述与规避

一、背景 分享一个在项目运维中遇到的一个主从复制限制的一个坑&#xff0c;项目的架构为主集群灾备集群&#xff0c;每个集群为一主两从模式。主集群到灾备集群的同步为主从复制的方式&#xff0c;根据业务需求灾备集群需要忽略系统库跟某些配置表&#xff0c;所以才会触发此…

24v转12v转9v转5v转4.2v降压电源芯片AH8788

AH8788A是一款集成同步开关的降压转换器&#xff0c;提供***解决方案适用于车载充电器、快充适配器和智能排插。AH8788A内置功率MOS&#xff0c;输入电压范围为9.6V到32V&#xff0c;输出电压范围为3V到12V&#xff0c;***-大可提供18W的输出功率。它能够根据识别到的快充协议自…

手把手教你用 Milvus 和 Towhee 搭建一个 AI 聊天机器人!

作为向量数据库的佼佼者&#xff0c;Milvus 适用于各种需要借助高效和可扩展向量搜索功能的 AI 应用。 举个例子&#xff0c;如果想要搭建一个负责聊天机器人数据管理流程&#xff0c;Milvus 必然是首选向量数据库。那么如何让这个应用程序开发变得易于管理及更好理解&#xff…

速看!美国站新增1个禁售品类,加拿大站3大品类开启售前审核

亚马逊新合规 美国&加拿大◀ 一品类禁售&#xff0c;三品类售前审核 近日&#xff0c;亚马逊发布了合规政策的新要求&#xff0c;其中美国站“呼吸贴”被归类为禁售的产品&#xff0c;加拿大站“儿童床垫”、“夜灯”、“儿童折叠式和非折叠式椅子和凳子”品类均有合规要…

家政服务小程序,家政系统开发

家政服务小程序&#xff0c;家政系统开发&#xff0c;打造一线家政系统&#xff0c;提效增收 家政服务小程序 互联网&#xff0b;家政系统&#xff0c;打造互联网&#xff0b;家政公司app开发&#xff0c;支持个性化定制&#xff0c;直接搭建&#xff0c;上手即用&#xff0e;实…

Redis〔篇〕

redis怎么做到双写一致性呢&#xff1f; 这个是要分情况的 业务要是对一致性要求不是很高的话可以使用延时双删&#xff0c;要强一致的话需要双写一致性。 Redis数据持久化&#xff1f; redis是有两种数据持久化方式的&#xff0c;一种RDB一种AOF rdb是redis数据快照&#x…

大型DOM结构是如何影响交互性的

没有办法绕过这一点&#xff1a;当你构建一个网页时&#xff0c;该页面一定会有一个文档对象模型&#xff08;DOM&#xff09;。DOM代表了你页面HTML的结构&#xff0c;并为JavaScript和CSS提供了访问页面结构和内容的途径。 然而&#xff0c;问题在于DOM的大小会影响浏览器快速…

新手科普!UX设计师是做什么的?

什么是UX设计师&#xff1f; UX设计师(User Experience Designer)&#xff0c;又称用户体验设计师&#xff0c;顾名思义UX设计师是负责设计产品/服务的用户体验的专业人员。UX设计师涵盖了用户调研、交互设计、原型设计、动效设计、UI设计等工作内容。 本文主要介绍数字化软件…

Python机器学习实战-特征重要性分析方法(5):递归特征消除(附源码和实现效果)

实现功能 递归地删除特征并查看它如何影响模型性能。删除时会导致更大下降的特征更重要。 实现代码 from sklearn.ensemble import RandomForestClassifier from sklearn.feature_selection import RFE import pandas as pd from sklearn.datasets import load_breast_cance…

【C语言】【结构体的内存对齐】计算结构体内存大小,有图解

计算结构体内存大小&#xff0c;需要用到结构体内存对齐的知识 来段代码看看什么是结构体对齐&#xff1a; #include<stdio.h> struct S1 {char a;char b;int num; }; struct S2 {char a;int num;char b; }; int main() {printf("%zd\n", sizeof(struct S1))…

真·Redis缓存优化—97%的优化率你见过嘛? | 京东云技术团队

本文通过一封618前的R2M(公司内部缓存组件&#xff0c;可以认为等同于Redis)告警&#xff0c;由浅入深的分析了该告警的直接原因与根本原因&#xff0c;并根据原因提出相应的解决方法&#xff0c;希望能够给大家在排查类似问题时提供相应的思路。 一、问题排查 1.1 邮件告警 …

如何看待Java上层技术与JVM

如何看待Java上层技术与JVM 你是否也遇到过这些问题 运行着的线上系统突然卡死&#xff0c;系统无法访问&#xff0c;甚至直接OOM&#xff01;想解决线上JVM GC问题&#xff0c;但却无从下手。新项目上线&#xff0c;对各种JVM参数设置一脸茫然&#xff0c;直接默认吧&#x…

景联文数据标注:ChatGPT成功的秘密——人类反馈强化学习(RLHF)

ChatGPT的成功很大程度上归功于其采用的新的训练范式——人类反馈强化学习&#xff08;RLHF&#xff09;。RLHF是一种强化学习方法&#xff0c;它将强化学习与人类反馈相结合&#xff0c;通过利用人类提供的反馈来指导智能系统的行为&#xff0c;使其能够更加高效、快速地学习任…

分布式锁工具Redisson(Lua脚本)

如何实现分布式锁&#xff1f; Redis 可以通过 setnx&#xff08;set if not exists&#xff09;命令实现分布式锁 通过执行结果是否为 1 可以判断是否成功获取到锁 setnx mylock true 加锁del mylock 释放锁 分布式锁存在的问题&#xff1a; 死锁问题&#xff0c;未设置过…

运行在浏览器中的Domino Designer开发客户机

大家好&#xff0c;才是真的好。 首先讨论一个非常有意思的事情&#xff0c;就是有人问&#xff0c;如果我用很老的Lotus软件&#xff0c;它是免费的吗&#xff1f; 这估计代表了很多盆友的心声。但不太友好的是&#xff0c;即使你用很老的Lotus软件&#xff08;例如Notes R4…

【2023集创赛】芯原杯一等奖作品:基于芯原DSP核的智能语音SoC设计

本文为2023年第七届全国大学生集成电路创新创业大赛&#xff08;“集创赛”&#xff09;芯原杯一等奖作品分享&#xff0c;参加极术社区的【有奖征集】分享你的2023集创赛作品&#xff0c;秀出作品风采&#xff0c;分享2023集创赛作品扩大影响力&#xff0c;更有丰富电子礼品等…

软件测试面试经验分享,真实面试题

前言 本人普通本科计算机专业&#xff0c;做测试也有3年的时间了&#xff0c;讲下我的经历&#xff0c;我刚毕业就进了一个小自研薪资还不错&#xff0c;有10.5k&#xff08;个人觉得我很优秀&#xff09;&#xff0c;在里面呆了两年&#xff0c;积累了一些的经验和技能&#…

红米手机 导出 通讯录 到电脑保存

不要搞什么 云服务 不要安装什么 手机助手 不要安装 什么app 用 usb 线 连接 手机 和 电脑 手机上会跳出 提示 选择 仅传输文件 会出现下面的 一个 盘 进入 MIUI目录 然后进入 此电脑\Redmi Note 5\内部存储设备\MIUI\backup\AllBackup\20230927_043337 如何没有上面的文件&a…

Linux查找运行的Python脚本路径

目录 查看Python脚本进程id 根据进程ID找脚本路径 查看Python脚本进程id ps -ef|grep python 该命令会输出在运行中的Python脚本&#xff0c;找到你需要的Python脚本进程ID即可&#xff0c;进程ID如图&#xff1a; 根据进程ID找脚本路径 # 将PID替换为上一步中你拷贝的i…

项目03-基于Docker_Nginx+LVS+Flask+MySQL的高可用Web集群

文章目录 一.项目介绍1.拓扑图2.详细介绍 二.前期准备1.项目环境2.IP划分 三. 项目步骤1.ansible部署软件环境1.1 安装ansible环境1.2 建立免密通道1.3 ansible批量部署软件 2.部署nginx和lvs主从服务器2.1 docker配置nginx静态双web服务器从nfs主服务器上那页面数据2.2 使用ke…