GORM数据库连接池对接Prometheus

news2024/10/7 12:30:00

一、背景与介绍

        Golang的database/sql包定了关于操作数据库的相关接口,但是没有去做对应数据库的实现。这些实现是预留给开发者或者对应厂商进行实现的。

        其中让我比较关注的是Golang的sql包有没有实现连接池pool的机制呢?  毕竟Golang是静态语言,类似Java我们看到很多连接池的实现例如阿里巴巴的Apache druid。给开发者提供了一个高效的数据库连接池,提高应用的性能,连接池保持与后端数据库的长连接,在需要的时候直接使用即可。使用完毕后,将连接归还到连接池中。  并且还提供可视化界面,查看连接池的运行情况、连接数情况、活跃数、空闲数等等。

        我们通过源码可以发现,Golang底层的sql包是实现了数据库连接池的逻辑。但是Golang的连接池,都是隐式/惰性使用,只有在执行到查询SQL或者执行SQL的时候,才从pool中拿到连接进行执行, 不会像Java一样显式使用,需要从pool中拿到连接对象,再通过这个连接对象执行SQL.

二、GORM配置prometheus

1、对接Prometheus的目的

        GORM支持配置Promtehues的export, 这样我们再结合Grafana面板就能很直观地对Go程序的SQL连接池进行监控。

        可以监控到当前连接池的连接数有没有超过最大连接数、空闲连接数等等,由此来保证我们程序的正常运行。

        一般我们的Go项目都使用到GROM, 既然GORM实现了Prometheus的export,那么就使用内置功能进行测试。 其实我们也可以自己实现这个exporter, 通过DB对象的Stats()方法,返回连接池统计数据,再封装为exporter接口暴露出来即可。     

2、开启Promtheus exporter

db.go测试代码:

package db

import (
	"gorm.io/driver/mysql"
	"gorm.io/gorm"
	"gorm.io/gorm/logger"
	"gorm.io/plugin/prometheus"
	"log"
	"os"
	"sync"
	"time"
)

var db *gorm.DB
var once sync.Once
var getDbConnErr error
var dsn = "root:root@tcp(127.0.0.1:3307)/test?charset=utf8mb4&parseTime=True&loc=Local"

// GetDbConn 获取mysql连接
func GetDbConn() *gorm.DB {
	once.Do(func() {
		logfile, _ := os.OpenFile("./sql.log", os.O_CREATE|os.O_APPEND|os.O_RDWR, 0666)
		newLogger := logger.New(log.New(logfile, "\r\n", log.LstdFlags), logger.Config{
			SlowThreshold: time.Second,
			LogLevel:      logger.Info,
		})
		db, getDbConnErr = gorm.Open(mysql.Open(dsn), &gorm.Config{
			Logger: newLogger,
		})
		if getDbConnErr != nil {
			panic(getDbConnErr)
		}
		db.Use(prometheus.New(prometheus.Config{
			DBName:          "db1",                       // 使用 `DBName` 作为指标 label
			RefreshInterval: 15,                          // 指标刷新频率(默认为 15 秒)
			PushAddr:        "prometheus pusher address", // 如果配置了 `PushAddr`,则推送指标
			StartServer:     true,                        // 启用一个 http 服务来暴露指标
			HTTPServerPort:  8080,                        // 配置 http 服务监听端口,默认端口为 8080 (如果您配置了多个,只有第一个 `HTTPServerPort` 会被使用)
			MetricsCollector: []prometheus.MetricsCollector{
				&prometheus.MySQL{
					Prefix:        "gorm_mysql_stats_",
					Interval:      15,
					VariableNames: []string{"Threads_running"},
				},
			}, // 用户自定义指标
		}))
		DB, _ := db.DB()
		// 最大连接数
		DB.SetMaxOpenConns(2)
		// 最大空闲连接数 <= 最大连接数
		DB.SetMaxIdleConns(1)
		// 连接数的生命周期, 从创建开始记时,到时间点会被销毁
		DB.SetConnMaxLifetime(time.Hour * 7)
		// 最大空闲时间, 这个链接距离上一次被使用的时间段,超过这个时间则认为该连接已过期
		DB.SetConnMaxIdleTime(time.Hour)
	})
	return db
}

 main.go测试代码:

package main

import (
	db "awesomeProject1/db"
	"fmt"
	_ "gorm.io/driver/mysql"
	"gorm.io/gorm"
	"math/rand"
	"time"
)

func main() {
	dbConn := db.GetDbConn()
	for i := 0; i < 10; i++ {
		go func(conn *gorm.DB) {
			for {
				time.Sleep(time.Second * time.Duration(rand.Intn(10)))
				rows := dbConn.Raw("select * from users")
				var res []map[string]interface{}
				fmt.Println(rows.Scan(&res))
			}
		}(dbConn)
	}
	for {
		time.Sleep(time.Second * 2)
		fmt.Println("running....")
	}
}

 访问http://localhost:8080/metrics 查看到指标数据:

3、采集metrics到Promtehus

promethues.yaml配置添加采集任务: 

4、Grafana配置监控面板

1、通过图表能看到,我们配置了连接池最大连接数是2个, 但是有10个协程去执行查询SQL,观察wait_count指标曲线在持续上涨, 此时有26个协程还在阻塞等待获取数据库连接,同时查看右边是等待获取数据库连接等待耗时曲线,也是一直在上涨,此时我们应该判定数据库连接池满了。那么例如生产环境,看到这种曲线要么我们设置的连接池最大连接数过小,要么mysql的连接数已经跑满了。 此时应该告警,查看异常的情况。

2、我们将最大连接数调整为20以后再观察监控面板:

   最大连接数已从2调整为20(2->20), 此时再看监控面板, 等待的协程数量wait_count:0、同时协程等待获取数据库连接的时间已经降为了0ns, 此时数据库连接池不再是爆满的状态。

三、总结

        无论Golang的什么ORM框架,GORM也好、XORM也罢, 底层还是去使用了database/sql这个包,这个包底层实现了连接池的抽象,同时提供了获取连接池相关统计信息的接口。 我们再结合Prometheus将这些指标暴露出来,结合Grafana这套告警体系,就可以实时监控和观察我们Go程序MySQL连接池的情况。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1637731.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【模板】二维前缀和

原题链接&#xff1a;登录—专业IT笔试面试备考平台_牛客网 目录 1. 题目描述 2. 思路分析 3. 代码实现 1. 题目描述 2. 思路分析 二维前缀和板题。 二维前缀和&#xff1a;pre[i][j]a[i][j]pre[i-1][j]pre[i][j-1]-pre[i-1][j-1]; 子矩阵 左上角为(x1,y1) 右下角(x2,y2…

计算机网络chapter1——家庭作业

文章目录 复习题1.1节&#xff08;1&#xff09; “主机”和“端系统”之间有何不同&#xff1f;列举几种不同类型的端系统。web服务器是一种端系统吗&#xff1f;&#xff08;2&#xff09;协议一词常用来用来描述外交关系&#xff0c;维基百科是如何描述外交关系的&#xff1…

038——基于STM32和I.MX6uLL实现uart控制GPS(失败者总结)

目录 1、GPS模块简介 2、GPS数据格式 3、方案梳理 1、GPS模块简介 全球定位系统(Global Positioning System&#xff0c; GPS)是一种以空中卫星为基础的高精度无线电导航的定位系统&#xff0c;它在全球任何地方以及近地空间都能够提供准确的地理位置、车行速度及精确的时间…

项目运行到手机端

运行到真机 手机和点到连在同一个wifi网络下面点击hbuiler上面的预览得到一个&#xff0c;network的网址这个时候去在手机访问&#xff0c;那么就可以访问网页了 跨域处理 这个时候可能会访问存在跨域问题 将uniapp的H5版本运行到真机进行调试&#xff0c;主要涉及到跨域问题…

开源农场管理软件

软件介绍 Tania是一款基于Go、Vue.JS和SQLite的开源农场日记软件。该项目始于2016年11月&#xff0c;由于无法找到适合自己需求的软件&#xff0c;开发团队决定自己搭建一套适合家庭后院花园的管理系统&#xff0c;并可以随时随地进行管理。 项目功能描述 Tania是一款免费且开源…

MySQL——88张表汇总——DDL+外键

外键er图 88张表 /* Navicat MySQL Data TransferSource Server : MyList Source Server Version : 50726 Source Host : localhost:3309 Source Database : schooldbTarget Server Type : MYSQL Target Server Version : 50726 File Encoding …

YOLOV8添加SKATTENTION

修改ultralytics.nn.modules._init_.py https://zhuanlan.zhihu.com/p/474599120?utm_sourcezhihu&utm id0 https://blog.csdn.net/weixin 42878111/article/details/136060087 https://blog.csdn.net/gg 51511878/aricle/details/138002223 . 最后输出层不一样。

【学习AI-相关路程-工具使用-NVIDIA SDK MANAGER==NVIDIA-jetson刷机工具安装使用 】

【学习AI-相关路程-工具使用-NVIDIA SDK manager-NVIDIA-jetson刷机工具安装使用 】 1、前言2、环境配置3、知识点了解&#xff08;1&#xff09;jetson 系列硬件了解&#xff08;2&#xff09;以下大致罗列jetson系列1. Jetson Nano2. Jetson TX23. Jetson Xavier NX4. Jetson…

镜像部署和服务器步署的介绍和不同点

镜像部署通常指的是使用Docker容器进行部署&#xff0c;而服务器部署则是指直接在服务器的操作系统上安装依赖并运行项目。下面是两种部署方式的介绍和它们的主要不同点&#xff1a; 镜像部署&#xff08;Docker&#xff09;&#xff1a; 环境隔离&#xff1a;Docker通过容器…

基于Amazon Bedrock打造Claude3 Opus智能助理

近期&#xff0c;Anthropic 发布了其最新的大模型 Claude3。截止本文撰写时&#xff0c;Claude3 Opus、Claude3 Sonnet、Claude3 Haiku 均已在 Amazon Bedrock 可用&#xff0c;随着 Amazon Bedrock 可提供越来越多的大模型&#xff0c;您可以在您的应用场景里将其落地&#xf…

C语言:指针详解(3)

目录 一、字符指针 二、数组指针 1.数组指针的定义 2.数组指针的初始化 3. 二维数组传参的本质 三、函数指针 1.函数指针的创建 2.函数指针的使用 3.有趣的代码(1) 4.有趣的代码(2) 四、typedef关键字 1.typedef的使用方法 2.typedef和#define的区别 五、函数指针…

湖南建研信息工程质量检测系统 文件上传致RCE

漏洞描述 湖南建研信息工程质量检测系统 文件上传致RCE&#xff0c;攻击者可通过此漏洞上传恶意脚本文件&#xff0c;对服务器的正常运行造成安全威胁&#xff01; 漏洞复现 1、语法 fofa&#xff1a;https://fofa.info/ body"/Content/Theme/Standard/webSite/login.c…

PDF 正确指定页码后,挂载的书签页码对不上

这个问题与我的另一篇中方法一样 如何让一个大几千页的打开巨慢的 PDF 秒开-CSDN博客 https://blog.csdn.net/u013669912/article/details/138166922 另作一篇的原因 一篇文章附带一个与该文章主题不相关的问题时&#xff0c;不利于被遇到该问题的人快速搜索发现以解决其遇到…

理解Linux文件系统

文章目录 一、引言二、Linux文件系统概述1、文件系统的结构2、文件系统目录树的逻辑结构 二、文件系统的特性1、super block&#xff1a;文件系统的超级块2、inode&#xff1a;文件系统的索引节点3、inode table4、block&#xff1a;文件系统的数据块5、块组描述符表&#xff0…

Linux系统中搭建Mosquitto MQTT服务并实现远程访问本地消息代理进行通信

文章目录 1. Linux 搭建 Mosquitto2. Linux 安装Cpolar3. 创建MQTT服务公网连接地址4. 客户端远程连接MQTT服务5. 代码调用MQTT服务6. 固定连接TCP公网地址7. 固定地址连接测试 今天和大家分享一下如何在Linux系统中搭建Mosquitto MQTT协议消息服务端,并结合Cpolar内网穿透工具…

移植 SquareLine 导出的 UI 源码到 HMI-Board

目录 准备工具创建 HMI 工程设计 UIUI 移植板级验证更多内容 HMI-Board 为 RT-Thread 联合瑞萨推出的高性价比图形评估套件&#xff0c;取代传统的 HMI 主控板 硬件&#xff0c;一套硬件即可实现 HMI IoT 控制 的全套能力。依托于瑞萨高性能芯片 RA6M3 及 RT-Thread 软件生态…

vue this.$message使用点击事件,el Message 消息提示加按钮,在this.$message加按钮

背景:在开发过程中需要再this.$message加点击事件,但是官方并没有提供相应的事件,所以需要自定义一套 展示效果 完整代码 this.$message弹窗部分代码如下,这里点击 <template><!-- 定义了一个按钮,点击时会触发getMessage方法 --><button type="pri…

vue3实现移动端,PC端响应式布局

纯移动端|PC端 这种适用于只适用一个端的情况 方法&#xff1a;amfe-flexible postcss-pxtorem相结合 ① 执行以下两个命令 npm i -S amfe-flexible npm install postcss-pxtorem --save-dev② main.js文件引用 import amfe-flexible③ 根目录新建一个postcss.config.js文件…

【二叉树——数据结构】

文章目录 1.二叉树1.基本概念.几种特殊的二叉树 2.考点3.二叉树的存储结构4.二叉树的遍历5.线索二叉树 1.二叉树 1.基本概念. 二叉树是n(n>0)个结点的有限集合 或者为空二叉树&#xff0c;即n0 或者由一个根结点和两个互不相交的被称作根的左子树和右子树组成。 每个结点至…

口袋实验室--使用AD2高效调试IIC、UART、SPI等低速接口

目录 1. 简介 2. 调试过程 2.1 简要步骤 2.2 Si5338 寄存器配置流程 2.3 AD2的基本配置 2.4 检查Si5338状态 2.5 配置Si5338寄存器 2.6 保存Si5338寄存器 3. 总结 1. 简介 使用Digilent Analog Discovery 2进行调试不仅提升了工作效率&#xff0c;而且极大地简化了常…