mysql连接池的实现

news2024/11/19 20:18:07

文章目录

  • 前言
  • 一、池化技术
  • 二、什么是数据库连接池
  • 三、为什么使用数据库连接池
      • 不使用连接池
      • 使用连接池
      • 长连接和连接池的区别
  • 四、数据库连接池运行机制
  • 五、连接池和线程池的关系
  • 六、连接池设计要点
      • 连接池设计逻辑
            • 构造函数
            • 初始化
            • 请求获取连接
            • 归还连接
            • 析构连接池


前言

本文是mysql连接池的实现。学完mysql连接池之后,接下来会结合多线程来进行测试,看看使用连接池性能高,还是不要连接池性能高,具体能差多少。当然这是下一篇文章了哈哈哈哈哈。当前首要任务是学会连接池,会都不会,还用个啥哈哈哈哈。


一、池化技术

池化技术能够减少资源对象的创建次数,提高程序的响应性能,特别是在高并发下这种提高更加明显。
使用池化技术缓存的资源对象有如下共同特点:

  • 对象创建时间长;
  • 对象创建需要大量资源;
  • 对象创建后可被重复使用

像常见的线程池、内存池、连接池、对象池都具有以上的共同特点。

二、什么是数据库连接池

定义:数据库连接池(Connection pooling)是程序启动时建立足够的数据库连接,并将这些连接组成
一个连接池,由程序动态地对池中的连接进行申请,使用,释放

大白话:创建数据库连接是一个很耗时的操作,也容易对数据库造成安全隐患。所以,在程序初始化的
时候,集中创建多个数据库连接,并把他们集中管理,供程序使用,可以保证较快的数据库读写速度,
还更加安全可靠。
这里讲的数据库,不单只是指Mysql,也同样适用于Redis。

三、为什么使用数据库连接池

资源复用:
由于数据库连接得到复用,避免了频繁的创建、释放连接引起的性能开销,在减少系统消耗的基础
上,另一方面也增进了系统运行环境的平稳性(减少内存碎片以及数据库临时进程/线程的数量)。

更快的系统响应速度:
数据库连接池在初始化过程中,往往已经创建了若干数据库连接置于池中备用。此时连接的初始化
工作均已完成。对于业务请求处理而言,直接利用现有可用连接,避免了从数据库连接初始化和释
放过程的开销
,从而缩减了系统整体响应时间。

统一的连接管理,避免数据库连接泄露:
在较为完备的数据库连接池实现中,可根据预先的连接占用超时设定,强制收回被占用连接。从而
避免了常规数据库连接操作中可能出现的资源泄露。

不使用连接池

 1. TCP建立连接的三次握手(客户端与MySQL服务器的连接基于TCP协议)
 2. MySQL认证的三次握手
 3. 真正的SQL执行
 4. MySQL的关闭
 5. TCP的四次握手关闭

可以看到,为了执行一条SQL,需要进行TCP三次握手,Mysql认证、Mysql关闭、TCP四次挥手等其他
操作,执行SQL操作在所有的操作占比非常低
在这里插入图片描述
优点 :实现简单 省了连接池的设计。
缺点:每一次发起SQL操作都经历TCP建立连接、数据库用户身份验证、数据库用户登出、TCP断开连接。

   网络IO较多
   带宽利用率低
   QPS较低
   应用频繁低创建连接和关闭连接,导致临时对象较多,带来更多的内存碎片
   在关闭连接后,会出现大量TIME_WAIT 的TCP状态(在2个MSL之后关闭)(出现大量time_wait对客户端和服务器的影响可以看以前写的全方面了解TCP的文章)

使用连接池

第一次访问的时候,需要建立连接。 但是之后的访问,均会复用之前创建的连接,直接执行SQL语句。

优点:

  1. 降低了网络开销
  2. 连接复用,有效减少连接数。
  3. 提升性能,避免频繁的新建连接。新建连接的开销比较大
  4. 没有TIME_WAIT状态的问题

缺点:

  1. 设计较为复杂

长连接和连接池的区别

  • 长连接是一些驱动、驱动框架、ORM工具的特性,由驱动来保持连接句柄的打开,以便后续的数据
    库操作可以重用连接,从而减少数据库的连接开销。
  • 而连接池是应用服务器的组件,它可以通过参数来配置连接数、连接检测、连接的生命周期等。
    连接池内的连接,其实就是长连接。

连接池就是长连接,但是需要把长连接放到池里面去管理
直接使用长连接的话:每个线程绑定一个连接。但是有些线程需要操作数据库,有些线程不需要操作数据库。那么在执行对应任务的时候,就需要传个参数实现,把对应的连接参数传过来,解耦性比较差。
使用连接池的话:封装任务时候,如果要操作数据库,可以直接从连接池中获取,

四、数据库连接池运行机制

  1. 从连接池获取或创建可用连接;
  2. 使用完毕之后,把连接返回给连接池;
  3. 在系统关闭前,断开所有连接并释放连接占用的系统资源;
    在这里插入图片描述

五、连接池和线程池的关系

连接池和线程池的区别

  • 线程池:主动调用任务。当任务队列不为空的时候从队列取任务取执行。
    比如去银行办理业务,窗口柜员是线程,多个窗口组成了线程池,柜员从排号队列叫号执行。
  • 连接池:被动被任务使用。当某任务需要操作数据库时,只要从连接池中取出一个连接对象,当任
    务使用完该连接对象后,将该连接对象放回到连接池中。如果连接池中没有连接对象可以用,那么
    该任务就必须等待。
    比如去银行用笔填单,笔是连接对象,我们要用笔的时候去取,用完了还回去。

连接池和线程池设置数量的关系:

  • 一般线程池线程数量和连接池连接对象数量一致;
  • 一般线程执行任务完毕的时候归还连接对象;

等待下一篇文章,通过线程池调用连接池来连接mysql数据库,你就会深刻感受到它们明显的区别了;

说了这么多,终于到了连接池的设计与实现了

六、连接池设计要点

使用连接池需要预先建立数据库连接。
连接池设计思路:

  1. 连接到数据库,涉及到数据库ip、端口、用户名、密码、数据库名字等;
        a. 连接的操作,每个连接对象都是独立的连接通道,它们是独立的  **(长连接)**
        b. 配置最小连接数和最大连接数       (同时并发多个线程,有的要操作数据库,有的不需要)
  2. 需要一个队列管理他的连接,比如使用list;
  3. 获取连接对象:
  4. 归还连接对象;
  5. 连接池的名字   (便于扩展,可以划分不同的数据库)

连接池设计逻辑

其实就是创建多个连接对象,用一个队列存起来(空闲队列),当要用连接对象操作数据库的时候,就把存起来的对象拿出来用(获取连接),并把它移除,放到存储使用对象的容器中(使用队列)。当用完它之后,就把它从使用队列中移除,放到空闲队列中,等着让其他想要操场数据库的线程接着使用,避免了频繁的创建和销毁。当系统运行完毕,把所有创建的对象统一销毁即可。

构造函数

设计思路图:
在这里插入图片描述
代码实现:

CDBPool::CDBPool(const char *pool_name, const char *db_server_ip, uint16_t db_server_port,
				 const char *username, const char *password, const char *db_name, int max_conn_cnt)
{
	m_pool_name = pool_name;
	m_db_server_ip = db_server_ip;
	m_db_server_port = db_server_port;
	m_username = username;
	m_password = password;
	m_db_name = db_name;
	m_db_max_conn_cnt = max_conn_cnt;	// 
	m_db_cur_conn_cnt = MIN_DB_CONN_CNT; // 最小连接数量
}

在这里插入图片描述

初始化

设计思路图:
在这里插入图片描述
代码实现:

int CDBPool::Init()
{
	// 创建固定最小的连接数量
	for (int i = 0; i < m_db_cur_conn_cnt; i++)
	{
		CDBConn *pDBConn = new CDBConn(this);
		int ret = pDBConn->Init();
		if (ret)
		{
			delete pDBConn;
			return ret;
		}

		m_free_list.push_back(pDBConn);
	}

	// log_info("db pool: %s, size: %d\n", m_pool_name.c_str(), (int)m_free_list.size());
	return 0;
}

请求获取连接

设计思路图:
在这里插入图片描述
代码实现:

CDBConn *CDBPool::GetDBConn(const int timeout_ms)
{
	std::unique_lock<std::mutex> lock(m_mutex);
	if(m_abort_request) 
	{
		log_warn("have aboort\n");
		return NULL;
	}

	if (m_free_list.empty())		// 当没有连接可以用时
	{
		// 第一步先检测 当前连接数量是否达到最大的连接数量 
		if (m_db_cur_conn_cnt >= m_db_max_conn_cnt)
		{
			// 如果已经到达了,看看是否需要超时等待
			if(timeout_ms <= 0)		// 死等,直到有连接可以用 或者 连接池要退出
			{
				log_info("wait ms:%d\n", timeout_ms);
				m_cond_var.wait(lock, [this] 
				{
					// log_info("wait:%d, size:%d\n", wait_cout++, m_free_list.size());
					// 当前连接数量小于最大连接数量 或者请求释放连接池时退出
					return (!m_free_list.empty()) | m_abort_request;
				});
			} else {
				// return如果返回 false,继续wait(或者超时),  如果返回true退出wait
				// 1.m_free_list不为空
				// 2.超时退出
				// 3. m_abort_request被置为true,要释放整个连接池
				m_cond_var.wait_for(lock, std::chrono::milliseconds(timeout_ms), [this] {
					// log_info("wait_for:%d, size:%d\n", wait_cout++, m_free_list.size());
					return (!m_free_list.empty()) | m_abort_request;
				});
				// 带超时功能时还要判断是否为空
				if(m_free_list.empty()) 	// 如果连接池还是没有空闲则退出
				{
					return NULL;
				}
			}

			if(m_abort_request) 
			{
				log_warn("have aboort\n");
				return NULL;
			}
		}
		else // 还没有到最大连接则创建连接
		{
			CDBConn *pDBConn = new CDBConn(this);	//新建连接
			int ret = pDBConn->Init();
			if (ret)
			{
				log_error("Init DBConnecton failed\n\n");
				delete pDBConn;
				return NULL;
			}
			else
			{
				m_free_list.push_back(pDBConn);
				m_db_cur_conn_cnt++;
				// log_info("new db connection: %s, conn_cnt: %d\n", m_pool_name.c_str(), m_db_cur_conn_cnt);
			}
		}
	}

	CDBConn *pConn = m_free_list.front();	// 获取连接
	m_free_list.pop_front();	// STL 吐出连接,从空闲队列删除
	// pConn->setCurrentTime();  // 伪代码
	m_used_list.push_back(pConn);		// 

	return pConn;
}

这里主要说下当当前连接数为最大连接数时的两步操作。
一共设计了两种等待方式,根据传的 计量时间(timeout_ms) 来判断,如果timeout_ms<=0,则表明我选择死等的方式,即一直阻塞等待,止到有空闲连接为止
否则,timeout_ms>0,则表示等待阻塞这么长时间,如果超过了这么长时间,还么空闲连接,直接返回NULL即可。
(当时我在看这部分代码的时候,一直流程图没看懂,能代码的时候,一直卧槽,怎么代码和这流程图不一样啊,一直看,一直能,终于转过这个弯来了哈哈哈哈)

归还连接

设计思路图:
在这里插入图片描述
代码实现:

void CDBPool::RelDBConn(CDBConn *pConn)
{
	std::lock_guard<std::mutex> lock(m_mutex);

	list<CDBConn *>::iterator it = m_free_list.begin();
	for (; it != m_free_list.end(); it++)	// 避免重复归还
	{
		if (*it == pConn)	
		{
			break;
		}
	}

	if (it == m_free_list.end())
	{
		m_used_list.remove(pConn);
		m_free_list.push_back(pConn);
		m_cond_var.notify_one();		// 通知取队列
	} else 
	{
		log_error("RelDBConn failed\n");
	}
}

这里notify_one()指唤醒死等阻塞和超时阻塞等待哪里
即这里的notify_one()唤醒请求获取连接中的wait和wait_for()。这是一对。通过写博客瞬间又有了一种我懂了的感觉哈哈哈哈。复现完代码了,我还以为是唤醒多线程(线程池)那里的wait呢哈哈哈哈,浅薄了

析构连接池

设计思路图:
在这里插入图片描述
代码实现:

// 释放连接池
CDBPool::~CDBPool()
{
	std::lock_guard<std::mutex> lock(m_mutex);
	m_abort_request = true;
	m_cond_var.notify_all();		// 通知所有在等待的

	for (list<CDBConn *>::iterator it = m_free_list.begin(); it != m_free_list.end(); it++)
	{
		CDBConn *pConn = *it;
		delete pConn;
	}

	m_free_list.clear();
}

释放掉所有的连接对象。

不知道你看,刚开始定义变量获取连接方法 实现的时候对bool类型的m_abort_request是否有过疑惑啊。我去这个变量是干啥的啊,有啥用啊。怎么完全看不懂啊。

当看到这里析构函数的时候,哦是不是明白了,m_abort_request默认为false,当它为true的时候代表,连接池释放退出。哈哈哈,到这里连接池基本已经实现完成了。

连接池基本实现。等看下一篇文章,来通过线程池任务主动通过连接池,来操作数据库,看看性能如何。
今天时候不早了,剩下东西明天再能哈哈哈,再见各位。

推荐一个零声学院免费公开课程,个人觉得老师讲得不错,
分享给大家:[Linux,Nginx,ZeroMQ,MySQL,Redis,
fastdfs,MongoDB,ZK,流媒体,CDN,P2P,K8S,Docker,
TCP/IP,协程,DPDK等技术内容,点击立即学习:服务器课程

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/11009.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

模数转换电路

一、Exynos4412 A/D转换器概述 1. 概述 ADC(Analog-to-Digital Converter)&#xff0c;就是模数转换器。从字面上看&#xff0c;A我们称为模拟信号(Analog signal)&#xff0c;D我们称为数字信号(digital signal)。 模数转换器&#xff0c;在电子技术中即是将模拟信号转换成数字…

[附源码]java毕业设计家乡旅游文化推广系统

项目运行 环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; SSM mybatis Maven Vue 等等组成&#xff0c;B/S模式 M…

教你STM32做USB鼠标、键盘

使用CubeMX软件傻瓜式的配置&#xff0c;一键生成USB的HID驱动。 一、USB鼠标 1、CubeMX配置 ①、选择相对应的芯片 ②、配置时钟和Debug和debug ③、配置USB ④、生成代码 最好把这个也勾上&#xff0c;勾上以后每个外设配置不再都给你塞到main.c里&#xff0c;而是建一个.c…

简单的爬虫架构和网页下载器requests

目录 简单的爬虫架构&#xff1a; 网页下载器&#xff1a; URL管理器: 网页解析器: 网页下载器requests: 发送requests请求&#xff1a; 接收requests请求: requests操作实例&#xff1a; 简单的爬虫架构&#xff1a; 网页下载器&#xff1a; 负责通过URL将网页进行下载…

聊聊Vuex原理

背景 Vuex 是一个专为 Vue.js 应用程序开发的状态管理模式。Vuex 是专门为 Vue.js 设计的状态管理库&#xff0c;以利用 Vue.js 的细粒度数据响应机制来进行高效的状态更新。如果你已经灵活运用&#xff0c;但是依然好奇它底层实现逻辑&#xff0c;不妨一探究竟。 Vue 组件开发…

docker系统笔记-03镜像的创建管理和发布

镜像的获取 pull from registry (online) 从registry拉取 public&#xff08;公有&#xff09;private&#xff08;私有&#xff09; build from Dockerfile (online) 从Dockerfile构建load from file (offline) 文件导入 &#xff08;离线&#xff09; 镜像的基本操作 dock…

概率 | 【提神醒脑】自用笔记串联二 —— 数字特征、大数定律、统计量

本文总结参考于 kira 2023概率提神醒脑技巧班。 笔记均为自用整理。加油&#xff01;ヾ(◍∇◍)&#xff89;&#xff9e; 第一部分笔记详见 概率 | 【提神醒脑】自用笔记串联一 —— 事件、随机变量及其分布_西皮呦的博客-CSDN博客 一研为定&#xff01; 四、随机变量的数字特…

cocos2dx 3D物理相关知识点汇总

&#xff08;一&#xff09;3D相关基础知识 网格&#xff08;Mesh&#xff09; 通常说的网格其实就是3D建模出来的形状。因为模型是由很多三角形组成&#xff0c;所以&#xff0c;就像网格一样。 纹理 纹理的作用就是给网格上色。 怎么上色的&#xff1f; 举个简单的例子。…

m基于GA遗传优化的生产工艺设备布置优化matlab仿真

目录 1.算法概述 2.仿真效果预览 3.核心MATLAB程序 4.完整MATLAB程序 1.算法概述 在设备布置的问题上&#xff0c;本文将作业车间设备布置这个多目标优化问题看成是包含布局面积&#xff0c;物流成本和生产工艺的连续优化的多行设备布置问题&#xff0c;使之更具有实际意义…

如何在 Rocky Linux 上安装 Apache Kafka?

Apache Kafka 是一种分布式数据存储&#xff0c;用于实时处理流数据&#xff0c;它由 Apache Software Foundation 开发&#xff0c;使用 Java 和 Scala 编写&#xff0c;Apache Kafka 用于构建实时流式数据管道和适应数据流的应用程序&#xff0c;特别适用于企业级应用程序和关…

robots.txt漏洞

robots.txt漏洞描述: 搜索引擎可以通过robots文件可以获知哪些页面可以爬取,哪些页面不可以爬取。Robots协议是网站国际互联网界通行的道德规范,其目的是保护网站数据和敏感信息、确保用户个人信息和隐私不被侵犯,如果robots.txt文件编辑的太过详细,反而会泄露网站的敏感…

[附源码]java毕业设计基于学生信息管理系统

项目运行 环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; SSM mybatis Maven Vue 等等组成&#xff0c;B/S模式 M…

Delphi中关于PChar、Char数组、string[](ShortString)及结构体长度及占用空间的一些特性说明和测试

关于特性 1&#xff0c;string和Char数组都是一块内存, 其中存放连续的字符. string保存具体字符的内存对用户 是透明的, 由Delphi管理它的分配, 复制和释放, 用户不能干预2&#xff0c;关于ShortString&#xff0c;内存中用第一个字节来表示字符串的长度。FF255,所以这个特性…

【MySQL】MySQL复制与高可用水平扩展架构实战(MySQL专栏启动)

&#x1f4eb;作者简介&#xff1a;小明java问道之路&#xff0c;专注于研究 Java/ Liunx内核/ C及汇编/计算机底层原理/源码&#xff0c;就职于大型金融公司后端高级工程师&#xff0c;擅长交易领域的高安全/可用/并发/性能的架构设计与演进、系统优化与稳定性建设。 &#x1…

天王刘德华走红毯,到哪他都是最耀眼的明星

第三十五届金鸡奖&#xff0c;已经在福建厦门落下帷幕&#xff0c;如果要说本届金鸡奖谁收获最大&#xff0c;无疑是天王刘德华。在金鸡奖颁奖典礼现场&#xff0c;功夫巨星吴京登上热搜&#xff0c;然而热搜的主角却不是他&#xff0c;而是天王刘德华。 在本届金鸡奖颁奖典礼现…

cubeIDE开发, stm32调试信息串口通信输出显示

关于cubeIDE开发基本技巧及流程&#xff0c;本文不详细叙述&#xff0c;请参考&#xff1a;cubeIDE快速开发流程_py_free的博客-CSDN博客_cubeide汉化 一、stm32串口配置 本文采用的开发板是stm32L496VGT3,其有两个 USB 接口&#xff0c;一个为 USB ST-link 复用接口&#xff…

代码随想录——最长递增子序列的个数

题目 给定一个未排序的整数数组&#xff0c;找到最长递增子序列的个数。 示例 1: 输入: [1,3,5,4,7] 输出: 2 解释: 有两个最长递增子序列&#xff0c;分别是 [1, 3, 4, 7] 和[1, 3, 5, 7]。 示例 2: 输入: [2,2,2,2,2] 输出: 5 解释: 最长递增子序列的长度是1&#xff0c;并且…

Oracle 表创建和表管理

1.表的命名 必须以字母开头字符长度在1-30之间只能包含A-Z&#xff0c;a-z,0-9,_,$和#被同一个用户拥有的对象不能有重复的名字 2.表的创建 SQL> create table t01(id number(4),name varchar2(15));Table created.SQL> desc t01Name …

现场直击!维视智造携多款明星产品亮相VisionChina 2022深圳机器视觉展

11月15日&#xff0c;2022年中国&#xff08;深圳&#xff09;机器视觉展在深圳国际会展中心&#xff08;宝安新馆&#xff09;盛大开幕&#xff0c;维视智造携MV-CR读码相机、3D线激光相机、VisionBank AI多相机智能视觉系统等多款行业领先产品及解决方案亮相。 1 ►现场速击 …

C基础--内存对齐问题(结构体对齐)

问题现象 在调试一个软件功能时&#xff0c;发现一个结构体对齐的问题&#xff0c;以前没有太关注&#xff0c;现在把它总结出来。先看示例&#xff1a; 结构体1&#xff1a; typedef struct {char magic[4];uint32_t crc32;uint32_t lenght;uint16_t ver;uint16_t IFrameCnt…