池式组件 ----- Mysql连接池的原理实现

news2024/11/27 7:38:16
前言

本文是mysql连接池的实现。学完mysql连接池之后,接下来会结合多线程来进行测试,看看使用连接池性能高,还是不要连接池性能高,具体能差多少。当然这是下一篇文章了哈哈哈哈哈。当前首要任务是学会连接池,会都不会,还用个啥哈哈哈哈。

一、池化技术

池化技术能够减少资源对象的创建次数,提高程序的响应性能,特别是在高并发下这种提高更加明显。
使用池化技术缓存的资源对象有如下共同特点:

  • 对象创建时间长;
  • 对象创建需要大量资源;
  • 对象创建后可被重复使用;

就比如线程池,创建线程和销毁线程是比较耗时间的,那么我们是不是就可以创建一堆线程

放到一起去管理,等有任务到来的时候再从池子里找一个空闲的线程池去处理任务,这样是

不是提升了效率,虽然这样牺牲了一点空间,但是随着计算机的发展,内存并不是问题,大

的问题是计算机的处理能力,因为现今的计算机的处理能力很难再提升了,所以我们需要在

空间和效率方面选择效率,因为空间很容易提升,但是处理能力很难提示,所以我们需要池

式组件。

像常见的线程池、内存池、连接池、对象池都具有以上的共同特点。

我们在学mysql连接池里就拿线程池来说一下:

1.线程创建时间慢并且创建需要大量资源,因为他要陷入内核,然后cpu调度,并且也要分配一个task struct和线程私有栈,独立上下文(void* argc)

这些都是线程私有的

线程ID
一组寄存器
errno
信号屏蔽字
调度优先级
所以符合对象创建时间长和对象创建需要大量资源
2.线程创建后如果立马销毁,那么立马又有任务要交给线程处理,那又需要重新创建线程,线程销毁也需要通过中断陷入内核进行销毁线程,所以我们的线程可能要被重复使用,所以满足
对象创建后可被重复使用。

二、什么是数据库连接池


定义:数据库连接池(Connection pooling)是程序启动时建立足够的数据库连接,并将这些连接组成
一个连接池,
由程序动态地对池中的连接进行申请,使用,释放。

大白话:创建数据库连接是一个很耗时的操作,也容易对数据库造成安全隐患。所以,在程序初始化的
时候,集中创建多个数据库连接,并把他们集中管理,供程序使用,可以保证较快的数据库读写速度,
还更加安全可靠。
这里讲的数据库,不单只是指Mysql,也同样适用于Redis。

其实在简单的一点说就是用一个池子保存已收到的mysql连接,并且该连接没有被断开,

因为mysql建立连接也需要很多步骤,先要经过1.tcp三次握手,然后在2.经过mysql认证

,3.sql语句执行,4.mysql关闭,5.tcp四次挥手,
所以建立mysql连接创建时间长,并且创建和销毁需要耗费很长时间,且该sql连接可能会被经常重复使用,所以满足池式组件优化的点:

  • 对象创建时间长;
  • 对象创建需要大量资源;
  • 对象创建后可被重复使用;

三、为什么使用数据库连接池


资源复用:
由于数据库连接得到复用,避免了频繁的创建、释放连接引起的性能开销,在减少系统消耗的基础
上,另一方面也增进了系统运行环境的平稳性(减少内存碎片以及数据库临时进程/线程的数量)。

更快的系统响应速度:
数据库连接池在初始化过程中,往往已经创建了若干数据库连接置于池中备用。此时连接的初始化(这些连接其实一直保持连接的---核心要点,如果不是保持连接的,那么就不算是连接池了)
工作均已完成。对于业务请求处理而言,直接利用现有可用连接,避免了从数据库连接初始化和释
放过程的开销,从而缩减了系统整体响应时间。

统一的连接管理,避免数据库连接泄露:
在较为完备的数据库连接池实现中,可根据预先的连接占用超时设定,强制收回被占用连接。从而
避免了常规数据库连接操作中可能出现的资源泄露。


不使用连接池

 1. TCP建立连接的三次握手(客户端与MySQL服务器的连接基于TCP协议)
 2. MySQL认证的三次握手
 3. 真正的SQL执行
 4. MySQL的关闭
 5. TCP的四次握手关闭

可以看到,为了执行一条SQL,需要进行TCP三次握手,Mysql认证、Mysql关闭、TCP四次挥手等其他
操作,执行SQL操作在所有的操作占比非常低

优点 :实现简单 省了连接池的设计。
缺点:每一次发起SQL操作都经历TCP建立连接、数据库用户身份验证、数据库用户登出、TCP断开连接。

   网络IO较多
   带宽利用率低
   QPS较低
   应用频繁低创建连接和关闭连接,导致临时对象较多,带来更多的内存碎片
   在关闭连接后,会出现大量TIME_WAIT 的TCP状态(在2个MSL之后关闭)(出现大量time_wait对客户端和服务器的影响可以看其他博主写的全方面了解TCP的文章)

 

 

使用连接池(连接池其实是可以算作mysql本身的东西)

第一次访问的时候,需要建立连接。 但是之后的访问,均会复用之前创建的连接,直接执行SQL语句。

优点:

  1. 降低了网络开销
  2. 连接复用,有效减少连接数。
  3. 提升性能,避免频繁的新建连接。新建连接的开销比较大
  4. 没有TIME_WAIT状态的问题

缺点:

  1. 设计较为复杂

长连接和连接池的区别
长连接是一些驱动、驱动框架、ORM工具的特性,由驱动来保持连接句柄的打开,以便后续的数据
库操作可以重用连接,从而减少数据库的连接开销。
而连接池是应用服务器的组件,它可以通过参数来配置连接数、连接检测、连接的生命周期等。
连接池内的连接,其实就是长连接。(核心)
连接池就是长连接,但是需要把长连接放到池里面去管理
直接使用长连接的话:每个线程绑定一个连接。但是有些线程需要操作数据库,有些线程不需要操作数据库。那么在执行对应任务的时候,就需要传个参数实现,把对应的连接参数传过来,解耦性比较差。
使用连接池的话:封装任务时候,如果要操作数据库,可以直接从连接池中获取

其实朋友们不要有误区,我们前面说的的要每次连接数据库需要请求tcp三次握手,这些是基于短连接的状态,而长连接不会进行一直连接,但是长连接并没有很好的解决效率的问题,如果一个线程绑定一个连接的话,百万线程就有百万连接,那么会造成资源浪费和服务器效率降低!!

(不是放着的sql语句请求连接,而是我们的mysql连接池让我们每次向mysql服务器请求省了tcp三次握手,mysql认证,mysql关闭和tcp四次挥手这步)并不是省了sql语句这步,sql语句请求并不会发起tcp请求和mysql认证

四、数据库连接池运行机制

  1. 从连接池获取或创建可用连接;
  2. 使用完毕之后,把连接返回给连接池;
  3. 在系统关闭前,断开所有连接并释放连接占用的系统资源;

五、连接池和线程池的关系


连接池和线程池的区别

线程池:主动调用任务。当任务队列不为空的时候从队列取任务取执行。
比如去银行办理业务,窗口柜员是线程,多个窗口组成了线程池,柜员从排号队列叫号执行。
连接池:被动被任务使用。当某任务需要操作数据库时,只要从连接池中取出一个连接对象,当任
务使用完该连接对象后,将该连接对象放回到连接池中。如果连接池中没有连接对象可以用,那么
该任务就必须等待。
比如去银行用笔填单,笔是连接对象,我们要用笔的时候去取,用完了还回去。
连接池和线程池设置数量的关系:

一般线程池线程数量和连接池连接对象数量一致;
一般线程执行任务完毕的时候归还连接对象;

说了这么多,终于到了连接池的设计与实现了

六、连接池设计要点

使用连接池需要预先建立数据库连接。
连接池设计思路:

  1. 连接到数据库,涉及到数据库ip、端口、用户名、密码、数据库名字等;
        a. 连接的操作,每个连接对象都是独立的连接通道,它们是独立的  **(长连接)**
        b. 配置最小连接数和最大连接数       (同时并发多个线程,有的要操作数据库,有的不需要)
  2. 需要一个队列管理他的连接,比如使用list;
  3. 获取连接对象:
  4. 归还连接对象;
  5. 连接池的名字   (便于扩展,可以划分不同的数据库)

连接池设计逻辑


其实就是创建多个连接对象,用一个队列存起来(空闲队列),当要用连接对象操作数据库的时候,就把存起来的对象拿出来用(获取连接),并把它移除,放到存储使用对象的容器中(使用队列)。当用完它之后,就把它从使用队列中移除,放到空闲队列中,等着让其他想要操场数据库的线程接着使用,避免了频繁的创建和销毁。当系统运行完毕,把所有创建的对象统一销毁即可。

构造函数


设计思路图:
 

CDBPool::CDBPool(const char *pool_name, const char *db_server_ip, uint16_t db_server_port,
				 const char *username, const char *password, const char *db_name, int max_conn_cnt)
{
	m_pool_name = pool_name;
	m_db_server_ip = db_server_ip;
	m_db_server_port = db_server_port;
	m_username = username;
	m_password = password;
	m_db_name = db_name;
	m_db_max_conn_cnt = max_conn_cnt;	// 
	m_db_cur_conn_cnt = MIN_DB_CONN_CNT; // 最小连接数量
}

 

初始化

设计思路图:

 代码实现:

int CDBPool::Init()
{
	// 创建固定最小的连接数量
	for (int i = 0; i < m_db_cur_conn_cnt; i++)
	{
		CDBConn *pDBConn = new CDBConn(this);
		int ret = pDBConn->Init();
		if (ret)
		{
			delete pDBConn;
			return ret;
		}

		m_free_list.push_back(pDBConn);
	}

	// log_info("db pool: %s, size: %d\n", m_pool_name.c_str(), (int)m_free_list.size());
	return 0;
}

请求获取连接

设计思路图:

CDBConn *CDBPool::GetDBConn(const int timeout_ms)
{
	std::unique_lock<std::mutex> lock(m_mutex);
	if(m_abort_request) 
	{
		log_warn("have aboort\n");
		return NULL;
	}

	if (m_free_list.empty())		// 当没有连接可以用时
	{
		// 第一步先检测 当前连接数量是否达到最大的连接数量 
		if (m_db_cur_conn_cnt >= m_db_max_conn_cnt)
		{
			// 如果已经到达了,看看是否需要超时等待
			if(timeout_ms <= 0)		// 死等,直到有连接可以用 或者 连接池要退出
			{
				log_info("wait ms:%d\n", timeout_ms);
				m_cond_var.wait(lock, [this] 
				{
					// log_info("wait:%d, size:%d\n", wait_cout++, m_free_list.size());
					// 当前连接数量小于最大连接数量 或者请求释放连接池时退出
					return (!m_free_list.empty()) | m_abort_request;
				});
			} else {
				// return如果返回 false,继续wait(或者超时),  如果返回true退出wait
				// 1.m_free_list不为空
				// 2.超时退出
				// 3. m_abort_request被置为true,要释放整个连接池
				m_cond_var.wait_for(lock, std::chrono::milliseconds(timeout_ms), [this] {
					// log_info("wait_for:%d, size:%d\n", wait_cout++, m_free_list.size());
					return (!m_free_list.empty()) | m_abort_request;
				});
				// 带超时功能时还要判断是否为空
				if(m_free_list.empty()) 	// 如果连接池还是没有空闲则退出
				{
					return NULL;
				}
			}

			if(m_abort_request) 
			{
				log_warn("have aboort\n");
				return NULL;
			}
		}
		else // 还没有到最大连接则创建连接
		{
			CDBConn *pDBConn = new CDBConn(this);	//新建连接
			int ret = pDBConn->Init();
			if (ret)
			{
				log_error("Init DBConnecton failed\n\n");
				delete pDBConn;
				return NULL;
			}
			else
			{
				m_free_list.push_back(pDBConn);
				m_db_cur_conn_cnt++;
				// log_info("new db connection: %s, conn_cnt: %d\n", m_pool_name.c_str(), m_db_cur_conn_cnt);
			}
		}
	}

	CDBConn *pConn = m_free_list.front();	// 获取连接
	m_free_list.pop_front();	// STL 吐出连接,从空闲队列删除
	// pConn->setCurrentTime();  // 伪代码
	m_used_list.push_back(pConn);		// 

	return pConn;
}

这里主要说下当当前连接数为最大连接数时的两步操作。
一共设计了两种等待方式,根据传的 计量时间(timeout_ms) 来判断,如果timeout_ms<=0,则表明我选择死等的方式,即一直阻塞等待,止到有空闲连接为止
否则,timeout_ms>0,则表示等待阻塞这么长时间,如果超过了这么长时间,还么空闲连接,直接返回NULL即可。

归还连接

设计思路图:

void CDBPool::RelDBConn(CDBConn *pConn)
{
	std::lock_guard<std::mutex> lock(m_mutex);

	list<CDBConn *>::iterator it = m_free_list.begin();
	for (; it != m_free_list.end(); it++)	// 避免重复归还
	{
		if (*it == pConn)	
		{
			break;
		}
	}

	if (it == m_free_list.end())
	{
		m_used_list.remove(pConn);
		m_free_list.push_back(pConn);
		m_cond_var.notify_one();		// 通知取队列
	} else 
	{
		log_error("RelDBConn failed\n");
	}
}

 这里notify_one()指唤醒死等阻塞和超时阻塞等待哪里
即这里的notify_one()唤醒请求获取连接中的wait和wait_for()。这是一对。通过写博客瞬间又有了一种我懂了的感觉哈哈哈哈。复现完代码了,我还以为是唤醒多线程(线程池)那里的wait呢哈哈哈哈,浅薄了

析构连接池

设计思路图:

// 释放连接池
CDBPool::~CDBPool()
{
	std::lock_guard<std::mutex> lock(m_mutex);
	m_abort_request = true;
	m_cond_var.notify_all();		// 通知所有在等待的

	for (list<CDBConn *>::iterator it = m_free_list.begin(); it != m_free_list.end(); it++)
	{
		CDBConn *pConn = *it;
		delete pConn;
	}

	m_free_list.clear();
}

释放掉所有的连接对象。

不知道你看,刚开始定义变量和获取连接方法 实现的时候对bool类型的m_abort_request是否有过疑惑啊。我去这个变量是干啥的啊,有啥用啊。怎么完全看不懂啊。

当看到这里析构函数的时候,哦是不是明白了,m_abort_request默认为false,当它为true的时候代表,连接池释放退出。哈哈哈,到这里连接池基本已经实现完成了。
 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1267129.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

FlatLaf:干净、优雅、扁平化,基于java swing现代开源跨平台外观

一个很不错的java swing ui库&#xff0c;idea主题风格&#xff0c;还能自定义 FlatLaf是用于JavaSwing 桌面应用程序的现代开源跨平台外观。 它看起来几乎是平的&#xff08;没有阴影或渐变&#xff09;、干净、简单和优雅。FlatLaf带有Light、Dark、IntelliJ和Darcula主题&a…

灌区信息化建设的主要内容

目前&#xff0c;国内外对灌区信息化的研究主要包括两个方面&#xff0c;一个方面是硬件建设&#xff0c;包括流量、水位、墒情、作物长势等的信息监测设备&#xff0c;渠系建筑物的监控设备等。另一个方面是软件建设&#xff0c;包括灌溉需配水模拟、渠系水流模拟、水费征收系…

3DMAX二维图片对象摆放插件安装使用方法

3DMAX二维图片对象摆放插件使用教程 3DMAX二维图片对象摆放插件自动对齐相机&#xff0c;可以有效地自动将简单的2D PNG图像添加到3dMax场景中。使用3DMAX二维图片对象摆放插件&#xff0c;你可以使用一次渲染来渲染具有正确阴影的快速预览和最终图像&#xff0c;而无需稍后合成…

视频智能分析国标GB28181云平台EasyCVR加密机授权异常是什么原因?

国标GB28181视频汇聚/视频云存储/集中存储/视频监控管理平台EasyCVR能在复杂的网络环境中&#xff0c;将分散的各类视频资源进行统一汇聚、整合、集中管理&#xff0c;实现视频资源的鉴权管理、按需调阅、全网分发、云存储、智能分析等。 近期有用户选择使用加密机进行EasyCVR授…

STM32之定时器--超声波测距

1、模块介绍 型号&#xff1a;HC-SR04 超声波测距模块是用来测量距离的一种产品&#xff0c;通过发送和收超声波&#xff0c;利用时间差和声音传播速度&#xff0c; 计算出模块到前方障碍物的距离。 2、超声波模块的使用方法 怎么让它发送波 Trig &#xff0c;给Trig端口至…

BeanUtils.populate将map对象转换成vo对象

文章目录 BeanUtils.populate将map对象转换成vo对象&#x1f4d6;1.添加依赖&#x1f4d2;代码✒️运行结果&#x1f5b2;最后总结 BeanUtils.populate将map对象转换成vo对象 &#x1f4d6;1.添加依赖 <dependency><groupId>commons-beanutils</groupId>&l…

云服务器同时连接数突然变高是什么原因

​  云服务器同时连接数突然变高&#xff0c;导致服务器负载增加&#xff0c;响应时间变长&#xff0c;严重影响了网站的正常运营。为了解决这个问题&#xff0c;我们首先需要了解 云服务器同时连接数变高的原因。 一、网络攻击 网络攻击是导致云服务器同时连接数突然变高的一…

2022年土地出让数据,超多字段,附数据可视化

分享一个土地出让数据&#xff0c;详细信息如下&#xff1a; 数据名称: 2022年土地出让数据 数据格式: Shp、excel 数据时间: 2022年 数据几何类型: 点 数据坐标系: WGS84坐标系 数据来源&#xff1a;网络公开数据 部分字段如下&#xff1a; 如需获取可搜“吧唧数…

【EI会议征稿】第四届应用数学、建模与智能计算国际学术会议(CAMMIC 2024)

第四届应用数学、建模与智能计算国际学术会议&#xff08;CAMMIC 2024&#xff09; 2024 4th International Conference on Applied Mathematics, Modelling and Intelligent Computing 第四届应用数学、建模与智能计算国际学术会议&#xff08;CAMMIC 2024&#xff09;将于…

docker (简介、dcoker详细安装步骤、容器常用命令)一站打包- day01

一、 为什么出现 Docker是基于Go语言实现的云开源项目。 Docker的主要目标是“Build&#xff0c;Ship and Run Any App,Anywhere”&#xff0c;也就是通过对应用组件的封装、分发、部署、运行等生命周期的管理&#xff0c;使用户的APP&#xff08;可以是一个WEB应用或数据库应…

基于社区电商的Redis缓存架构-缓存数据库双写、高并发场景下优化

基于社区电商的Redis缓存架构 首先来讲一下 Feed 流的含义&#xff1a; Feed 流指的是当我们进入 APP 之后&#xff0c;APP 要做一个 Feed 行为&#xff0c;即主动的在 APP 内提供各种各样的内容给我们 在电商 APP 首页&#xff0c;不停在首页向下拉&#xff0c;那么每次拉的…

炸裂:completablefuture自定义线程池慢2倍......比默认线程池......

尼恩说在前面 尼恩社群中&#xff0c;很多小伙伴找尼恩来卷3高技术&#xff0c;学习3高架构&#xff0c;遇到问题&#xff0c;常常找尼恩反馈和帮扶。 周一&#xff0c;一个5年经验的大厂小伙伴&#xff0c;反馈了一个令人震惊的问题 completablefuture自定义线程池慢2倍…比…

C# Socket通信从入门到精通(12)——多个同步UDP客户端C#代码实现

前言: 我们在开发Udp客户端程序的时候,有时候在同一个软件上我们要连接多个服务器,这时候我们开发的一个客户端就不够使用了,这时候就需要我们开发出来的软件要支持连接多个服务器,最好是数量没有限制,这样我们就能应对任意数量的服务器连接,由于我们开发的Udp客户端程…

如何使用阿里云国际站虚拟主机搭建网站

阿里云虚拟主机是一款灵活易用的产品&#xff0c;允许您使用 FTP 构建或传输网站。它支持各种各样的 Web 构建器&#xff0c;非常适合各种应用程序&#xff0c;从个人博客到电子商务网站。 本教程介绍如何通过几个简单的步骤使用阿里云虚拟主机构建网站。 先决条件 您需要安…

VUE本地idea启动

安装yarn&#xff08;也可以用npm&#xff09; 问题&#xff1a;yarn : 无法加载文件 C:\Users\xx/yarn.ps1&#xff0c;因为在此系统上禁止运行脚本 解决办法&#xff1a;管理员身份运行【 PowerShell】&#xff0c;然后执行【Set-ExecutionPolicy RemoteSigned】&#xff0c…

C++基础 -11- 类的析构函数

析构用于释放构造函数中初始化的数据成员 析构不能重载 析构函数格式 #include "iostream"using namespace std;extern "C" { #include "string.h" }class rlxy {public:int a;rlxy(int a, int b, const char *c){this->c new char[1024];…

uniapp开发App从开发到上架全过程

​ 当我们的APP开发完毕&#xff0c;最终交付的时候&#xff0c;必然要经历的一个环节&#xff0c;就是APP上架&#xff0c;国内APP上架一般为IOS端appstore上架&#xff0c;安卓端应用商店比较多&#xff0c;最常见的应用商店有华为应用商店、小米应用商店、OPPO应用商店、VIV…

CRM系统的数据分析和报表功能对企业重要吗?

竞争日益激烈&#xff0c;企业需要更加高效地管理客户关系&#xff0c;以获取更多的商机。为此&#xff0c;许多企业选择使用CRM系统。在CRM中&#xff0c;数据分析功能扮演着重要的角色。下面就来详细说说&#xff0c;CRM系统数据分析与报表功能对企业来说重要吗&#xff1f; …

超声波雪量传感器冬季气象监测助手

在冬季&#xff0c;雪量的监测对于人们的生活和农业生产都具有重要的意义。而WX-XL2超声波雪量传感器&#xff0c;作为近年来一种气象监测设备&#xff0c;以其优势和广泛的应用场景&#xff0c;引起了人们的广泛关注。 一、超声波雪量传感器的工作原理 超声波雪量传感器是一…

数据结构之二叉树与堆以及力扣刷题函数扩展

个人主页&#xff1a;点我进入主页 专栏分类&#xff1a;C语言初阶 C语言程序设计————KTV C语言小游戏 C语言进阶 C语言刷题 数据结构初阶 欢迎大家点赞&#xff0c;评论&#xff0c;收藏。 一起努力 目录 1.前言 2.树 2.1概念 2.2树的相关概念 3.…