postgresql源码学习(51)—— 提交日志CLOG 提交日志CLOG 原理 用途 管理函数

news2024/11/27 2:35:38

一、 CLOG是什么

CLOGcommit log)记录事务的最终状态。

  • 物理上,是$PGDATA/pg_xact目录下的一些文件

  • 逻辑上,是一个数组,下标为事务id,值为事务最终状态

1. 事务最终状态

clog.h中定义了4种事务状态

/*
 * Possible transaction statuses --- note that all-zeroes is the initial
 * state. 全0为初始状态
 *
 * subcommitted状态表示子事务已提交,但父事务尚未提交或回滚
 */
typedef int XidStatus;

#define TRANSACTION_STATUS_IN_PROGRESS      0x00
#define TRANSACTION_STATUS_COMMITTED        0x01
#define TRANSACTION_STATUS_ABORTED          0x02
#define TRANSACTION_STATUS_SUB_COMMITTED    0x03

2. CLOG空间占用

      由于只有4种状态,因此只需要2个bit即可表示它们,一个字节则可以存4个事务的状态,在clog.c中也可以看到这些定义。

/* We need two bits per xact, so four xacts fit in a byte */
#define CLOG_BITS_PER_XACT  2
#define CLOG_XACTS_PER_BYTE 4
#define CLOG_XACTS_PER_PAGE (BLCKSZ * CLOG_XACTS_PER_BYTE)
#define CLOG_XACT_BITMASK   ((1 << CLOG_BITS_PER_XACT) - 1)
  • CLOG_BITS_PER_XACT:每个事务占用几个 bit(默认2)
  • CLOG_XACTS_PER_BYTE :每个字节可以存几个事务的状态(默认4,8 bit/2)
  • CLOG_XACTS_PER_PAGE:每个页可以存几个事务的状态(默认8KB*4=32K=2^15个)
  • CLOG_XACT_BITMASK:位掩码(没查到是干啥的),计算方式是CLOG_BITS_PER_XACT左移1位然后减1。例如默认值为2,二进制为0010,左移一位0100,再减1则为0011

       另外在slru.h中还定义了SLRU段大小(CLOG日志缓冲池是基于SLRU缓冲池实现的)。

       32代表每个CLOG文件(段)由32个页组成,每个段可记录32*2^15=2^20个事务的状态。

#define SLRU_PAGES_PER_SEGMENT  32

       目前事务id为32位,最多有2^32个事务,因此最多需要2^32/2^20=2^12个日志段。

       CLOG以段号命名,因此只需要12位,不过实际上,pg是使用4位16进制数来表示段号,并作为日志名,也就是我们前面看到的0000,0001这种名字。

3. CLOG四元组

      前面提到,CLOG在逻辑上是一个数组,下标为事务id,值为事务最终状态。那么怎么通过事务id定位它在CLOG中的具体位置并获取事务最终状态?答案就是下面这个四元组:

#define TransactionIdToPage(xid)    ((xid) / (TransactionId) CLOG_XACTS_PER_PAGE)
#define TransactionIdToPgIndex(xid) ((xid) % (TransactionId) CLOG_XACTS_PER_PAGE)
#define TransactionIdToByte(xid)    (TransactionIdToPgIndex(xid) / CLOG_XACTS_PER_BYTE)
#define TransactionIdToBIndex(xid)  ((xid) % (TransactionId) CLOG_XACTS_PER_BYTE)
  • TransactionIdToPage:事务id对应在哪个CLOG页  
  • TransactionIdToPgIndex:事务id对应在上面页中的偏移量
  • TransactionIdToByte:事务id对应在上面页中第几个的字节
  • TransactionIdToBIndex:事务id对应在上面字节中的哪个bit

例如事务id 756,最终状态是已回滚

  • TransactionIdToPage = 756/(2^15)=0 -> 第0号page
  • TransactionIdToPgIndex = 756%(2^15)=0 -> 第0号page的756偏移位
  • TransactionIdToByte = 756/4=189 -> 第0号page的189个byte
  • TransactionIdToBIndex = 756%4=0 -> 该byte的首2位bit

查看clog

hexdump -C ./0000 -s 189 -n 1
# -C 定义导出的格式;-s 指定了从文件头跳过多少字节,默认十进制,0x开头则是十六进制;-n 指定导出多少字节长度

#define TRANSACTION_STATUS_ABORTED          0x02

二、 主要用途

CLOG中保存的事务最终状态用来干什么?答案是用来在可见性判断中确定事务的运行状态。

postgresql源码学习(十九)—— MVCC④-可见性判断 HeapTupleSatisfiesMVCC函数_Hehuyi_In的博客-CSDN博客 再回来看看这个复杂的流程图

       可以看到在t_infomask未设置时,会根据clog来判断事务是否提交。之前的文章也有提到过,这样做是为了加速判断,避免每行都需要读取clog文件(或者缓冲区)数据。

       流程图中可以看到,clog主要判断函数为 TransactionIdDidCommit,其实还有一个函数TransactionIdDidAbort也会查询pg_xact目录。另一个TransactionIdIsInProgress函数查的是PGPROC数组,这个函数过于复杂,这里就跳过了。

      除去子事务相关部分,其实这两个函数非常简单

/*
 * TransactionIdDidCommit
 *      True if transaction associated with the identifier did commit.
 * Note:
 *      Assumes transaction identifier is valid and exists in clog.
 */
bool                            /* true if given transaction committed */
TransactionIdDidCommit(TransactionId transactionId)
{
    XidStatus   xidstatus;
    xidstatus = TransactionLogFetch(transactionId);

    /*
     * If it's marked committed, it's committed.
     */
    if (xidstatus == TRANSACTION_STATUS_COMMITTED)
        return true;
…
    /*
     * It's not committed.
     */
    return false;
}
/*
 * TransactionIdDidAbort
 *      True iff transaction associated with the identifier did abort.
 * Note:
 *      Assumes transaction identifier is valid and exists in clog.
 */
bool                            /* true if given transaction aborted */
TransactionIdDidAbort(TransactionId transactionId)
{
    XidStatus   xidstatus;
    xidstatus = TransactionLogFetch(transactionId);

    /*
     * If it's marked aborted, it's aborted.
     */
    if (xidstatus == TRANSACTION_STATUS_ABORTED)
        return true;
…
    /*
     * It's not aborted.
     */
    return false;
}

三、 CLOG主要管理函数

       以下函数都在clog.c文件中,按照函数名和注释可以看出主要用途。下面按照pg 14版本简单记录,详情可以查看具体定义。

1. CLOG日志管理器启动

StartupCLOG函数:在pg启动后会调用,以启动CLOG日志管理器

2. CLOG日志管理器初始化

CLOGShmemInit函数:用于在共享内存中初始化CLOG缓冲池。

3. CLOG段创建

BootStrapCLOG函数:在PG安装及CLOGShmemInit函数执行后,会调用本函数创建第一个CLOG文件(0000),本函数会调用ZeroCLOGPage函数

4. CLOG页面初始化

ZeroCLOGPage函数:初始化指定页面为全0

5. CLOG读操作

TransactionIdGetStatus函数:从CLOG文件(缓冲池)中读取日志记录,获取事务状态位

6. CLOG写操作

TransactionIdSetStatusBit函数:设置事务状态位,实际就是在CLOG文件中写该事务对应的CLOG日志记录。

7. CLOG的扩展

ExtendCLOG函数:为新分配的事务id创建CLOG一个新页,以供日志记录写入

8. 构建CLOG页时创建XLOG记录

WriteZeroPageXlogRec函数:当创建新CLOG页时,调用本函数创建一条” CLOG_ZEROPAGE”类型的XLOG记录,保存所创建的CLOG页号,用于在系统崩溃或恢复时重建CLOG

9. CLOG的REDO操作

clog_redo函数:前面提到在创建新CLOG页时会记XLOG日志,在REDO执行过程中,当遇到CLOG_ZEROPAGE和CLOG_TRUNCATE类型的XLOG记录时,则由该函数处理

10. 创建检查点时CLOG的操作

CheckPointCLOG函数:创建检查点时,调用该函数将脏CLOG页写入磁盘

11. CLOG删除

TruncateCLOG函数:以CLOG段为单位,删除已经过时的事务id(由AdvanceOldestClogXid函数确定哪些已经过时)对应的事务状态记录文件

12. CLOG关闭

旧版本在ShutdownCLOG函数,pg 14中没有该函数了

参考

《PostgreSQL数据库内核分析》第7章

https://www.interdb.jp/pg/pgsql05.html#_5.4.

[2021-06-17]PostgreSQL事物提交日志信息clog解析_qxy0503的博客-CSDN博客

hexdump的用法_lijun5635的博客-CSDN博客_hexdump 大小端

PostgreSQL DBA(22) - MVCC#2(commit log)_ITPUB博客

https://www.slideshare.net/pgday_seoul/pgdayseoul-2017-3-postgresql-wal-buffers-clog-buffers-deep-dive

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/50020.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Android开发:Fragment中优雅使用ViewBinding【Java】

目录 前言 官网示例 封装 前言 ViewBinding可以帮助我们减少代码中的大部分findViewById&#xff0c;官网中提到了它的优点和缺点&#xff1a; Null 安全&#xff1a;由于视图绑定会创建对视图的直接引用&#xff0c;因此不存在因视图 ID 无效而引发 Null 指针异常的风险…

Kotlin小知识之高阶函数

文章目录高阶函数定义高阶函数函数类型高阶函数示例内联函数内联函数的作用内联函数的用法noinline与crossinline高阶函数 定义高阶函数 高阶函数和Lambda的关系是密不可分的.像接受Lambda参数的函数就可以称为具有函数式编程风格的API了当我们想要定义自己的函数式API那就得…

使用 Learner Lab - 使用 AWS Lambda 将图片写入 S3

使用 Learner Lab - 使用 AWS Lambda 将图片写入 S3 AWS Academy Learner Lab 是提供一个帐号让学生可以自行使用 AWS 的服务&#xff0c;让学生可以在 100 USD的金额下&#xff0c;自行练习所要使用的 AWS 服务&#xff0c;以下使用 AWS Lambda 将图片写入 S3。 如何进入 Le…

Git源码(Linus 2005 年提交的最初版本)阅读笔记

Linus 发疯文学欣赏 Git 是 Linux 之父 Linus Torvalds 于2005年开发的用于帮助管理 Linux 内核开发的开源版本控制软件。 美好的一天从阅读 Linus 的发疯文学开始。 (1) Linus 教你学习 Git (2) Linus 评价 CVS (Concurrent Version System) (3) 独一无二的 Linus 调侃结束&a…

手把手教你写一个生成yapi接口代码Chrome 扩展插件

前言 公司想开发个公众号&#xff0c;想在公众号里做业务&#xff0c;也不是做小程序&#xff0c;但是以后也可能做小程序。emm&#xff0c;就是这么随意。所以就找个到了uniapp&#xff0c;说是可以开发一套代码&#xff0c;多平台运行。开发语法还是vue&#xff0c;感觉也没…

RabbitMQ消息队列——快速入门

目录 1、MQ介绍 1.1、什么是MQ&#xff1f; 1.2、MQ的能够解决的问题 1.2.1、削峰填谷 1.2.3、异步处理 1.3、MQ的选择 1.3.1、Kafka 1.3.2、ActiveMQ 1.3.3、RocketMQ 1.3.4、RabbitMQ 2、RabbitMQ的介绍 2.1、RabbitMQ的概述 2.2、AMQP 2.3、JMS 2.4、RabbitMQ…

关系抽取:传统:UniRel: Unified Representation and Interaction for Joint Relational

针对传统下的三元组抽取提出的一种方法&#xff0c;在NYT和webNLG数据集上&#xff0c;再次刷新榜单。 本来对这个结果不是很确定&#xff0c;但作者公布了源码&#xff0c;we can reformulate it . 很少在看到这种文章了吧。 Core idea 换了一种解释思路。 从entity-entity的…

ARM汇编之乘法指令

ARM汇编之乘法指令前言 首先&#xff0c;请问大家几个小小问题&#xff0c;你清楚&#xff1a; 乘法指令有哪些种类呢&#xff1f;ARM乘法指令具体的使用场景又有哪些&#xff1f; 今天&#xff0c;我们来一起探索并回答这些问题。为了便于大家理解&#xff0c;以下是本文的…

精准诊断,精确治疗,智芯传感ZXPA侵入式压力传感器为心血管疾病患者带来福音

近日&#xff0c;据联合国《世界人口展望2022》报告显示&#xff0c;地球人口已正式步入“80亿时代”&#xff01;人口数量增加&#xff0c;从一个侧面反映了人类文明的进步。此外&#xff0c;随着人类预期寿命增加&#xff0c;加上生育率下降&#xff0c;将加剧全球人口老龄化…

基于模型的聚类和R语言中的高斯混合模型

介绍 四种最常见的聚类方法模型是层次聚类&#xff0c;k均值聚类&#xff0c;基于模型的聚类和基于密度的聚类 . 最近我们被客户要求撰写关于聚类的研究报告&#xff0c;包括一些图形和统计输出。 可以基于两个主要目标评估良好的聚类算法&#xff1a; 高组内相似性低组间相…

小程序中的自定义组件以及组件通信、数据共享、插槽、behaviors

一、创建组件和使用自定义组件 1.创建组件 ①在项目的根目录中&#xff0c;鼠标右键&#xff0c;创建components -> 文件夹 ②在新建的components -> 文件夹上,鼠标右键&#xff0c;点击“新建Component ③键入组件的名称之后回车&#xff0c;会自动生成组件对应的4个…

卡尔曼滤波Kalman Filtering:介绍

本文是Quantitative Methods and Analysis: Pairs Trading此书的读书笔记。 控制理论(control theory&#xff09;是工程学的分支之一&#xff0c;主要应对工程系统控制的问题。比如控制汽车发动机的功率输出&#xff0c;稳定电动机的转速&#xff0c;控制“反应速率”&#x…

企业数字化办公利器——华为云桌面Workspace

随着云办公生态的逐渐成熟&#xff0c;华为云桌面也成为了越来越多企业实现随时随地移动办公的选择。 华为云桌面Workspace是一款SAAS产品&#xff0c;是基于华为云云原生架构设计和构建的云桌面服务&#xff0c;可支持云桌面的快速创建、部署和集中运维管理&#xff0c;免除大…

2023年java代做题目参考整理

为方便毕业设计选题&#xff0c;特别整理以下几百题目供参考 班级风采网站的设计 工资绩效管理系统的开发 电子产品销售网站的设计与实现 酒店预订信息管理系统的设计 成绩管理系统 B2C的电子商务系统(J2EE) B2C购物网站设计 教学网站及网上考试系统的设计与实现 ERP采…

STM32学习之Keil5软件配置

前言&#xff1a;代码编写环境可以让编写者在代码编写上有一定的好处&#xff0c;从而得到高效的代码编写。本次笔者写的是一些市面上常用的嵌入式开发软件Keil5&#xff0c;在初始化使用软件界面需要进行配置的。主要分为五大部分&#xff08;文本美化、代码编辑技巧、查找和替…

一篇图解Linux内存碎片整理

我们知道物理内存是以页为单位进行管理的&#xff0c;每个内存页大小默认是4K&#xff08;大页除外&#xff09;。申请物理内存时&#xff0c;一般都是按顺序分配的&#xff0c;但释放内存的行为是随机的。随着系统运行时间变长后&#xff0c;将会出现以下情况&#xff1a; 要解…

树莓派板载蓝牙使用

1 设置树莓派板载蓝牙 1.1 相关环境安装、配置 sudo apt-get update sudo apt-get install pi-bluetooth bluez bluez-firmware blueman1.2 树莓派蓝牙操作 参考&#xff1a; https://blog.csdn.net/guzhong10/article/details/78574577 有时候会失败&#xff0c; 可以尝试…

[附源码]SSM计算机毕业设计学校缴费系统JAVA

项目运行 环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; SSM mybatis Maven Vue 等等组成&#xff0c;B/S模式 M…

文件包含总结

概念 是指将已有的代码以文件形式包含到某个指定的代码中&#xff0c;从而使用其中的代码或者数据&#xff0c;一般是为了方便直接调用所需文件&#xff0c;文件包含的存在使得开发变得更加灵活和方便。 文件包含常见函数 include() // 执行到include时才包含文件&#xff…

区间信息维护与查询【线段树 】 - 原理2 线段树中的“懒操作”

区间信息维护与查询【线段树 】 - 原理2 线段树中的“懒操作” 之前我们已经说了对线段树的点更新和区间查询&#xff0c;若要求对区间中的所有点都进行更新&#xff0c;该怎么办&#xff1f; 若对区间的每个点都进行更新&#xff0c;则时间复杂度较高&#xff0c;可以引入懒…