postgres源码解析56 Brin Index--3(update/delete/insert流程)

news2025/1/12 0:56:17

  经过前两篇文章对brin index的讲解, 对brin index的构建更深入的认识,这些内容是理解索引更新流程的重点,相关知识点见postgres源码解析54 Brin Index–1   postgres源码解析55 Brin Index–2(brinbuild流程)。由于brin index是块范围索引,因此在插入、更新或者删除操作时,并不会实时进行维护索引信息;如下图,插入12与删除12均不会影响第三个brin index,可能会对统计信息产生影响,并不会影响数据正确性。

在这里插入图片描述

只有插入或者更新的数据超出原brin index边界范围内,才会触发更新动作。涉及的重点函数为 brininsert --> brin_form_tuple --> brin_doupdate --> PageIndexTupleOverwrite

brininsert

1 首先调用 brinRevmapInitialize函数初始brin index 映射页的访问对象BrinRevmap;
2 确定插入的heap元组落在哪个pagesPerRange,后续的更新操作均落在此页域中;
3 调用 brinGetTupleForHeapBlock获取该页域对应的磁盘形式brin index索引brtup;
4 如果brtup为空,退出循环
5 紧接着调用brin_deform_tuple函数将磁盘形式的brin index 转换成内存形式BrinMemTuple;
6 依次遍历索引元组的所有属性,判断插入堆元组数值是否落在索引元组区间内;如果在此区间内,设置标识need_insert 为false;如果超出此区间,则将发生变动的值更新至BrinMemTuple中,并设置标识need_insert 为true;
7 如果need_insert为false, 则释放锁资源;
8 调用 brin_copy_tuple函数拷贝brtup作为副本origtup,避免长时间持有锁;
9 然后将BrinMemTuple转换成磁盘形式brin index元组,判断是否可以同页更新,设置samepage标识;
10 释放缓冲块共享锁,调用brin_doupdate函数进行真正地更新操作;
11最后释放锁资源和内存资源。
在这里插入图片描述

brin_deform_tuple

该函数是将brin tuple从磁盘格式装换成内存格式,真正的实现函数为brin_deconstruct_tuple。
注:为避免在一循环中多次调用此函数频繁申请内存BrinMemTuple,提出一个优化手段。重复使用先前申请的内存BrinMemTuple,只需进行简单的初始化工作即可,测试验证此优化十分高效。
1 根据入参dMemtuple判断是否重用BrinMemTuple内存,可重用则只需进行简单地初始化工作,反之需要申请BrinMemTuple内存空间用于装载磁盘形式brin tuple数值信息。
2 获取tuple的数据域头部地址tp,判断tuple是否存在NULL值;若存在则需要获取tuple的bitmap地址nullbits;
3 调用brin_deconstruct_tuple函数将磁盘形式的brin tuple转换为内存形式。期执行流程如下:

/*
 * brin_deconstruct_tuple
 *		Guts of attribute extraction from an on-disk BRIN tuple.
 *
 * Its arguments are:
 *	brdesc		BRIN descriptor for the stored tuple
 *	tp			pointer to the tuple data area
 *	nullbits	pointer to the tuple nulls bitmask
 *	nulls		"has nulls" bit in tuple infomask
 *	values		output values, array of size brdesc->bd_totalstored
 *	allnulls	output "allnulls", size brdesc->bd_tupdesc->natts
 *	hasnulls	output "hasnulls", size brdesc->bd_tupdesc->natts
 *
 * Output arrays must have been allocated by caller.
 */
static inline void
brin_deconstruct_tuple(BrinDesc *brdesc,
					   char *tp, bits8 *nullbits, bool nulls,
					   Datum *values, bool *allnulls, bool *hasnulls)
{
	int			attnum;
	int			stored;
	TupleDesc	diskdsc;
	long		off;

	/*
	 * First iterate to natts to obtain both null flags for each attribute.
	 * Note that we reverse the sense of the att_isnull test, because we store
	 * 1 for a null value (rather than a 1 for a not null value as is the
	 * att_isnull convention used elsewhere.)  See brin_form_tuple.
	 */
	for (attnum = 0; attnum < brdesc->bd_tupdesc->natts; attnum++)
	{
		/*
		 * the "all nulls" bit means that all values in the page range for
		 * this column are nulls.  Therefore there are no values in the tuple
		 * data area.
		 */
		allnulls[attnum] = nulls && !att_isnull(attnum, nullbits);

		/*
		 * the "has nulls" bit means that some tuples have nulls, but others
		 * have not-null values.  Therefore we know the tuple contains data
		 * for this column.
		 *
		 * The hasnulls bits follow the allnulls bits in the same bitmask.
		 */
		hasnulls[attnum] =
			nulls && !att_isnull(brdesc->bd_tupdesc->natts + attnum, nullbits);
	}

	/*
	 * Iterate to obtain each attribute's stored values.  Note that since we
	 * may reuse attribute entries for more than one column, we cannot cache
	 * offsets here.
	 */
	diskdsc = brtuple_disk_tupdesc(brdesc);
	stored = 0;
	off = 0;
	for (attnum = 0; attnum < brdesc->bd_tupdesc->natts; attnum++)
	{
		int			datumno;

		if (allnulls[attnum])
		{
			stored += brdesc->bd_info[attnum]->oi_nstored;
			continue;
		}

		for (datumno = 0;
			 datumno < brdesc->bd_info[attnum]->oi_nstored;
			 datumno++)
		{
			Form_pg_attribute thisatt = TupleDescAttr(diskdsc, stored);

			if (thisatt->attlen == -1)
			{
				off = att_align_pointer(off, thisatt->attalign, -1,
										tp + off);
			}
			else
			{
				/* not varlena, so safe to use att_align_nominal */
				off = att_align_nominal(off, thisatt->attalign);
			}

			values[stored++] = fetchatt(thisatt, tp + off);

			off = att_addlength_pointer(off, thisatt->attlen, tp + off);
		}
	}
}

brin_doupdate

brin_doupdate 该函数的主要功能是更新旧元组,有两种场景,在同一页更新还是非同页更新
1 首先判断索引元组是否大于最大索引元组阈值,如果是则打印错误信息并返回false;
2 如果samepage为false,则找到可以容纳待插元组的索引页,并载入内存newbuf且设置extended标识;
 1)如果没有可用内存块,则返回false;
 2)如果newbuf == oldbuf,说明oldbuf含有足够的空间容纳待插元组;
3 获取oldbuf的缓冲块排它锁,设置extended为false;
4 读取oldbuf对应的数据页oldpage和旧元组对应的item信息;
5 如果oldpage不是常规的索引页/item非法/item状态不正常,则释放排它锁,
 1)如果newbuf有效,
  1.1如果extended为true,则初始化该newbuf对应的数据页;
  1.2释放newbuf上的锁资源(content lock和pin lock);
  1.3更新索引表的FSM信息;
 2)newbuf无效,返回false;
6 如果旧元组内容发生变化,则先释放oldbuf的缓冲块排它锁;
 1)如果newbuf有效,
  1.1如果extended为true,则初始化该newbuf对应的数据页;
  1.2释放newbuf上的锁资源(content lock和pin lock);
  1.3更新索引表的FSM信息;
 2)newbuf无效,返回false;
7 如果是同页更新,则;
临界区
 1)调用PageIndexTupleOverwrite函数执行更新操作
   更新失败,打印错误信息并退出
 2)将oldbuf标记为脏,需持有缓冲块排它锁防止其他进程进行刷盘操作,引发写入脏数据的风险;
 3)构建XLOG日志(XLOG_BRIN_SAMEPAGE_UPDATE),更新oldpage的lsn信息;
临界区
 4)释放oldbuf的缓冲块排它锁;
 5)如果newbuf无效,返回false,反之进行如下步骤:
  1.1如果extended为true,则初始化该newbuf对应的数据页;
  1.2释放newbuf上的锁资源(content lock和pin lock);
  1.3更新索引表的FSM信息;
 6)返回true;
8 如果newbuf无效,则释放oldbuf的缓冲块排它锁,返回false;
9 步骤7-8均不满足时,则说明oldpage没有空间容纳待插入元组,需要newbuf执行更新插入操作,流程如下:
 1)首先获取newabuf对应的索引映射revmappage页并将其载入revmapbuf;
临界区
 2)如果extended标识为true,则初始化一个新的索引常规页newpage;
 3)紧接着将索引元组从oldpage中删除,将其对应的itemdata设置为unused状态;
 4)调用PageAddItem函数将待插索引元组插入newpage中,并返回其item偏移量newoff;
 5)如果newoff无效,则报错失败退出;
 6)设置oldbuf、newbuf为脏状态;
 7)将插入的索引元组物理地址信息封装成TID插入到映射页中,并标记revmapbuf为脏状态;
 8)构建XLOG日志,更新oldpage、newpage、revmappage的lsn信息;
临界区
 9)释放锁资源,并更新索引表对应的FSM信息,最后返回true。

PageIndexTupleOverwrite 函数

在Brin index页替换指定索引
1 首先进行安全性检查,判断索引页是否损坏或者元组偏移量offnum是否合法;
2 然后计算新元组与旧元组的尺寸大小size_diff,然后重新移动目标元组前的所有元组,并更新offset指针;
3 最后将新索引元组插入到更新后的offset位置。

场景1:删除的元素不是最后一个ItenId指向的索引元组
 仅回收索引元组,而ItenidData设置为UNUSED转态
在这里插入图片描述
场景2:删除的元素是最后一个ItenId指向的索引元组
 ItemidData和索引元组空间都回收
在这里插入图片描述

/*
 * PageIndexTupleOverwrite
 *
 * Replace a specified tuple on an index page.
 *
 * The new tuple is placed exactly where the old one had been, shifting
 * other tuples' data up or down as needed to keep the page compacted.
 * This is better than deleting and reinserting the tuple, because it
 * avoids any data shifting when the tuple size doesn't change; and
 * even when it does, we avoid moving the line pointers around.
 * Conceivably this could also be of use to an index AM that cares about
 * the physical order of tuples as well as their ItemId order.
 *
 * If there's insufficient space for the new tuple, return false.  Other
 * errors represent data-corruption problems, so we just elog.
 */
bool
PageIndexTupleOverwrite(Page page, OffsetNumber offnum,
						Item newtup, Size newsize)
{
	PageHeader	phdr = (PageHeader) page;
	ItemId		tupid;
	int			oldsize;
	unsigned	offset;
	Size		alignednewsize;
	int			size_diff;
	int			itemcount;

	/*
	 * As with PageRepairFragmentation, paranoia seems justified.
	 */
	if (phdr->pd_lower < SizeOfPageHeaderData ||
		phdr->pd_lower > phdr->pd_upper ||
		phdr->pd_upper > phdr->pd_special ||
		phdr->pd_special > BLCKSZ ||
		phdr->pd_special != MAXALIGN(phdr->pd_special))
		ereport(ERROR,
				(errcode(ERRCODE_DATA_CORRUPTED),
				 errmsg("corrupted page pointers: lower = %u, upper = %u, special = %u",
						phdr->pd_lower, phdr->pd_upper, phdr->pd_special)));

	itemcount = PageGetMaxOffsetNumber(page);
	if ((int) offnum <= 0 || (int) offnum > itemcount)
		elog(ERROR, "invalid index offnum: %u", offnum);

	tupid = PageGetItemId(page, offnum);
	Assert(ItemIdHasStorage(tupid));
	oldsize = ItemIdGetLength(tupid);
	offset = ItemIdGetOffset(tupid);

	if (offset < phdr->pd_upper || (offset + oldsize) > phdr->pd_special ||
		offset != MAXALIGN(offset))
		ereport(ERROR,
				(errcode(ERRCODE_DATA_CORRUPTED),
				 errmsg("corrupted line pointer: offset = %u, size = %u",
						offset, (unsigned int) oldsize)));

	/*
	 * Determine actual change in space requirement, check for page overflow.
	 */
	oldsize = MAXALIGN(oldsize);
	alignednewsize = MAXALIGN(newsize);
	if (alignednewsize > oldsize + (phdr->pd_upper - phdr->pd_lower))
		return false;

	/*
	 * Relocate existing data and update line pointers, unless the new tuple
	 * is the same size as the old (after alignment), in which case there's
	 * nothing to do.  Notice that what we have to relocate is data before the
	 * target tuple, not data after, so it's convenient to express size_diff
	 * as the amount by which the tuple's size is decreasing, making it the
	 * delta to add to pd_upper and affected line pointers.
	 */
	size_diff = oldsize - (int) alignednewsize;
	if (size_diff != 0)
	{
		char	   *addr = (char *) page + phdr->pd_upper;
		int			i;

		/* relocate all tuple data before the target tuple */
		memmove(addr + size_diff, addr, offset - phdr->pd_upper);

		/* adjust free space boundary pointer */
		phdr->pd_upper += size_diff;

		/* adjust affected line pointers too */
		for (i = FirstOffsetNumber; i <= itemcount; i++)
		{
			ItemId		ii = PageGetItemId(phdr, i);

			/* Allow items without storage; currently only BRIN needs that */
			if (ItemIdHasStorage(ii) && ItemIdGetOffset(ii) <= offset)
				ii->lp_off += size_diff;
		}
	}

	/* Update the item's tuple length (other fields shouldn't change) */
	ItemIdSetNormal(tupid, offset + size_diff, newsize);

	/* Copy new tuple data onto page */
	memcpy(PageGetItem(page, tupid), newtup, newsize);

	return true;
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/999150.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

当红语言模型利器:深度解析向量数据库技术及其应用

编者按&#xff1a;随着大语言模型的广泛应用&#xff0c;如何存储和高效检索这些模型产生的大量向量表示成为一个较为关键的问题。本文深入探讨了向量数据库在提升语言模型应用性能方面的作用&#xff0c;并介绍了不同类型向量数据库的特点。 本文以简明扼要的方式全面概述了向…

视频去水印系统源码 支持全平台无水印下载 含完整代码包+搭建教程

分享一个视频去水印系统源码&#xff0c;支持全平台无水印下载&#xff0c;含完整代码包搭建部署教程。 系统架构 视频去水印系统主要由以下几个部分组成&#xff1a; 视频读取&#xff1a;该模块负责读取待处理的视频文件&#xff0c;将其转换为软件可处理的格式。水印检测…

第十六课 虚拟语气

文章目录 前言一、什么是语气二、虚拟语气1、假设的情况与事实相反2、假设的情况与将来的事实相反3、假设的情况与过去的事实相反4、主、从句的动作发生的时间不一致的情况5、虚拟条件状语从句省掉连接词if 的情况6、用介词代替虚拟条件状语从句7、省掉条件状语从句或者主句 三…

哈希表的实现(哈希捅)

今天是哈希表的实现&#xff0c;哈希表也是一种数据结构&#xff0c;我个人认为还是比较简单的&#xff0c;先给大家看看我 的实现代码吧&#xff0c;如下&#xff1a; #pragma once #include <iostream> #include <set> #include <map> #include <vecto…

在 Spring Boot 中配置和使用 JavaMailSender 发送邮件

&#x1f60a; 作者&#xff1a; 一恍过去 &#x1f496; 主页&#xff1a; https://blog.csdn.net/zhuocailing3390 &#x1f38a; 社区&#xff1a; Java技术栈交流 &#x1f389; 主题&#xff1a; 在 Spring Boot 中配置和使用 JavaMailSender 发送邮件 ⏱️ 创作时间…

华为OD机试 - 单词接龙 - 数据结构map、list (Java 2023 B卷 100分)

目录 专栏导读一、题目描述二、输入描述三、输出描述四、输入示例1、输入&#xff1a;2、输出3、说明 五、解题思路1、核心思想&#xff1a;2、核心算法是构建一个map&#xff1a; 六、Java算法源码七、效果展示1、输入2、输出3、说明4、没有移除后再次拼接的情况&#xff0c;改…

40 个 SpringBoot 常用注解让开发加速

一、Spring Web MVC 与 Spring Bean 注解 Spring Web MVC 注解 RequestMapping RequestMapping注解的主要用途是将Web请求与请求处理类中的方法进行映射。Spring MVC和Spring WebFlux都通过RquestMappingHandlerMapping和RequestMappingHndlerAdapter两个类来提供对RequestMa…

盛元广通实验动物中心综合信息管理系统LIMS

动物实验中心需要按照《实验动物管理条例》《实验动物许可证管理办法》等法规要求&#xff0c;对动物从购进、饲养、实验等须建立完整的质量管理体系&#xff0c;本着为实验动物中心减少人为失误,在降低人力成本的同时&#xff0c;保障动物房的安全运行&#xff0c;盛元广通实验…

Git 提交时忽略某些文件

Git 提交时忽略某些文件 ①打开项目目录&#xff0c;找到.gitignore文件 ②编辑.gitignore文件&#xff0c;加上要忽略的文件后缀 以上是针对还没有提交过的文件进行过滤 如果已经这些后缀的文件已经提交过&#xff0c;则需要删除远程的该后缀文件 git rm --cached示例&…

直播美颜工具的工程实现:集成人像美颜sdk的步骤与方法

时下&#xff0c;无论是个人直播、游戏直播还是专业直播&#xff0c;人像美颜技术都可以提高画面质量&#xff0c;吸引更多观众。本文将深入探讨如何实现一个直播美颜工具&#xff0c;着重介绍了集成人像美颜sdk的步骤与方法。 一、选择合适的人像美颜sdk 要实现一个高效的直…

零售商如何提升消费者购物体验?又学一招!

传统的零售方式已经逐渐被数字技术和自动化流程所替代&#xff0c;为消费者提供更为便捷和个性化的购物体验&#xff0c;同时也为零售商提供了更多的机会来提高效率和创造利润。 自动售货机不再局限于传统的零食和饮料&#xff0c;它们能够销售各种商品&#xff0c;从食品到化妆…

容器编排学习(九)服务管理与用户权限管理

一 service管理 1 概述 容器化带来的问题 自动调度&#xff1a;在 Pod 创建之前&#xff0c;用户无法预知 Pod 所在的节点&#xff0c;以及 Pod的IP 地址一个已经存在的 Pod 在运行过程中&#xff0c;如果出现故障&#xff0c;Pod也会在新的节点使用新的IP 进行部署应用程…

Linux基础 - 读取IO信息

背景 尽量不依赖第三方工具 命令 cat /proc/diskstats字段解析 major minor name rio rmerge rsect ruse wio wmerge wsect wuse running use aveqmajor&#xff1a;设备的主设备号。 minor&#xff1a;设备的次设备号。 name&#xff1a;设备名称&#xff0c;如 sda、sdb …

DataX实现Mysql数据同步到ElasticSearch(ES)

Linux环境要求 jdk1.8及以上 python2 准备工作 Linux安装jdk yum install -y java-1.8.0-openjdk.x86_64查看是否安装成功 java -versionlinux安装python yum install -y python查看python版本号&#xff0c;判断是否安装成功 python --version下载DataX&#xff1a; Dat…

前端绘制地铁路线图

前端绘制地铁路线图 前端可以使用多种技术绘制二维地图&#xff0c;以下是几种常见的方法&#xff1a; SVG&#xff1a;SVG是一种基于XML的矢量图形格式&#xff0c;可以使用SVG元素绘制各种形状和路径&#xff0c;包括线、圆、多边形等。可以使用JavaScript库如D3.js来绘制SV…

【胡锡进】大模型量化分析-汇川技术 300124.SZ

接下来&#xff0c;我将使用自回归移动平均模型&#xff08;ARMA&#xff09;、Bollinger带、随机森林回归&#xff08;Random Forest Regression&#xff09;、自回归移动平均法&#xff08;ARIMA&#xff09;和长短期记忆模型&#xff08;LSTM&#xff09;来预测汇川技术未来…

系列四、Nginx的常用命令和配置文件

一、常用命令 1.1、查看nginx的版本号 ./nginx -v 1.2、启动nginx cd /usr/local/nginx/sbin./nginx 1.3、停止nginx cd /usr/local/nginx/sbin./nginx -s stop 1.4、重新加载nginx 说明&#xff1a;该命令用于修改配置文件后&#xff0c;在不重启nginx的情况下使配置文…

iSCSI:提供基于 iSCSI 的网络存储(服务端以及启动器配置)

写在前面 准备考试整理相关笔记博文内容涉及 iSCSI简单介绍&#xff0c;服务端启动器配置以及一个使用Demo理解不足小伙伴帮忙指正 对每个人而言&#xff0c;真正的职责只有一个&#xff1a;找到自我。然后在心中坚守其一生&#xff0c;全心全意&#xff0c;永不停息。所有其它…

html实现邮件模版布局-flex布局table布局-demo

邮件模版布局 flex - 布局简单方便 兼容性差 table - 优点 就是兼容性好&#xff0c;其他没有优点 效果图 flex布局 <!DOCTYPE html> <html lang"en" xmlns:th"http://www.thymeleaf.org"> <head><meta charset"UTF-8"&g…

利用ansbile部署lamp并部署Discuz(非分布式)

目录 一、实验准备 二、设置ansbile的hosts文件 三、在192.168.115.148上完成相关准备 上传Discuz_X3.3_SC_UTF8.zip 配置本地源、确保我们的sr0挂载后可以使用 四、编写roles 创建目录 编写http的main.yml 编写mysql的main.yml 编写phpmain.yml 编写Discuz的main.ym…