事务有4种特性:原子性、一致性、隔离性和持久性。那么事务的四种特性到底是基于什么机制实现呢?
- 事务的隔离性由锁机制执行。
- 事务的原子性、一致性和持久性由事务的redo日志和undo日志来保证。
redo log称为重做日志,提供再写入操作,恢复提交事务修改的页操作,用来保证事务的持久性
。
undo log称为回滚日志,回滚行记录到某个特定版本,用来保证事务的原子性、一致性
。
需要说明的是,undo 不是redo的逆过程,redo 和 undo都可以视为一种恢复操作,但是有所区别。
- redo log : 是存储引擎层(InnoDB)生成的日志,记录的是“物理级别”上的页修改操作,比如页号XXX、偏移量yyy、写入了zzz数据,主要是为了保证数据的可靠性。
- undo log : 是存储引擎层(InnoDB)生成的日志,记录的是逻辑操作日志。比如对某一行数据进行了insert语句操作,那么undo log就记录一条与之相反的delete操作。主要用于事务的回滚(undo log记录的是每个修改操作的逆操作)和一致性非锁定读(undo log 回滚行记录到某种特定的版本—MVCC,即多版本并发控制)。
【1】概念介绍
InnoDB存储引擎是以页为单位
来管理存储空间的。在真正访问页面之前,需要把在磁盘上
的页缓存到内存中的Buffer Pool
之后才可以访问。所有的变更都必须先更新缓冲池
中的数据,然后缓冲池中的脏页
会以一定的频率被刷入磁盘(checkPoint机制
),通过缓冲池来优化CPU和磁盘之间的鸿沟,这样就可以保证整体的性能不会下降太快。
① 为什么需要redo日志
一方面,缓冲池可以帮助我们消除CPU和磁盘之间的鸿沟,checkpoint机制可以保证数据的最终落盘。然而由于checkpoint并不是每次变更的时候就触发的,而是master线程隔一段时间去处理的。所以最坏的情况就是事务提交后,刚写完缓冲池,数据库宕机了,那么这段数据就是丢失的,无法恢复。
另一方面,事务包含持久性的特性,就是说对于一个已经提交的事务,在事务提交后即使系统发生了崩溃,这个事务对数据库中所做的更改也不能丢失。
那么如何保证这个持久性呢?一个简单的做法:在事务提交完成之前把该事务所修改的所有页面都刷新到磁盘。但是这个简单粗暴的做法有些问题:
- 修改量与刷新磁盘工作严重不成比例
有时候我们仅仅修改了某个页面中的一个字节,但是我们知道在InnoDB中是以页为单位来进行磁盘IO的,也就是说我们在该事务提交时不得不将一个完整的页面从内存中刷新到磁盘,一个页面默认是16KB大小,只修改一个字节就要刷新16KB的数据到磁盘上显然是不合适的。 - 随机IO刷新较慢
一个事务可能包含很多语句,即使是一条语句也可能修改许多页面。假设该事务修改的这些页面可能并不相邻,这就意味着在将某个事务修改的Buffer Pool中的页面刷新到磁盘时,需要进行很多的随机IO,随机IO比顺序IO要慢,尤其对于传统的机械硬盘来说。
另一个解决的思路:我们只是想让已经提交了的事务对数据库中数据所做的修改永久生效,即使后来系统崩溃,在重启后也能把这种修改恢复出来。所以我们其实没有必要在每次事务提交时就把该事务在内存中修改过的全部页面刷新到磁盘,只需要把修改了哪些东西记录一下就好。比如 ,某个事务将系统表空间中第10号页面中偏移量为100处的值更新为2。
InnoDB引擎的事务采用了WAL技术(Write-Ahead Logging),这种技术的思想就是先写日志,再写磁盘,只有日志写入成功,才算事务提交成功,这里的日志就是redo log。 当发生宕机且数据未刷到磁盘的时候,可以通过redo log来恢复,保证ACID中的D(durability 持久性),这就是redo log的作用。
② redo日志的优点与特点
redo日志降低了刷盘频率,并且其占用的空间非常小。因为其存储表空间ID、页号、偏移量以及需要更新的值,所需的存储空间是很小的,刷盘快。
redo日志是顺序写入磁盘的
在执行事务的过程中,每执行一条语句,就可能产生若干条redo日志,这些日志是按照产生的顺序写入磁盘的,也就是使用顺序IO,效率比随机IO快。
事务执行过程中,redo log不断记录
redo log跟bin log的区别在于redo log是存储引擎层产生的,而bin log是数据库层产生的。假设一个事务,对表做10万行的记录插入,在这个过程中,一直不断的往redo log顺序记录,而bin log不会记录,直到这个事务提交,才会一次性写入到bin log文件中。
【2】redo的组成
redo log可以简单分为以下两个部分:
- 重做日志的缓冲(redo log buffer),保存在内存中,是易失的。
- 重做日志文件(redo log file),保存在硬盘中,是持久的。
在服务器启动时就向操作系统申请了一大片称之为redo log buffer的连续内存空间,翻译成中文就是redo 日志缓冲区。这片内存空间被划分成若干个连续的redo log block。一个redo log block占用512字节大小。
参数设置:innodb_log_buffer_size
redo log buffer大小默认是16M,最大值是4096M,最小值为1M。
show variables like 'innodb_log_buffer_size'
保存在硬盘中的Redo日志文件如图所示,其中的ib_logfile0和ib_logfile1即为redo日志。
【3】redo的整体流程
以一个更新事务为例,redo log流转过程,如下图所示:
- 第一步:先将原始数据从磁盘中读入内存中来,修改数据的内存拷贝
- 第二步:生成一条重做日志并写入redo log buffer,记录的是数据被修改后的值
- 第三步:当事务commit时,将redo log buffer中的内容刷新到redo log file,对redo log file采用追加写的方式
- 第四步:定期将内存中修改的数据刷新到磁盘中
Write-Ahead log(预先日志持久化):在持久化一个数据页之前,先将内存中相应的日志页持久化。
【4】redo log的刷盘策略
redo log的写入并不是直接写入磁盘的,innodb引擎会在写redo log的时候先写redo log buffer,之后以一定的频率刷入到真正的redo log file中。这里的一定频率怎么看待呢?这就是我们要说的刷盘策略。
注意,redo log buffer刷盘到redo log file的过程并不是真正的刷到磁盘中去,只是刷入到文件系统缓存(page cache)中去(这是现代操作系统为了提高文件写入效率做的一个优化),真正的写入会交给系统自己来决定(比如page cache足够大了)。那么对于innodb来说就存在一个问题,如果交给系统来同步,同样如果系统宕机,那么数据也丢失了(虽然整个系统宕机的概率还是比较小的)。
针对这种情况,InnoDB给出innodb_flush_log_at_trx_commit参数,该参数控制commit提交事务时,如何将redo log buffer中的日志刷新到redo log file中。它支持三种策略:
- 设置为0:表示每次事务提交时不进行刷盘操作(系统默认master thread 每隔1s进行一次重做日志的同步)。
- 设置为1:表示每次事务提交时都将进行同步,刷盘操作(默认值)。
- 设置为2:表示每次事务提交时都只把redo log buffer内容写入page cache,不进行同步。由OS自己决定什么时候同步到磁盘文件。
show variables like 'innodb_flush_log_at_trx_commit'
# 默认为1
innodb_flush_log_at_trx_commit 1
另外,InnoDB存储引擎有一个后台线程,每隔1s,就会把redo log buffer中的内容写到文件系统缓存(page cache),然后调用刷盘操作。其实这也是 innodb_flush_log_at_trx_commit=0
时候的情况。
也就是说,一个没有提交事务的redo log记录,也可能会刷盘。因为在事务执行过程redo log 记录时会写入redo log buffer中,这些redo log 记录会被后台线程刷盘。
除了后台线程每秒1次的轮询操作,还有一种情况,当redo log buffer占用的空间即将达到 innodb_log_buffer_size(这个参数默认是16M)的一半的时候,后台线程会主动刷盘。