一文搞懂MySQL索引页结构


Posted in MySQL onFebruary 28, 2022

1. 前言

「页」是InnoDB管理存储空间的基本单位,也是内存和磁盘交互的基本单位。也就是说,哪怕你需要1字节的数据,InnoDB也会读取整个页的数据,下次读取的数据如果恰巧也在这个页里,就能命中缓存了。写也是一样的,写数据前要先把页加载到内存,然后在内存中修改,该页被记为「脏页」,脏页淘汰之前必须刷盘。

InnoDB有很多类型的页,它们的用处也各不相同。比如:有存放undo日志的页、有存放INODE信息的页、有存放Change Buffer信息的页、存放用户记录数据的页等等。今天我们要聊的,就是最基础也是最重要的,存放用户记录数据的「索引页」。

2. 索引页结构

InnoDB默认的页大小是16KB,在初始化表空间之前可以在配置文件中进行配置,一旦初始化完成就不可再变更了。查看页大小的命令如下,显示的是字节数。

SHOW VARIABLES LIKE 'innodb_page_size';

索引页结构如下图所示:

一文搞懂MySQL索引页结构

索引页由七部分组成,其中Infimum和Supremum也属于记录,只不过是虚拟记录,这里为了与用户记录区分开,还是决定将两者拆开。

名称 大小 描述
File Header 38字节 所有页的通用文件头信息
Page Header 56字节 索引页特有的页头信息
Infimum+Supremum 26字节 页中虚拟的最小、最大记录
User Records 变长 用户记录数据
Free Space 变长 空闲空间
Page Directory 变长 页目录,加速页内数据检索效率
File Trailer 8字节 所有页的通用文件尾信息,校验页是否完整

2.1 File Header

File Header是所有页都有的一个通用的结构,占用固定的38字节,它记录了页的一些通用的状态信息,例如:页的页号、Checksum、把页串联成双向链表的指针、页的类型等等。

名称 大小 描述
FIL_PAGE_SPACE_OR_CHECKSUM 4字节 新版本中代表页的校验和Checksum
FIL_PAGE_OFFSET 4字节 页号
FIL_PAGE_PREV 4字节 上一个页的页号
FIL_PAGE_NEXT 4字节 下一个页的页号
FIL_PAGE_LSN 8字节 页面最后被修改时的LSN值
FIL_PAGE_TYPE 2字节 页的类型
FIL_PAGE_FILE_FLUSH_LSN 8字节 仅在系统表空间的第1个页中使用,代表文件至少被刷新到了对应的LSN值
FIL_PAGE_ARCH_LOG_NO_OR_SPACE_ID 4字节 页数据哪个表空间

FIL_PAGE_SPACE_OR_CHECKSUM

基于当前页计算出的校验和(Checksum),可以把它看作是哈希值,校验和不同,则两个页数据肯定不同。它的作用是InnoDB在脏页刷盘时,有可能会遇到页刷到一半断电的情况,页的头和尾部分分别记录校验和,只有当头尾的校验和一致的时候,才代表磁盘上的页是完整的,否则就是一个损坏的页。

FIL_PAGE_OFFSET

页号,页的唯一标识,全局递增的数字,InnoDB通过页号来定位唯一的一个页。4字节存储,意味着一个表空间最多可以有232个页,按照一个页16KB计算,则一个表空间最多支持64TB的数据。

FIL_PAGE_PREV & FIL_PAGE_NEXT

一个页大小才16KB,一张表数据其实是由N多个页构成的,页与页之间在物理上可以是不连续的,但是逻辑上要连续,FIL_PAGE_PREV和FIL_PAGE_NEXT分别指向当前页的上一个页和下一个页的页号,通过这两个指针将索引页串联成了一个双向链表。记录与记录之间是单向的,页与页之间是双向的!

FIL_PAGE_LSN

页面最后被修改时,对应的LSN值。LSN的全称是Log Sequence Number,日志序列号。它是一个递增的数字,和事务相关,这里不作赘述。

FIL_PAGE_TYPE

当前页的类型,InnoDB为了不同的目的设计了很多不同类型的页,索引页的固定值是0x45BF

FIL_PAGE_FILE_FLUSH_LSN

仅在第1个页中使用,用来判断数据库是正常关闭还是异常宕机。

FIL_PAGE_ARCH_LOG_NO_OR_SPACE_ID

仅记录当前页数据哪个表空间。

2.2 Page Header

Page Header是索引页特有的结构,占用固定的56字节,它记录了索引页中记录相关的状态信息。

名称 大小 描述
PAGE_N_DlR_SLOTS 2字节 页目录中的槽数量
PAGE_HEAP_TOP 2字节 未使用的空间最小地址,User Records和Free Space分界点
PAGE_N_HEAP 2字节 本页中的记录的数量(包括虚拟记录和删除记录)
PAGE_FREE 2字节 第一个删除的记录地址,后续删除的记录会形成链表。
PAGE_GARBAGE 2字节 已删除记录占用的字节数
PAGE_LAST_INSERT 2字节 最后插入记录的位置
PAGE_DIRECTION 2字节 记录插入的方向
PAGE_N_DIRECTION 2字节 同一个方向连续插入的记录数量
PAGE_N_RECS 2字节 该页中记录的数量(不包括虚拟记录和删除记录)
PAGE_MAX_TRX_ID 8字节 修改当前页的最大事务ID,仅在二级索引中使用
PAGE_LEVEL 2字节 当前页在B+树中所处的层级
PAGE_INDEX_ID 8字节 索引ID,表示当前页属于哪个索引
PAGE_BTR_SEG_LEAF 10字节 B+树叶子段的头部信息,仅在B+树的Root页定义
PAGE_BTR_SEG_TOP 10字节 B+树非叶子段的头部信息,仅在B+树的Root页定义

不用每个属性都了解,我们挑几个比较重要的看看。

PAGE_N_DlR_SLOTS

一个页内可能有上千条记录,挨个遍历的话效率太慢了。为了提高页内记录的检索效率,InnoDB将页内的记录划分为多个组,组里最大的那条记录相较于页的地址偏移量会记录到「Page Directory」部分,每个组都对应一个槽,槽的大小是固定的2字节。该属性记录的就是页内槽的数量。

PAGE_HEAP_TOP

Free Space的起始位置,它是User Records和Free Space分界点。一个全新的页一开始是没有User Records部分的,每插入一条记录,都要向Free Space申请空间,Free Space耗尽就代表页满了。

PAGE_FREE

DELETE命令删除记录时,InnoDB并不会真的将记录从磁盘中删除,而是在记录的头信息里打个标记,然后将其加入到「垃圾链表」中。PAGE_FREE指向的就是垃圾链表的表头记录。后面删除的记录,也会自动加入到链表里。

PAGE_DIRECTION & PAGE_N_DIRECTION

PAGE_DIRECTION表示最后一条记录插入的方向,比上一条记录值大则记为右边,反之则是左边。PAGE_N_DIRECTION表示同一方向连续插入的记录数,方向变了该值就会重置。

PAGE_LEVEL

InnoDB组织数据的形式就是B+树,树中的节点就是索引页,PAGE_LEVEL代表当前页在B+树中所处的层级。InnoDB规定,叶子节点层级为0,然后向上递增。

2.3 User Records

Infimum和Supremum也属于记录,只是为了与用户记录区分开才划分成了两部分,我们先看User Records。

用户记录存放在User Records部分,一个全新的页一开始全是Free Space,是没有User Records部分的。每插入一条记录都需要到Free Space申请一块空间,并将其划分到User Records用来存放用户记录。当Free Space耗尽也就代表当前页已经用完了,再有新记录需要插入,就需要申请一个新的页了。

一文搞懂MySQL索引页结构

还记得MySQL的行格式吗?它决定了记录在磁盘里的存储格式。以COMPACT为例,存储格式如下图:

一文搞懂MySQL索引页结构

记录头信息里的字段比较关键,以防大家忘记,我这里再贴一下:

名称 大小(Bit) 说明
预留位1 1 没有使用
预留位2 1 没有使用
deleted_flag 1 记录删除标记
min_rec_flag 1 B+树非叶子节点的最小目录项标记
n_owned 4 同一页内同一组里最大的记录会记录组里的记录数量,其余记录该值为0
heap_no 13 当前记录在页面堆里的相对位置
record_type 3 记录类型。0:普通记录,1:B+树非叶子节点目录项记录,2:Infimum记录,3:Supremum记录.
next_record 16 下一条记录的相对位置

记录头信息的最后2字节用来连接下一条记录,将页内所有记录串联成一个单向链表。所以我们隐藏变长字段长度列表和NULL值列表,记录的格式应该是这样的:

一文搞懂MySQL索引页结构

记录是怎么排序的?
我们已经知道,页内的记录会自动串联成一个单向链表。那这个链表的编排顺序是什么呢?是按照记录的插入时间排序的吗?其实不是的,如果表有主键,会根据主键排序;没主键有唯一非空索引,会根据该索引排序;两者都没有,InnoDB会自动生成一个row_id列并根据该列进行排序。

若无特殊说明,本文均假定表有主键。

2.4 Infimum & Supremum

Infimum和Supremum是索引页内的两条虚拟记录,InnoDB规定所有索引页都会有这两条记录,而且所有的用户记录都比Infimum大,都比Supremum小。
记录头信息里的heap_no代表记录在堆里的相对位置,该值越小代表记录越靠前。细心的同学会发现,上图中的用户记录heap_no值是从2开始的,那0和1呢?不说你也肯定猜到了,就是被Infimum和Supremum占用了。Infimum和Supremum的heap_no值分别是0和1,它俩在所有用户记录的最前面。

Infimum和Supremum结构非常的简单,和用户记录一样也有头信息,真实数据部分是固定的字符串,如下图所示:

一文搞懂MySQL索引页结构

我们把这两条虚拟记录也加入到记录里面,完整的结构就是下面这样的:

一文搞懂MySQL索引页结构

Supremum记录的next_record属性为0,代表它已经没有下一条记录了。

2.5 Page Directory

Free Space没什么好说的,就是一块未被使用的空闲空间。

Page Directory也叫作「页目录」,它的目的是提高页内记录的检索效率。相较于一张表几千万的记录来说,一个页内几百上千条记录已经是很少很少了。可即便如此,它也有几百上千条啊,如果页内检索记录只能挨个遍历的话,那也太低效了。别忘了,页内的记录是根据索引值排好序的,我们可以巧用「二分法」来快速查找。

具体做法是:将页内所有非删除的记录划分为N个组,每个组里最后一条记录(即主键最大的记录)称作“大哥”,其余记录是“小弟”,“大哥”的n_owned属性记录了组内的记录数量。将“大哥”在页内的地址偏移量提取出来,按顺序依次从File Trailer部分往前写,每个地址偏移量占用2字节,称作一个「槽」,Page Directory就是由这些槽构成的。
InnoDB对于分组内的记录数量有一些规定:

  • Infimum记录所在分组,只能有一条记录。
  • Supremum记录所在分组,允许有1~8条记录。
  • 其余分组,允许有4~8条记录。

由此可见,一个组里最多有8条记录,只要通过二分法快速定位到组,InnoDB也只需要遍历这8条记录,相较于遍历页内所有记录,效率要高的多。

一文搞懂MySQL索引页结构

2.6 File Trailer

File Trailer是所有页都有的通用结构,占用固定的8字节,它的主要作用就是为了校验页的完整性。磁盘的速度实在是太慢了,InnoDB不会每次写点数据都直接刷新到磁盘上,那样MySQL会慢死。而是将页作为刷盘的基本单位,数据修改时,先改内存里的页,稍后再将整个页的数据一次性刷新到磁盘里。但是这会带来一个问题,一个页16KB,刷到第10KB的时候磁盘断电了怎么办?重启后InnoDB如何判断磁盘里的页数据是完整的?

InnoDB是这么处理的,刷盘前根据页数据计算出一个Checksum,在页头和页尾都写一份。页刷盘的时候,先刷页头再刷页尾,当头尾两个Checksum值一致的时候,代表磁盘里的页是完整的,否则就表示页头刷了页尾没刷,那肯定是刷到一半出错了。

大小 说明
4字节 页的校验和Checksum
4字节 页最后被修改时对应的LSN的后4个字节,正常情况下应该与File Header里的FIL_PAGE_LSN的后4个字节相同。

3. 总结

页是InnoDB存取数据的基本单位,默认页大小是16KB,InnoDB为了不同的目的设计了很多不同类型的页,本文重点分析了存放用户记录的索引页。页的头尾部分File Header和File Trailer是所有页都有的一个通用结构,它们记录了页的一些通用状态信息,和Checksum用来验证页的完整性。Page Header是索引页特有的结构,它记录了页内用户记录相关的状态信息。User Records部分用来存放用户记录。另外,由于页内的记录数量也不少,为了提高页内记录的检索效率,InnoDB在索引页中加入了Page Directory,它通过将记录分组,将组里最大的记录的地址偏移量形成一个个槽,Page Directory就是由这些槽构成的。检索数据时,使用二分法快速定位到槽所在的组,就可以避免遍历所有组的记录了。

到此这篇关于MySQL索引页结构的文章就介绍到这了,更多相关MySQL索引页结构内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

MySQL 相关文章推荐
mysql部分操作
Apr 05 MySQL
Windows10下安装MySQL8
Apr 06 MySQL
MySQL索引失效的典型案例
Jun 05 MySQL
为什么代码规范要求SQL语句不要过多的join
Jun 23 MySQL
MySQL 那些常见的错误设计规范,你都知道吗
Jul 16 MySQL
MySql子查询IN的执行和优化的实现
Aug 02 MySQL
面试提问mysql一张表到底能存多少数据
Mar 13 MySQL
MySQL Server 层四个日志
Mar 31 MySQL
Nebula Graph解决风控业务实践
Mar 31 MySQL
一次Mysql update sql不当引起的生产故障记录
Apr 01 MySQL
以MySQL5.7为例了解一下执行计划
Apr 13 MySQL
MySQL解决Navicat设置默认字符串时的报错问题
Jun 16 MySQL
MySQL七大JOIN的具体使用
一文弄懂MySQL索引创建原则
一文了解MySQL二级索引的查询过程
Mysql数据库表中为什么有索引却没有提高查询速度
教你如何让spark sql写mysql的时候支持update操作
Feb 15 #MySQL
一文弄懂MySQL中redo log与binlog的区别
Feb 15 #MySQL
Mysql Innodb存储引擎之索引与算法
You might like
php中让上传的文件大小在上传前就受限制的两种解决方法
2013/06/24 PHP
PHP+jQuery+Ajax实现分页效果 jPaginate插件的应用
2015/10/09 PHP
Yii框架小部件(Widgets)用法实例详解
2020/05/15 PHP
用javascript实现给出的盒子的序列是否可连为一矩型
2007/08/30 Javascript
Extjs Ext.MessageBox.confirm 确认对话框详解
2010/04/02 Javascript
js图片延迟加载的实现方法及思路
2013/07/22 Javascript
JavaScript中的Truthy和Falsy介绍
2015/01/01 Javascript
深入理解JavaScript中的箭头函数
2015/07/28 Javascript
JavaScript实现倒计时代码段Item1(非常实用)
2015/11/03 Javascript
解决URL地址中的中文乱码问题的办法
2017/02/10 Javascript
深入理解vue2.0路由如何配置问题
2017/07/18 Javascript
vue 项目中使用Loading组件的示例代码
2018/08/31 Javascript
JavaScript使用localStorage存储数据
2019/09/25 Javascript
js实现的在本地预览图片功能示例
2019/11/09 Javascript
vue移动端写的拖拽功能示例代码
2020/09/09 Javascript
python算法学习之桶排序算法实例(分块排序)
2013/12/18 Python
Python实现简单字典树的方法
2016/04/29 Python
win10下Python3.6安装、配置以及pip安装包教程
2017/10/01 Python
Python统计纯文本文件中英文单词出现个数的方法总结【测试可用】
2018/07/25 Python
python3 实现爬取TOP500的音乐信息并存储到mongoDB数据库中
2019/08/24 Python
Python常用数据类型之间的转换总结
2019/09/06 Python
python 使用while循环输出*组成的菱形实例
2020/04/12 Python
2020最新pycharm汉化安装(python工程狮亲测有效)
2020/04/26 Python
python异步Web框架sanic的实现
2020/04/27 Python
Python持续监听文件变化代码实例
2020/07/22 Python
HTML5新特性 多线程(Worker SharedWorker)
2017/04/24 HTML / CSS
经理职责范文
2013/11/08 职场文书
2014年父亲节活动方案
2014/03/06 职场文书
2014年十一国庆向国旗敬礼寄语
2014/04/11 职场文书
法律专业自荐信
2014/06/03 职场文书
一年级语文下册复习计划
2015/01/17 职场文书
投诉信范文
2015/07/02 职场文书
python实现自定义日志的具体方法
2021/05/28 Python
K8s部署发布Golang应用程序的实现方法
2021/07/16 Golang
Python实现学生管理系统并生成exe可执行文件详解流程
2022/01/22 Python
电脑开机弹出documents文件夹怎么回事?弹出documents文件夹解决方法
2022/04/08 数码科技