编程知识 cdmana.com

详述 MySQL 中 InnoDB 的索引结构以及使用 B+ 树实现索引的原因

在 MySQL 的众多存储引擎中,InnoDB 是最常用的存储引擎,也是 MySQL 现阶段唯一免费支持事务机制的存储引擎。在本文中,我们以 InnoDB 为例,介绍 MySQL 的索引结构以及其使用 B+ 树实现索引的原因。

表空间

首先,我们来了解一下 MySQL 的表空间。在 MySQL 中,所有的数据都被存储在一个空间内,称之为表空间,表空间内部又可以分为段(segment)、区(extent)、页(page)、行(row),其逻辑结构如下图:
table-space

段(segment)

表空间是由不同的段组成的,常见的段有:数据段,索引段,回滚段等等,在 MySQL 中,数据是按照 B+ 树来存储,因此数据即索引,因此数据段即为 B+ 树的叶子节点,索引段为 B+ 树的非叶子节点,回滚段用于存储undo日志,用于事务失败后数据回滚以及在事务未提交之前通过undo日志获取之前版本的数据,在 InnoDB 1.1 版本之前,一个 InnoDB 只支持一个回滚段,支持 1023 个并发修改事务同时进行,在 InnoDB 1.2 版本,将回滚段数量提高到了 128 个,也就是说可以同时进行128 * 1023个并发修改事务。

区(extent)

区是由连续页组成的空间,每个区的固定大小为 1MB,为保证区中页的连续性,InnoDB 会一次从磁盘中申请 4 ~ 5 个区,在默认不压缩的情况下,一个区可以容纳 64 个连续的页。但是在开始新建表的时候,空表的默认大小为 96KB,是由于为了高效的利用磁盘空间,在开始插入数据时表会先利用 32 个页大小的碎片页来存储数据,当这些碎片使用完后,表大小才会按照 MB 倍数来增加。

页(page)

页是 InnoDB 存储引擎的最小管理单位,每页大小默认是 16KB,从 InnoDB 1.2.x 版本开始,可以利用innodb_page_size来改变页大小,但是改变只能在初始化 InnoDB 实例前进行修改,之后便无法进行修改,除非mysqldump导出创建新库,常见的页类型有:数据页、undo页、系统页、事务数据页、插入缓冲位图页、插入缓冲空闲列表页、未压缩的二进制大对象页以及压缩的二进制大对象页等。

行(row)

行对应的是表中的行记录,每页存储最多的行记录也是有硬性规定的最多16KB/2-200,即 7992 行,其中 16KB 是页大小。

索引结构

聚簇索引

每个 InnoDB 的表都拥有一个索引,称之为聚簇索引,此索引中存储着行记录,一般来说,聚簇索引是根据主键生成的。聚簇索引按照如下规则创建:

  • 如果定义主键,InnoDB 会利用主键来生成其聚簇索引;
  • 如果没有主键,InnoDB 会选择一个非空的唯一索引来创建聚簇索引;
  • 如果这也没有,InnoDB 会隐式的创建一个自增的列来作为聚簇索引。

Note:对于选择唯一索引的顺序是按照定义唯一索引的顺序,而非表中列的顺序,同时选中的唯一索引字段会充当为主键,或者 InnoDB 隐式创建的自增列也可以看做主键。聚簇索引整体是一个 B+ 树,非叶子节点存放的是键值,叶子节点存放的是行数据,称之为数据页,这就决定了表中的数据也是聚簇索引中的一部分,数据页之间是通过一个双向链表来链接的,上文说到 B+ 树是一棵平衡查找树,也就是聚簇索引的数据存储是有序的,但这仅是逻辑上的有序。因为数据页之间是通过双向链表来连接,假如物理存储也是顺序的话,那维护聚簇索引的成本非常的高。

辅助索引

除了聚簇索引之外的索引都可以称之为辅助索引,与聚簇索引的区别在于辅助索引的叶子节点中存放的是主键的键值。一张表可以存在多个辅助索引,但是只能有一个聚簇索引,通过辅助索引来查找对应的航记录的话,需要进行两步,第一步通过辅助索引来确定对应的主键,第二步通过相应的主键值在聚簇索引中查询到对应的行记录,也就是进行两次 B+ 树搜索。相反,通过辅助索引来查询主键的话,遍历一次辅助索引就可以确定主键了,也就是所谓的索引覆盖,不用回表。

创建辅助索引,可以创建单列的索引,也就是用一个字段来创建索引,也可以用多个字段来创建副主索引称为联合索引,创建联合索引后,B+ 树的节点存储的键值数量不是 一个,而是多个,如下图:

union-index

  • 联合索引的 B+ 树和单键辅助索引的 B+ 树是一样的,键值都是排序的,通过叶子节点可以逻辑顺序的读出所有的数据,比如上图所存储的数据时,按照(a,b)这种形式(1,1),(1,2),(2,1),(2,4),(3,1),(3,2)进行存放,这样有个好处,那就是存放数据时排序了,当进行order by对某个字段进行排序时,可以减少复杂度,加速进行查询;
  • 当用select * from table where a=? and ?可以使用索引(a,b)来加速查询,但是在查询时有一个原则,SQL 的where条件的顺序必须和二级索引一致,而且还遵循索引最左原则,select * from table where b=?则无法利用(a,b)索引来加速查询。
  • 辅助索引还有一个概念便是索引覆盖,索引覆盖的一个好处便是辅助索引不包含行记录,因此其大小远远小于聚簇索引,利用辅助索引进行查询可以减少大量的 IO 操作。

为什么使用 B+ 树实现索引?

要回答「为什么使用 B+ 树实现索引?」这个问题,我们不妨反过来看看使用其他树结构会产生什么样的问题。

二叉查找树:不平衡

二叉查找树(BST,Binary Search Tree),也叫二叉排序树,在二叉树的基础上需要满足:任意节点的左子树上所有节点值不大于根节点的值,任意节点的右子树上所有节点值不小于根节点的值。如下是一棵二叉查找树:

bst-1

当需要快速查找时,将数据存储在 BST 是一种常见的选择,因为此时查询时间取决于树高,平均时间复杂度是O(lgn)。然而,BST 可能长歪而变得不平衡,如下图所示,此时 BST 退化为链表,时间复杂度退化为O(n)

bst-2
为了解决这个问题,引入了平衡二叉树。

平衡二叉树:旋转耗时

平衡二叉树(AVL,Adelson-Velsky-Landis Tree),AVL 树是严格的平衡二叉树,所有节点的左右子树高度差不能超过 1;AVL 树查找、插入和删除在平均和最坏情况下都是O(lgn)

AVL 实现平衡的关键在于旋转操作:插入和删除可能破坏二叉树的平衡,此时需要通过一次或多次树旋转来重新平衡这个树。当插入数据时,最多只需要1次旋转(单旋转或双旋转);但是当删除数据时,会导致树失衡,AVL 需要维护从被删除节点到根节点这条路径上所有节点的平衡,旋转的量级为O(lgn)

由于旋转的耗时,AVL 树在删除数据时效率很低;在删除操作较多时,维护平衡所需的代价可能高于其带来的好处,因此 AVL 实际使用并不广泛。

红黑树:树太高

与 AVL 树相比,红黑树并不追求严格的平衡,而是大致的平衡:只是确保从根到叶子的最长的可能路径不多于最短的可能路径的两倍长。从实现来看,红黑树最大的特点是每个节点都属于两种颜色(红色或黑色)之一,且节点颜色的划分需要满足特定的规则(具体规则略)。红黑树示例如下:

red-black-tree
与 AVL 树相比,红黑树的查询效率会有所下降,这是因为树的平衡性变差,高度更高。但红黑树的删除效率大大提高了,因为红黑树同时引入了颜色,当插入或删除数据时,只需要进行O(1)次数的旋转以及变色就能保证基本的平衡,不需要像 AVL 树进行O(lgn)次数的旋转。总的来说,红黑树的统计性能高于 AVL。

因此,在实际应用中,AVL 树的使用相对较少,而红黑树的使用非常广泛。例如,Java 中的TreeMap使用红黑树存储排序键值对;Java 8 中的HashMap使用链表 + 红黑树解决哈希冲突问题(当冲突节点较少时,使用链表,当冲突节点较多时,使用红黑树)。

对于数据在内存中的情况(如上述的TreeMapHashMap),红黑树的表现是非常优异的。但是对于数据在磁盘等辅助存储设备中的情况(如 MySQL 等数据库),红黑树并不擅长,因为红黑树长得还是太高了。当数据在磁盘中时,磁盘 IO 会成为最大的性能瓶颈,设计的目标应该是尽量减少 IO 次数;而树的高度越高,增删改查所需要的 IO 次数也越多,会严重影响性能。

B 树:为磁盘而生

B 树也称 B- 树(其中-不是减号),是为磁盘等辅存设备设计的多路平衡查找树,与二叉树相比,B 树的每个非叶节点可以有多个子树。因此,当总节点数量相同时,B 树的高度远远小于 AVL 树和红黑树(B 树是一颗“矮胖子”),磁盘 IO 次数大大减少。

定义 B 树最重要的概念是阶数,对于一棵 m 阶 B 树,需要满足以下条件:

  • 每个节点最多包含 m 个子节点。
  • 如果根节点包含子节点,则至少包含 2 个子节点;除根节点外,每个非叶节点至少包含 m/2 个子节点。
  • 拥有 k 个子节点的非叶节点将包含 k - 1 条记录。
  • 所有叶节点都在同一层中。

可以看出,B 树的定义,主要是对非叶结点的子节点数量和记录数量的限制。下图是一个 3 阶 B 树的例子:

b-tree
B 树的优势除了树高小,还有对访问局部性原理的利用。所谓局部性原理,是指当一个数据被使用时,其附近的数据有较大概率在短时间内被使用。B树将键相近的数据存储在同一个节点,当访问其中某个数据时,数据库会将该整个节点读到缓存中;当它临近的数据紧接着被访问时,可以直接在缓存中读取,无需进行磁盘 IO;换句话说,B 树的缓存命中率更高。

B 树在数据库中有一些应用,如 MongoDB 的索引使用了 B 树结构。但是在很多数据库应用中,使用了是 B 树的变种 B+ 树。

B+ 树:更进一步的优化

B+ 树也是多路平衡查找树,其与 B 树的区别主要在于:

  • B 树中每个节点(包括叶节点和非叶节点)都存储真实的数据,B+ 树中只有叶子节点存储真实的数据,非叶节点只存储键。在 MySQL 中,这里所说的真实数据,可能是行的全部数据(如 InnoDB 的聚簇索引),也可能只是行的主键(如 InnoDB 的辅助索引),或者是行所在的地址(如 MyIsam 的非聚簇索引)。
  • B 树中一条记录只会出现一次,不会重复出现,而 B+ 树的键则可能重复重现,一定会在叶节点出现,也可能在非叶节点重复出现。
  • B+ 树的叶节点之间通过双向链表链接。
  • B 树中的非叶节点,记录数比子节点个数少 1;而 B+ 树中记录数与子节点个数相同。

由此,B+ 树与 B 树相比,有以下优势:

  • 更少的 IO 次数:B+ 树的非叶节点只包含键,而不包含真实数据,因此每个节点存储的记录个数比 B 数多很多(即阶 m 更大),因此 B+ 树的高度更低,访问时所需要的 IO 次数更少。此外,由于每个节点存储的记录数更多,所以对访问局部性原理的利用更好,缓存命中率更高。
  • 更适于范围查询:在 B 树中进行范围查询时,首先找到要查找的下限,然后对 B 树进行中序遍历,直到找到查找的上限;而 B+ 树的范围查询,只需要对链表进行遍历即可。
  • 更稳定的查询效率:B 树的查询时间复杂度在1到树高之间(分别对应记录在根节点和叶节点),而 B+ 树的查询复杂度则稳定为树高,因为所有数据都在叶节点。

当然,B+ 树也存在劣势:由于键会重复出现,因此会占用更多的空间。但是与带来的性能优势相比,空间劣势往往可以接受,因此 B+ 树的在数据库中的使用比 B 树更加广泛。

前面说到,B 树/B+ 树与红黑树等二叉树相比,最大的优势在于树高更小。实际上,对于 InnoDB 的 B+ 索引来说,树的高度一般在 2 ~ 4 层。下面来进行一些具体的估算。

树的高度是由阶数决定的,阶数越大树越矮;而阶数的大小又取决于每个节点可以存储多少条记录。InnoDB 中每个节点使用一个页,页的大小为 16KB,其中元数据只占大约 128 字节左右(包括文件管理头信息、页面头信息等等),大多数空间都用来存储数据。

对于非叶节点,记录只包含索引的键和指向下一层节点的指针。假设每个非叶节点页面存储 1000 条记录,则每条记录大约占用 16 字节;当索引是整型或较短的字符串时,这个假设是合理的。延伸一下,我们经常听到建议说索引列长度不应过大,原因就在这里:索引列太长,每个节点包含的记录数太少,会导致树太高,索引的效果会大打折扣,而且索引还会浪费更多的空间。

对于叶节点,记录包含了索引的键和值(值可能是行的主键、一行完整数据等,具体见前文),数据量更大。这里假设每个叶节点页面存储 100 条记录(实际上,当索引为聚簇索引时,这个数字可能不足 100;当索引为辅助索引时,这个数字可能远大于 100;可以根据实际情况进行估算)。

对于一棵 3 层 B+ 树,第一层(根节点)有 1 个页面,可以存储 1000 条记录;第二层有 1000 个页面,可以存储1000*1000条记录;第三层(叶节点)有1000*1000个页面,每个页面可以存储 100 条记录,因此可以存储1000*1000*100条记录,即 1 亿条。而对于二叉树,存储 1 亿条记录则需要 26 层左右。

总结

最后,总结一下各种树解决的问题以及面临的新问题:

  • 二叉查找树:解决了排序的基本问题,但是由于无法保证平衡,可能退化为链表;
  • 平衡二叉树:通过旋转解决了平衡的问题,但是旋转操作效率太低;
  • 红黑树:通过舍弃严格的平衡和引入红黑节点,解决了平衡二叉树旋转效率过低的问题,但是在磁盘等场景下,树仍然太高,IO 次数太多;
  • B 树:通过将二叉树改为多路平衡查找树,解决了树过高的问题;
  • B+ 树:在 B 树的基础上,将非叶节点改造为不存储数据的纯索引节点,进一步降低了树的高度;此外将叶节点使用指针连接成链表,范围查询更加高效。

参考资料

版权声明
本文为[CG国斌]所创,转载请带上原文链接,感谢
https://guobinhit.blog.csdn.net/article/details/106221933

Scroll to Top