赞
踩
在 MySQL 的众多存储引擎中,InnoDB 是最常用的存储引擎,也是 MySQL 现阶段唯一免费支持事务机制的存储引擎。在本文中,我们以 InnoDB 为例,介绍 MySQL 的索引结构以及其使用 B+ 树实现索引的原因。
首先,我们来了解一下 MySQL 的表空间。在 MySQL 中,所有的数据都被存储在一个空间内,称之为表空间,表空间内部又可以分为段(segment
)、区(extent
)、页(page
)、行(row
),其逻辑结构如下图:
表空间是由不同的段组成的,常见的段有:数据段,索引段,回滚段等等,在 MySQL 中,数据是按照 B+ 树来存储,因此数据即索引,因此数据段即为 B+ 树的叶子节点,索引段为 B+ 树的非叶子节点,回滚段用于存储undo
日志,用于事务失败后数据回滚以及在事务未提交之前通过undo
日志获取之前版本的数据,在 InnoDB 1.1 版本之前,一个 InnoDB 只支持一个回滚段,支持 1023 个并发修改事务同时进行,在 InnoDB 1.2 版本,将回滚段数量提高到了 128 个,也就是说可以同时进行128 * 1023
个并发修改事务。
区是由连续页组成的空间,每个区的固定大小为 1MB,为保证区中页的连续性,InnoDB 会一次从磁盘中申请 4 ~ 5 个区,在默认不压缩的情况下,一个区可以容纳 64 个连续的页。但是在开始新建表的时候,空表的默认大小为 96KB,是由于为了高效的利用磁盘空间,在开始插入数据时表会先利用 32 个页大小的碎片页来存储数据,当这些碎片使用完后,表大小才会按照 MB 倍数来增加。
页是 InnoDB 存储引擎的最小管理单位,每页大小默认是 16KB,从 InnoDB 1.2.x 版本开始,可以利用innodb_page_size
来改变页大小,但是改变只能在初始化 InnoDB 实例前进行修改,之后便无法进行修改,除非mysqldump
导出创建新库,常见的页类型有:数据页、undo
页、系统页、事务数据页、插入缓冲位图页、插入缓冲空闲列表页、未压缩的二进制大对象页以及压缩的二进制大对象页等。
行对应的是表中的行记录,每页存储最多的行记录也是有硬性规定的最多16KB/2-200
,即 7992 行,其中 16KB 是页大小。
每个 InnoDB 的表都拥有一个索引,称之为聚簇索引,此索引中存储着行记录,一般来说,聚簇索引是根据主键生成的。聚簇索引按照如下规则创建:
Note:对于选择唯一索引的顺序是按照定义唯一索引的顺序,而非表中列的顺序,同时选中的唯一索引字段会充当为主键,或者 InnoDB 隐式创建的自增列也可以看做主键。聚簇索引整体是一个 B+ 树,非叶子节点存放的是键值,叶子节点存放的是行数据,称之为数据页,这就决定了表中的数据也是聚簇索引中的一部分,数据页之间是通过一个双向链表来链接的,上文说到 B+ 树是一棵平衡查找树,也就是聚簇索引的数据存储是有序的,但这仅是逻辑上的有序。因为数据页之间是通过双向链表来连接,假如物理存储也是顺序的话,那维护聚簇索引的成本非常的高。
除了聚簇索引之外的索引都可以称之为辅助索引,与聚簇索引的区别在于辅助索引的叶子节点中存放的是主键的键值。一张表可以存在多个辅助索引,但是只能有一个聚簇索引,通过辅助索引来查找对应的航记录的话,需要进行两步,第一步通过辅助索引来确定对应的主键,第二步通过相应的主键值在聚簇索引中查询到对应的行记录,也就是进行两次 B+ 树搜索。相反,通过辅助索引来查询主键的话,遍历一次辅助索引就可以确定主键了,也就是所谓的索引覆盖,不用回表。
创建辅助索引,可以创建单列的索引,也就是用一个字段来创建索引,也可以用多个字段来创建副主索引称为联合索引,创建联合索引后,B+ 树的节点存储的键值数量不是 一个,而是多个,如下图:
(a,b)
这种形式(1,1),(1,2),(2,1),(2,4),(3,1),(3,2)
进行存放,这样有个好处,那就是存放数据时排序了,当进行order by
对某个字段进行排序时,可以减少复杂度,加速进行查询;select * from table where a=? and ?
可以使用索引(a,b)
来加速查询,但是在查询时有一个原则,SQL 的where
条件的顺序必须和二级索引一致,而且还遵循索引最左原则,select * from table where b=?
则无法利用(a,b)
索引来加速查询。要回答「为什么使用 B+ 树实现索引?」这个问题,我们不妨反过来看看使用其他树结构会产生什么样的问题。
二叉查找树(BST,Binary Search Tree),也叫二叉排序树,在二叉树的基础上需要满足:任意节点的左子树上所有节点值不大于根节点的值,任意节点的右子树上所有节点值不小于根节点的值。如下是一棵二叉查找树:
当需要快速查找时,将数据存储在 BST 是一种常见的选择,因为此时查询时间取决于树高,平均时间复杂度是O(lgn)
。然而,BST 可能长歪而变得不平衡,如下图所示,此时 BST 退化为链表,时间复杂度退化为O(n)
。
为了解决这个问题,引入了平衡二叉树。
平衡二叉树(AVL,Adelson-Velsky-Landis Tree),AVL 树是严格的平衡二叉树,所有节点的左右子树高度差不能超过 1;AVL 树查找、插入和删除在平均和最坏情况下都是O(lgn)
。
AVL 实现平衡的关键在于旋转操作:插入和删除可能破坏二叉树的平衡,此时需要通过一次或多次树旋转来重新平衡这个树。当插入数据时,最多只需要1次旋转(单旋转或双旋转);但是当删除数据时,会导致树失衡,AVL 需要维护从被删除节点到根节点这条路径上所有节点的平衡,旋转的量级为O(lgn)
。
由于旋转的耗时,AVL 树在删除数据时效率很低;在删除操作较多时,维护平衡所需的代价可能高于其带来的好处,因此 AVL 实际使用并不广泛。
与 AVL 树相比,红黑树并不追求严格的平衡,而是大致的平衡:只是确保从根到叶子的最长的可能路径不多于最短的可能路径的两倍长。从实现来看,红黑树最大的特点是每个节点都属于两种颜色(红色或黑色)之一,且节点颜色的划分需要满足特定的规则(具体规则略)。红黑树示例如下:
与 AVL 树相比,红黑树的查询效率会有所下降,这是因为树的平衡性变差,高度更高。但红黑树的删除效率大大提高了,因为红黑树同时引入了颜色,当插入或删除数据时,只需要进行O(1)
次数的旋转以及变色就能保证基本的平衡,不需要像 AVL 树进行O(lgn)
次数的旋转。总的来说,红黑树的统计性能高于 AVL。
因此,在实际应用中,AVL 树的使用相对较少,而红黑树的使用非常广泛。例如,Java 中的TreeMap
使用红黑树存储排序键值对;Java 8 中的HashMap
使用链表 + 红黑树解决哈希冲突问题(当冲突节点较少时,使用链表,当冲突节点较多时,使用红黑树)。
对于数据在内存中的情况(如上述的TreeMap
和HashMap
),红黑树的表现是非常优异的。但是对于数据在磁盘等辅助存储设备中的情况(如 MySQL 等数据库),红黑树并不擅长,因为红黑树长得还是太高了。当数据在磁盘中时,磁盘 IO 会成为最大的性能瓶颈,设计的目标应该是尽量减少 IO 次数;而树的高度越高,增删改查所需要的 IO 次数也越多,会严重影响性能。
B 树也称 B- 树(其中-
不是减号),是为磁盘等辅存设备设计的多路平衡查找树,与二叉树相比,B 树的每个非叶节点可以有多个子树。因此,当总节点数量相同时,B 树的高度远远小于 AVL 树和红黑树(B 树是一颗“矮胖子”),磁盘 IO 次数大大减少。
定义 B 树最重要的概念是阶数,对于一棵 m 阶 B 树,需要满足以下条件:
可以看出,B 树的定义,主要是对非叶结点的子节点数量和记录数量的限制。下图是一个 3 阶 B 树的例子:
B 树的优势除了树高小,还有对访问局部性原理的利用。所谓局部性原理,是指当一个数据被使用时,其附近的数据有较大概率在短时间内被使用。B树将键相近的数据存储在同一个节点,当访问其中某个数据时,数据库会将该整个节点读到缓存中;当它临近的数据紧接着被访问时,可以直接在缓存中读取,无需进行磁盘 IO;换句话说,B 树的缓存命中率更高。
B 树在数据库中有一些应用,如 MongoDB 的索引使用了 B 树结构。但是在很多数据库应用中,使用了是 B 树的变种 B+ 树。
B+ 树也是多路平衡查找树,其与 B 树的区别主要在于:
由此,B+ 树与 B 树相比,有以下优势:
当然,B+ 树也存在劣势:由于键会重复出现,因此会占用更多的空间。但是与带来的性能优势相比,空间劣势往往可以接受,因此 B+ 树的在数据库中的使用比 B 树更加广泛。
前面说到,B 树/B+ 树与红黑树等二叉树相比,最大的优势在于树高更小。实际上,对于 InnoDB 的 B+ 索引来说,树的高度一般在 2 ~ 4 层。下面来进行一些具体的估算。
树的高度是由阶数决定的,阶数越大树越矮;而阶数的大小又取决于每个节点可以存储多少条记录。InnoDB 中每个节点使用一个页,页的大小为 16KB,其中元数据只占大约 128 字节左右(包括文件管理头信息、页面头信息等等),大多数空间都用来存储数据。
对于非叶节点,记录只包含索引的键和指向下一层节点的指针。假设每个非叶节点页面存储 1000 条记录,则每条记录大约占用 16 字节;当索引是整型或较短的字符串时,这个假设是合理的。延伸一下,我们经常听到建议说索引列长度不应过大,原因就在这里:索引列太长,每个节点包含的记录数太少,会导致树太高,索引的效果会大打折扣,而且索引还会浪费更多的空间。
对于叶节点,记录包含了索引的键和值(值可能是行的主键、一行完整数据等,具体见前文),数据量更大。这里假设每个叶节点页面存储 100 条记录(实际上,当索引为聚簇索引时,这个数字可能不足 100;当索引为辅助索引时,这个数字可能远大于 100;可以根据实际情况进行估算)。
对于一棵 3 层 B+ 树,第一层(根节点)有 1 个页面,可以存储 1000 条记录;第二层有 1000 个页面,可以存储1000*1000
条记录;第三层(叶节点)有1000*1000
个页面,每个页面可以存储 100 条记录,因此可以存储1000*1000*100
条记录,即 1 亿条。而对于二叉树,存储 1 亿条记录则需要 26 层左右。
最后,总结一下各种树解决的问题以及面临的新问题:
参考资料:
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。