MySQL数据库 --- 高级篇_mysql高级

一、存储引擎

1.1、MySQL体系结构

1.1.1、连接层

• 最上层是一些客户端和链接服务，包含本地sock 通信和大多数基于客户端/服务端工具实现的类似于TCP/IP的通信。主要完成一些类似于连接处理、授权认证、及相关的安全方案。在该层上引入了线程池的概念，为通过认证安全接入的客户端提供线程。同样在该层上可以实现基于SSL的安全链接。服务器也会为安全接入的每个客户端验证它所具有的操作权限。

1.1.2、服务层

• 第二层架构主要完成大多数的核心服务功能，如SQL接口，并完成缓存的查询，SQL的分析和优化，部分内置函数的执行。所有跨存储引擎的功能也在这一层实现，如 过程、函数等。在该层，服务器会解析查询并创建相应的内部解析树，并对其完成相应的优化如确定表的查询的顺序，是否利用索引等，最后生成相应的执行操作。如果是select语句，服务器还会查询内部的缓存，如果缓存空间足够大，这样在解决大量读操作的环境中能够很好的提升系统的性能。

1.1.3、引擎层

• 存储引擎层， 存储引擎真正的负责了MySQL中数据的存储和提取，服务器通过API和存储引擎进行通信。不同的存储引擎具有不同的功能，这样我们可以根据自己的需要，来选取合适的存储引擎。数据库中的索引是在存储引擎层实现的。

1.1.4、存储层

• 数据存储层， 主要是将数据(如: redolog、undolog、数据、索引、二进制日志、错误日志、查询
  日志、慢查询日志等)存储在文件系统之上，并完成与存储引擎的交互。

和其他数据库相比，MySQL有点与众不同，它的架构可以在多种不同场景中应用并发挥良好作用。主要体现在存储引擎上，插件式的存储引擎架构，将查询处理和其他的系统任务以及数据的存储提取分离。这种架构可以根据业务的需求和实际需要选择合适的存储引擎。

1.2、存储引擎介绍

大家可能没有听说过存储引擎，但是一定听过引擎这个词，引擎就是发动机，是一个机器的核心组件。比如，对于舰载机、直升机、火箭来说，他们都有各自的引擎，是他们最为核心的组件。而我们在选择引擎的时候，需要在合适的场景，选择合适的存储引擎，就像在直升机上，我们不能选择舰载机的引擎一样。

而对于存储引擎，也是一样，他是mysql数据库的核心，我们也需要在合适的场景选择合适的存储引
擎。接下来就来介绍一下存储引擎。

存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式 。存储引擎是基于表的，而不是基于库的，所以存储引擎也可被称为表类型。我们可以在创建表的时候，来指定选择的存储引擎，如果没有指定将自动选择默认的存储引擎。

1.2.1、建表时指定存储引擎

CREATE TABLE 表名(
	字段1 字段1类型 [ COMMENT 字段1注释 ] ,
	......
	字段n 字段n类型 [COMMENT 字段n注释 ]
) ENGINE = INNODB [ COMMENT 表注释 ] ;
1
2
3
4
5

1.2.2、 查询当前数据库支持的存储引擎

show engines;
1

示例演示:

A. 查询建表语句 — 默认存储引擎: InnoDB

show create table account;
1

我们可以看到，创建表时，即使我们没有指定存储引擎，数据库也会自动选择默认的存储引擎。

B. 查询当前数据库支持的存储引擎

show engines ;
1

C. 创建表 my_myisam , 并指定MyISAM存储引擎

create table my_myisam(
	id int,
	name varchar(10)
) engine = MyISAM ;
1
2
3
4

D. 创建表 my_memory , 指定Memory存储引擎

create table my_memory(
	id int,
	name varchar(10)
) engine = Memory ;
1
2
3
4

1.3、存储引擎特点

上面我们介绍了什么是存储引擎，以及如何在建表时如何指定存储引擎，接下来我们就来介绍下来上面重点提到的三种存储引擎 InnoDB、MyISAM、Memory的特点。

1.3.1、InnoDB

1.3.1.1、介绍

• InnoDB是一种兼顾高可靠性和高性能的通用存储引擎，在 MySQL 5.5 之后，InnoDB是默认的MySQL 存储引擎。

1.3.1.2、特点

• DML操作遵循ACID模型，支持事务；

• 行级锁，提高并发访问性能；

• 支持外键FOREIGN KEY约束，保证数据的完整性和正确性；

1.3.1.3、文件

• xxx.ibd：xxx代表的是表名，innoDB引擎的每张表都会对应这样一个表空间文件，存储该表的表结构（frm-早期的 、sdi-新版的）、数据和索引。

参数：innodb_file_per_table

show variables like 'innodb_file_per_table';
1

如果该参数开启，代表对于InnoDB引擎的表，每一张表都对应一个ibd文件。 我们直接打开MySQL的数据存放目录： C:\ProgramData\MySQL\MySQL Server 8.0\Data ， 这个目录下有很多文件夹，不同的文件夹代表不同的数据库，我们直接打开test文件夹。

可以看到里面有很多的ibd文件，每一个ibd文件就对应一张表，比如：我们有一张表 account，就有这样的一个account.ibd文件，而在这个ibd文件中不仅存放表结构、数据，还会存放该表对应的索引信息。 而该文件是基于二进制存储的，不能直接基于记事本打开，我们可以使用mysql提供的一个指令 ibd2sdi ，通过该指令就可以从ibd文件中提取sdi信息，而sdi数据字典信息中就包含该表的表结构。

1.3.1.4、逻辑存储结构

• 表空间 : InnoDB存储引擎逻辑结构的最高层，ibd文件其实就是表空间文件，在表空间中可以包含多个Segment段。

• 段 : 表空间是由各个段组成的， 常见的段有数据段、索引段、回滚段等。InnoDB中对于段的管理，都是引擎自身完成，不需要人为对其控制，一个段中包含多个区。

• 区 : 区是表空间的单元结构，每个区的大小为1M。 默认情况下， InnoDB存储引擎页大小为16K， 即一个区中一共有64个连续的页。

• 页 : 页是组成区的最小单元，页也是InnoDB 存储引擎磁盘管理的最小单元，每个页的大小默认为 16KB。为了保证页的连续性，InnoDB 存储引擎每次从磁盘申请 4-5 个区。

• 行 : InnoDB 存储引擎是面向行的，也就是说数据是按行进行存放的，在每一行中除了定义表时所指定的字段以外，还包含两个隐藏字段。

1.3.2、MyISAM

1.3.2.1、介绍

• MyISAM是MySQL早期的默认存储引擎。

1.3.2.2、特点

• 不支持事务，不支持外键

• 支持表锁，不支持行锁

• 访问速度快

1.3.2.3、文件

• xxx.sdi：存储表结构信息

• xxx.MYD: 存储数据

• xxx.MYI: 存储索引

1.3.3、Memory

1.3.3.1、介绍

• Memory引擎的表数据时存储在内存中的，由于受到硬件问题、或断电问题的影响，只能将这些表作为临时表或缓存使用。

1.3.3.2、特点

• 内存存放

• hash索引（默认）

1.3.3.3、文件

• xxx.sdi：存储表结构信息

1.3.4、区别及特点

面试题:
InnoDB引擎与MyISAM引擎的区别 ?
①. InnoDB引擎, 支持事务, 而MyISAM不支持。
②. InnoDB引擎, 支持行锁和表锁, 而MyISAM仅支持表锁, 不支持行锁。
③. InnoDB引擎, 支持外键, 而MyISAM是不支持的。

---

主要是上述三点区别，当然也可以从索引结构、存储限制等方面，更加深入的回答，具体参
考如下官方文档：
https://dev.mysql.com/doc/refman/8.0/en/innodb-introduction.html
https://dev.mysql.com/doc/refman/8.0/en/myisam-storage-engine.html

1.4、存储引擎选择

在选择存储引擎时，应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统，还可以根据实际情况选择多种存储引擎进行组合。

• InnoDB: 是Mysql的默认存储引擎，支持事务、外键。如果应用对事务的完整性有比较高的要求，在并发条件下要求数据的一致性，数据操作除了插入和查询之外，还包含很多的更新、删除操作，那么InnoDB存储引擎是比较合适的选择。

• MyISAM ： 如果应用是以读操作和插入操作为主，只有很少的更新和删除操作，并且对事务的完整性、并发性要求不是很高，那么选择这个存储引擎是非常合适的。

• MEMORY：将所有数据保存在内存中，访问速度快，通常用于临时表及缓存。MEMORY的缺陷就是对表的大小有限制，太大的表无法缓存在内存中，而且无法保障数据的安全性。

二、索引

2.1、索引概述

2.1.1、介绍

• 索引（index）是帮助MySQL高效获取数据的数据结构(有序)。在数据之外，数据库系统还维护着满足特定查找算法的数据结构，这些数据结构以某种方式引用（指向）数据， 这样就可以在这些数据结构上实现高级查找算法，这种数据结构就是索引。

2.1.2、演示

表结构及其数据如下：

假如我们要执行的SQL语句为 ： select * from user where age = 45;

1). 无索引情况

• 在无索引情况下，就需要从第一行开始扫描，一直扫描到最后一行，我们称之为 全表扫描，性能很低。

2). 有索引情况

• 如果我们针对于这张表建立了索引，假设索引结构就是二叉树，那么也就意味着，会对age这个字段建立一个二叉树的索引结构。
• 此时我们在进行查询时，只需要扫描三次就可以找到数据了，极大的提高的查询的效率。

备注：

• 这里我们只是假设索引的结构是二叉树，介绍一下索引的大概原理，只是一个示意图，并不是索引的真实结构，

2.1.3、特点

2.2、索引结构

2.2.1、概述

MySQL的索引是在存储引擎层实现的，不同的存储引擎有不同的索引结构，主要包含以下几种：

上述是MySQL中所支持的所有的索引结构，接下来，我们再来看看不同的存储引擎对于索引结构的支持情况。

注意：

• 我们平常所说的索引，如果没有特别指明，都是指B+树结构组织的索引。

2.2.2、二叉树

假如说MySQL的索引结构采用二叉树的数据结构，比较理想的结构如下：

如果主键是顺序插入的，则会形成一个单向链表，结构如下：

所以，如果选择二叉树作为索引结构，会存在以下缺点：

• 顺序插入时，会形成一个链表，查询性能大大降低。

• 大数据量情况下，层级较深，检索速度慢。

此时大家可能会想到，我们可以选择红黑树，红黑树是一颗自平衡二叉树，那这样即使是顺序插入数据，最终形成的数据结构也是一颗平衡的二叉树,结构如下:

但是，即使如此，由于红黑树也是一颗二叉树，所以也会存在一个缺点：

• 大数据量情况下，层级较深，检索速度慢。

所以，在MySQL的索引结构中，并没有选择二叉树或者红黑树，而选择的是B+Tree，那么什么是B+Tree呢？在详解B+Tree之前，先来介绍一个B-Tree。

2.2.3、B-Tree

B-Tree，B树是一种多叉路衡查找树，相对于二叉树，B树每个节点可以有多个分支，即多叉。

以一颗最大度数（max-degree）为5(5阶)的b-tree为例，那这个B树每个节点最多存储4个key，5个指针：

知识小贴士: 树的度数指的是一个节点的子节点个数。

我们可以通过一个数据结构可视化的网站来简单演示一下。 https://www.cs.usfca.edu/~galles/visualization/BTree.html

插入一组数据： 100 65 169 368 900 556 780 35 215 1200 234 888 158 90 1000 88 120 268 250 。然后观察一些数据插入过程中，节点的变化情况。

特点：

• 5阶的B树，每一个节点最多存储4个key，对应5个指针。

• 一旦节点存储的key数量到达5，就会裂变，中间元素向上分裂。

• 在B树中，非叶子节点和叶子节点都会存放数据。

2.2.4、B+Tree

B+Tree是B-Tree的变种，我们以一颗最大度数（max-degree）为4（4阶）的b+tree为例，来看一下其结构示意图：

我们可以看到，两部分：

• 绿色框框起来的部分，是索引部分，仅仅起到索引数据的作用，不存储数据。

• 红色框框起来的部分，是数据存储部分，在其叶子节点中要存储具体的数据。

我们可以通过一个数据结构可视化的网站来简单演示一下。 https://www.cs.usfca.edu/~galles/visualization/BPlusTree.html

插入一组数据： 100 65 169 368 900 556 780 35 215 1200 234 888 158 90 1000 88 120 268 250 。然后观察一些数据插入过程中，节点的变化情况。

最终我们看到，B+Tree 与 B-Tree相比，主要有以下三点区别：

• 所有的数据都会出现在叶子节点。

• 叶子节点形成一个单向链表。

• 非叶子节点仅仅起到索引数据作用，具体的数据都是在叶子节点存放的。

上述我们所看到的结构是标准的B+Tree的数据结构，接下来，我们再来看看MySQL中优化之后的B+Tree。

MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上，增加一个指向相邻叶子节点的链表指针，就形成了带有顺序指针B+Tree，提高区间访问的性能，利于排序。

2.2.5、Hash

MySQL中除了支持B+Tree索引，还支持一种索引类型—Hash索引。

2.2.5.1、结构

哈希索引就是采用一定的hash算法，将键值换算成新的hash值，映射到对应的槽位上，然后存储在hash表中。

如果两个(或多个)键值，映射到一个相同的槽位上，他们就产生了hash冲突（也称为hash碰撞），可以通过链表来解决。

2.2.5.2、特点

• Hash索引只能用于对等比较(=，in)，不支持范围查询（between，>，< ，…）

• 无法利用索引完成排序操作

• 查询效率高，通常(不存在hash冲突的情况)只需要一次检索就可以了，效率通常要高于B+tree索引

2.2.5.3、存储引擎支持

在MySQL中，支持hash索引的是Memory存储引擎。 而InnoDB中具有自适应hash功能，hash索引是InnoDB存储引擎根据B+Tree索引在指定条件下自动构建的。

思考题： 1、为什么InnoDB存储引擎选择使用B+tree索引结构?

• A. 相对于二叉树，层级更少，搜索效率高；
• B. 对于B-tree，无论是叶子节点还是非叶子节点，都会保存数据，这样导致一页中存储的键值减少，指针跟着减少，要同样保存大量数据，只能增加树的高度，导致性能降低；
• C. 相对Hash索引，B+tree支持范围匹配及排序操作；
• 无论是二叉树还是红黑树，都会因为树的深度过深而造成IO次数变多，影响数据库读取效率
• 一般情况下3到4层的B+树足以支撑千万级别的数据量存储

---

2、mysql为什么使用B+树的数据结构？

• MySQL的索引结构使用了B+树这样的数据结构，使用B+树的根本原因是为了能够在尽可能少的IO量读取里面能够缓存或者存储更多的数据量，达到快速查询的效率，我们在进行索引系统存储的时候，首先明确一件事，索引的数据是要放在磁盘里面的，不可能一口气将磁盘里面的所有文件读取到内存里面，因此，在选择的时候要选择分块读取的方式，而操作系统本身在进行内存和磁盘交互的时候是以页为单位的，我们可以按照页的整数倍作为某一个磁盘快来进行数据的读取。我们在进行数据读取的时候还要确认一件事情，就是索引在进行数据读取的时候索引是要有key和value值的，key表示我们指定的索引列，value表示我们具体的行数据，也就是说，索引系统在进行具体实现的时候需要采用k-v格式的数据格式，当数据格式确定完以后，下一步我们要考虑使用什么样的数据结构，支持k-v格式的数据结构有非常多种，比如说hash表、二叉树、红黑树、B树、B+树等一系列的数据结构，最终，mysql选择了B+树，原因是什么？如果选择了hash表来进行数据存储的话，首先，它需要比较优良的hash算法，同时它不支持范围查询，因为hash表里面的数据都是均匀散列的，是无序的，当我们进行某一个数据范围查询的时候，只能挨个对比，这样的话效率是比较低的，像mysql里面memory存储引擎就支持了hash索引，但是innodb和myisam并不支持hash索引这样的方式。我们聊到二叉树，红黑树，这几个树都是可以存储k-v格式数据的，但是他们有一个共同特点：最多只能由两个分支，如果我们想存储更多数据的话，就可能会导致树的高度变高，数的高度一旦变高，会增加我们整体读取IO次数，这样的话对于数据的访问是有问题的，因此。基于这样的考虑，我们要把二叉树变成多叉树，同时要具备有序和平衡向右的特点，因此，B树应运而生，在B树里面，每一个数据节点可以存储更多的数据，同时数据和key值均匀的放在叶子节点和非叶子节点中，以这样的方式来进行存储的话，如果你是一个三层的存满了B树的话，大概可以支持几千条或者上万条数据的存储，这样的话是没办法满足我们业务需求的，基于这样的场景之后，我们可以在做一步延伸和考虑，将所有的data存储在叶子节点中，非叶子节点不要存储我们实际的数据，因此，有了B+树，在B+树实际存储的时候，叶子节点存放所有数据，而非叶子节点中并不存储实际的数据，同时在叶子节点里面有相应的指针可以把它们连起来，可以通过头直接访问到我们当前叶子节点最后一个数据节点，这样就完成了mysql索引数据的存储。在mysql索引里面，一般情况下 ，三到四层的B+树足以支撑千万级别的数据量存储，他没有明显的标准，要根据你存储的索引列的值的占用空间来决定，但是我们有一个原则，key所占用的存储空间要尽可能的少，这样能保证我们存储更多的数据。

2.3、索引分类

2.3.1、索引分类

在MySQL数据库，将索引的具体类型主要分为以下几类：主键索引、唯一索引、常规索引、全文索引。

2.3.2、聚集索引&二级索引

而在在InnoDB存储引擎中，根据索引的存储形式，又可以分为以下两种：

聚集索引选取规则:

• 如果存在主键，主键索引就是聚集索引。

• 如果不存在主键，将使用第一个唯一（UNIQUE）索引作为聚集索引。

• 如果表没有主键，或没有合适的唯一索引，则InnoDB会自动生成一个rowid作为隐藏的聚集索引。

聚集索引和二级索引的具体结构如下：

• 聚集索引的叶子节点下挂的是这一行的数据 。

• 二级索引的叶子节点下挂的是该字段值对应的主键值。

接下来，我们来分析一下，当我们执行如下的SQL语句时，具体的查找过程是什么样子的。

具体过程如下:

• 由于是根据name字段进行查询，所以先根据name='Arm’到name字段的二级索引中进行匹配查找。但是在二级索引中只能查找到 Arm 对应的主键值 10。

• 由于查询返回的数据是*，所以此时，还需要根据主键值10，到聚集索引中查找10对应的记录，最终找到10对应的行row。

• 最终拿到这一行的数据，直接返回即可。

回表查询： 这种先到二级索引中查找数据，找到主键值，然后再到聚集索引中根据主键值，获取数据的方式，就称之为回表查询。

思考题：

• 以下两条SQL语句，那个执行效率高? 为什么?
  A. select * from user where id = 10 ;
  B. select * from user where name = ‘Arm’ ;
  备注: id为主键，name字段创建的有索引；

---

解答：
A 语句的执行性能要高于B 语句。
因为A语句直接走聚集索引，直接返回数据。 而B语句需要先查询name字段的二级索引，然后再查询聚集索引，也就是需要进行回表查询。

思考题：

• InnoDB主键索引的B+tree高度为多高呢?
  
  假设:
  一行数据大小为1k，一页中可以存储16行这样的数据。InnoDB的指针占用6个字节的空间，主键即使为bigint，占用字节数为8。

---

• 高度为2：
  n * 8 + (n + 1) * 6 = 16*1024 , 算出n约为 1170
  1171 * 16 = 18736
  也就是说，如果树的高度为2，则可以存储 18000 多条记录。

---

• 高度为3：
  1171 * 1171 * 16 = 21939856
  也就是说，如果树的高度为3，则可以存储 2200w 左右的记录。

2.4、索引语法

2.4.1、创建索引

CREATE [ UNIQUE | FULLTEXT ] INDEX index_name ON table_name (index_col_name,... );
1

2.4.2、查看索引

SHOW INDEX FROM table_name ;
1

2.4.3、删除索引

DROP INDEX index_name ON table_name ;
1

2.4.4、案例演示

先来创建一张表 tb_user，并且查询测试数据。

create table tb_user(
	id int primary key auto_increment comment '主键',
	name varchar(50) not null comment '用户名',
	phone varchar(11) not null comment '手机号',
	email varchar(100) comment '邮箱',
	profession varchar(11) comment '专业',
	age tinyint unsigned comment '年龄',
	gender char(1) comment '性别 , 1: 男, 2: 女',
	status char(1) comment '状态',
	createtime datetime comment '创建时间'
) comment '系统用户表';

INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('吕布', '17799990000', 'lvbu666@163.com', '软件工程', 23, '1','6', '2001-02-02 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('曹操', '17799990001', 'caocao666@qq.com', '通讯工程', 33,'1', '0', '2001-03-05 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('赵云', '17799990002', '17799990@139.com', '英语', 34, '1','2', '2002-03-02 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('孙悟空', '17799990003', '17799990@sina.com', '工程造价', 54,'1', '0', '2001-07-02 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('花木兰', '17799990004', '19980729@sina.com', '软件工程', 23,'2', '1', '2001-04-22 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('大乔', '17799990005', 'daqiao666@sina.com', '舞蹈', 22, '2','0', '2001-02-07 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('露娜', '17799990006', 'luna_love@sina.com', '应用数学', 24,'2', '0', '2001-02-08 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('程咬金', '17799990007', 'chengyaojin@163.com', '化工', 38,'1', '5', '2001-05-23 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('项羽', '17799990008', 'xiaoyu666@qq.com', '金属材料', 43,'1', '0', '2001-09-18 00:00:00');
INSERT INTO tb_user (name, phone, email, profession, age, gender, status,createtime) VALUES ('白起', '17799990009', 'baiqi666@sina.com', '机械工程及其自动化', 27, '1', '2', '2001-08-16 00:00:00');
INSERT INTO tb_user (name
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22