MySQL数据库---笔记3

一、储存引擎

1.1、MySQL体系结构

MySQL体系结构图

• 连接层
  最上层是一些客户端和链接服务，主要完成一些类似于连接处理、授权认证、及相关的安全方案。服务器也会为安全接入的每个客户端验证它所具有的操作权限。
• 服务层
  第二层架构主要完成大多数的核心服务功能，如SQL接口，并完成缓存的查询，SQL的分析和优化，部分内置函数的执行。所有跨存储引擎的功能也在这一层实现，如过程、函数等。
• 引擎层
  存储引擎真正的负责了MySQL中数据的存储和提取，服务器通过API和存储引擎进行通信。不同的存储引擎具有不同的功能，这样我们可以根据自己的需要，来选取合适的存储引擎。
• 存储层
  主要是将数据存储在文件系统之上，并完成与存储引擎的交互。

1.2、存储引擎简介

存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式。存储引擎是基于表的，而不是基于库的，所以存储引擎也可被称为表类型。

• 默认存储引擎：InnoDB

1. 在创建表时，指定存储引擎

CREATE TABLE表名(
字段1 字段1 类型[COMMENT 字段1 注释],
......
字段n 字段n 类型[COMMENT 字段n 注释]
)ENGINE = INNODB[COMMENT 表注释];
1
2
3
4
5

2. 查看当前数据库的存储引擎

SHOW ENGINES;
1

1.3、存储引擎特点

• InnoDB

  • 介绍
    InnoDB是一种兼顾高可靠性和高性能的通用存储引擎，在MySQL5.5之后，InnoDB是默认的MySQL存储引擎。

  • 特点

    1. DML操作遵循ACID模型，支持事务;
    2. 行级锁，提高并发访问性能;
    3. 支持外键FOREIGN KEY约束，保证数据的完整性和正确性;

  • 文件
    xxx.ibd: xxx代表的是表名，innoDB引擎的每张表都会对应这样一个表空间文件存储该表的表结构(frm.sdi)、数据和索引。
    参数: innodb_file_per_table

• 一个Extent（区）的大小固定为 1M

• 一个 Page（页）的大小固定为 16K

• 一个区包含64个页

• MyISAM

  • 介绍
    MyISAM是MySQL早期的默认存储引擎

  • 特点

    1. 不支持事务，不支持外键
    2. 支持表锁，不支持行锁
    3. 访问速度快

  • 文件
    xxx.sdi :存储表结构信息
    xxx.MYD:存储数据
    xxx.MYI:存储索引

• Memory

  • 介绍
    Memory引擎的表数据时存储在内存中的，由于受到硬件问题、或断电问题的影响只能将这些表作为临时表或缓存使用。
  • 特点
    1. 内存存放
    2. hash索引（默认)
  • 文件
    xxx.sdi:存储表结构信息

• 存储引擎的区别

1.3、存储引擎选择

• InnoDB：是Mysql的默认存储引擎，支持事务、外键。如果应用对事务的完整性有比较高的要求，在并发条件下要求数据的一致性，数据操作除了插入和查询之外，还包含很多的更新、删除操作，那么InnoDB存储引擎是比较合适的选择。
• MyISAM：如果应用是以读操作和插入操作为主，只有很少的更新和删除操作，并且对事务的完整性、并发性要求不是很高，那么选择这个存储引擎是非常合适的。
• MEMORY：将所有数据保存在内存中，访问速度快，通常用于临时表及缓存。MEMORY的缺陷就是对表的大小有限制，太大的表无法缓存在内存中，而且无法保障数据的安全性。

二、索引

MySQL 8.0 对于密码格式有以下要求：

1. 密码长度必须大于等于 8 个字符；
2. 密码必须包含大小写字母、数字和特殊字符；
3. 特殊字符至少包括 !@#$%^&*()_±=[]{}|;':",./<>?;
4. 不允许出现空格字符。
5. 如果修改的密码不符合上述要求，系统会提示密码不符合要求，并且不允许设置。

需要注意的是，为了保证数据库的安全性，在设置 MySQL 8.0 的密码时，应该避免使用过于简单的口令，以免被攻击者轻易破解。建议使用强密码生成器来生成随机复杂的密码，并妥善保管密码信息。另外，为了提高安全性，尽量避免使用相同的密码同时连接到多个数据库服务器。

该错误提示为“拒绝访问”，说明 MySQL 数据库用户没有足够的权限或者用户名或密码输入错误。常见的解决方法如下：

1. 首先，确认用户名和密码正确。如果忘记了密码，可以使用以下命令来修改密码：

mysql -u root -p
ALTER USER 'root'@'localhost' IDENTIFIED WITH mysql_native_password BY '新密码';
FLUSH PRIVILEGES;
exit;
1
2
3
4

2. 如果用户名和密码正确，那么请确认 MySQL 是否允许远程连接。在 MySQL 8.0 中，默认情况下只允许本地连接。可以通过以下步骤开启远程连接：

• 使用 root 用户登录 MySQL 服务器；
• 输入以下命令查看当前用户和主机：

SELECT user,host FROM mysql.user;
1

3. 如果没有可用于远程连接的用户，请添加新用户。例如：

CREATE USER 'user'@'%' IDENTIFIED WITH mysql_native_password BY 'password';
GRANT ALL PRIVILEGES ON *.* TO 'user'@'%';
FLUSH PRIVILEGES;
1
2
3

注意，在上述示例中，“%”表示允许所有主机远程连接。如果指定特定主机，请使用相应的 IP 地址或主机名；

• 在 MySQL 服务器上检查防火墙设置，确保允许 MySQL 数据库的端口通过防火墙。默认情况下，MySQL 数据库使用 3306 端口。

3. 如果以上方法均无效，则可能是由于安全组或防火墙等其他网络安全策略导致，请检查相关设置。

总之，需要仔细排查错误原因，逐步解决问题。

2.1、索引概述

索引(index)是帮助MysQL高效获取数据的数据结构(有序)。在数据之外，数据库系统还维护着满足特定查找算法的数据结构，这些数据结构以某种方式引用（指向）数据，这样就可以在这些数据结构上实现高级查找算法，这种数据结构就是索引。

备注：上述二叉树索引结构的只是一个示意图，并不是真实的索引结构

索引的优缺点

2.2、索引-结构

MySQL的索引是在存储引擎层实现的，不同的存储引擎有不同的结构，主要包括以下几种：

索引在不同引擎当中的支持情况

我们平常所说的索引，如果没有特别指明，都是指B+树结构组织的索引。

2.2.1、索引结构-B-Tree

• 二叉数 与 红黑树
  

二叉树缺点：顺序插入时，会形成一个链表，查询性能大大降低。大数据量情况下，层级较深，检索速度慢。

• B-Tree（多路平衡查找树）

以一颗最大度数〈max-degree)为5(5阶)的b-tree为例(每个节点最多存储4个key，5个指针):

• 树的度数指的是一个节点的子节点个数

2.2.2、索引-结构-B+Tree

• 以一颗最大度数（max-degree）为4（4阶）的b+tree为例:

插入100 65 169 368 900 556 780 35 215 1200 234 888 158 90 1000 88 120 268 250数据为例。

相当于B-Tree区别：

1. 所有的数据都会出现在叶子节点
2. 叶子节点i形成一个单项链表

MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上，增加一个指向相邻叶子节点的链表指针，就形成了带有顺序指针的B+Tree，提高区间访问的性能。

2.2.3、索引-结构-hash

• 哈希索引就是采用一定的hash算法，将键值换算成新的hash值，映射到对应的槽位上，然后存储在hash表中。
• 如果两个(或多个)键值，映射到一个相同的槽位上，他们就产生了hash冲突〈也称为hash碰撞)，可以通过链表来解决。
  
  Hash索引特点
  1. Hash索引只能用于对等比较(=，in)，不支持范围查询（between，>，<，…)
  2. 无法利用索引完成排序操作
  3. 查询效率高，通常只需要一次检索就可以了，效率通常要高于B+tree索引

存储引擎支持
在MySQL中，支持hash索引的是Memory引擎，而InnoDB中具有自适应hash功能，hash索引是存储引擎根据B+Tree索引在指定条件下自动构建的。

2.2.4、索引-结构-思考题

为什么InnoDB存储引擎选择使用B+tree索引结构?

• 相对于二叉树，层级更少，搜索效率高;
• 对于B-tree，无论是叶子节点还是非叶子节点，都会保存数据，这样导致一页中存储的键值减少，指针跟着减少，要同样保存大量数据，只能增加树的高度，导致性能降低;
• 相对于Hash索引，B+tree支持范围匹配及排序操作

2.3、索引-分类

在InnoDB存储引擎中，根据索引的存储形式，又可以分为以下两种:

聚集索引选取规则:

• 如果存在主键，主键索引就是聚集索引。
• 如果不存在主键，将使用第一个唯一(UNIQUE）索引作为聚集索引。
• 如果表没有主键，或没有合适的唯一索引，则InnoDB会自动生成一个rowid作为隐藏的聚集索引。

• 回表查询：
  • 先从二级索引处拿到主键值
  • 再从聚集索引处拿到行数据

思考题

lnnoDB主键索引的B+Tree高度为多高呢?

假设:
一行数据大小为1k，一页中可以存储16行这样的数据。InnoDB的指针占用6个字节的空间，主键即使为bigint，占用字节数为8。

高度为2：
n*8 + (n + 1)*6 = 16*1024,算出n约为1170
1171 *6 = 18736

高度为3：
1171 * 1171 * 16 = 21939856

2.4、索引-语法

• 创建索引

CREATE [ UNIQUE |FULLTEXT] INDEX index_name ON table_name ( index_col_name....);
1

• 查看索引

SHOW INDEX FROM table_name ;
1

• 删除索引

DROP INDEX index_name ON table_name ;
1

# 给姓名创建一个索引
create index idx_user_name on user(name);
# 有phone创建一个唯一索引
create unique index idx_user_phone on user(phone);
# 给profession,age,status创建一个联合索引
create index idx_user_pro_age_sta on user(profession,age,status);
# 给email创建一个索引
create index idx_user_ema on user(email);
# 删除email的索引
drop index idx_user_ema on user;
1
2
3
4
5
6
7
8
9
10

2.5、索引-性能分析

2.5.1、索引-性能分析-查看执行频次

MySQL客户端连接成功后，通过show [session|globall] status命令可以提供服务器状态信息。通过如下指令，可以查看当前数据库的INSERT、UPDATE、DELETE、SELECT的访问频次:

SHOW GLOBAL STATUS LIKE 'Com_______';
1

2.5.2、索引-性能分析-慢查询日志

慢查询日志记录了所有执行时间超过指定参数（long_query_time，单位:秒默认10秒）的所有SQL语句的日志。

MySQL的慢查询日志默认没有开启，需要在MySQL的配置文件(/etc/my.cnf）中配置如下信息:

#开启MySQL慢日志查询开关
slow_query_log=1
#设置慢日志的时间为2秒，SQL语句执行时间超过2秒，就会视为慢查询，记录慢查询日志
long_query_time=2
1
2
3
4

配置完毕之后，通过以下指令重新启动MySQL服务器进行测试，查看慢日志文件中记录的信息/var/lib/mysql/localhost-slow.log。

2.5.3、索引-性能分析-show profiles

• profile详情

show profiles能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。通过have_profiling参数，能够看到当前MySQL是否支持profile操作:

SELECT @@have_profiling;
1

默认profiling是关闭的，可以通过set语句在session/global级别开启profiling:

SET profiling = 1;
1

执行一系列的业务SQL的操作，然后通过如下指令查看指令的执行耗时:

#f查看每一条SQL的耗时基本情况
show profiles;
#查看指定query_id的SQL语句各个阶段的耗时情况
show profile for query query_id;
#查看指定query_id的SQL语句CPU的使用情况
show profile cpu for query query_id;

1
2
3
4
5
6
7

2.5.4、索引-性能分析-explain

explain执行计划

EXPLAIN执行计划各字段含义：

• ld

select查询的序列号，表示查询中执行select子句或者是操作表的顺序(id相同，执行顺序从上到下;id不同，值越大，越先执行)。

• select_type

表示SELECT的类型，常见的取值有SIMPLE（简单表，即不使用表连接或者子查询)、PRIMARY（主查询，即外层的查询)、UNION(UNION中的第二个或者后面的查询语句）、SUBQERY (SELECT/WHERE之后包含了子查询）等

• type

表示连接类型，性能由好到差的连接类型为NULL、system、const、eq_ref、ref、range、index、all ,

• possible_key

显示可能应用在这张表上的索引，一个或多个。

• Key

实际使用的索引，如果为NULL，则没有使用索引。

• Key_len

表示索引中使用的字节数，该值为索引字段最大可能长度，并非实际使用长度，在不损失精确性的前提下，长度越短越好。

• rows

MySQL认为必须要执行查询的行数，在innodb引擎的表中，是一个估计值，可能并不总是准确的。

• filtered

表示返回结果的行数占需读取行数的百分比， filtered 的值越大越好。

2.6、索引-使用规则

2.6.1、最左前缀法则

如果索引了多列(联合索引)，要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始，并且不跳过索引中的列。如果跳跃某一列，索引将部分失效(后面的字段索引失效)。

范围查询

联合索引中，出现范围查询（>,<）范围查询右侧的索引失效

2.6.2、索引失效情况一

• 索引列运算

不要在索引列上进行运算操作，索引将失效

• 字符串不加引号

字符串类型字段使用时，不加引号，索引将失效

• 模糊查询

如果仅仅是尾部模糊匹配，索引不会失效。如果是头部模糊匹配，索引失效

2.6.3、索引失效情况二

• or连接的条件

用or分割开的条件，如果or前的额条件中的列有索引，而后面的列没有索引，那么涉及的索引都不会被用到

解决方案：对没有添加索引的列，添加上索引

• 数据分布影响

如果MySQL评估使用索引比全表更慢，则不使用索引

2.6.4、SQL提示

SQL提示，是优化数据库的一个重要手段，简单来说，就是在SQL语句中加入一些人为的提示来达到优化操作的目的

use index（告诉数据库要用的索引） :

explain select * from 表名 use index(使用的索引名) where 查询条件;
1

ignore index（告诉数据库不要用的索引）:

explain select *from 表名 ignore index(使用的索引名) where 查询条件;
1

force index（告诉数据库必须要用的索引）:

explain select * from 表名 force index(使用的索引名) where 查询条件;
1

2.6.5、覆盖索引&回表查询

覆盖索引

尽量使用覆盖索引（查询使用了索引，并且需要返回的列，在该索引中已经全部能够找到），减少select*

• using index condition :查找使用了索引,但是需要回表查询数据
• using where; using index :查找使用了索引，但是需要的数据都在索引列中能找到，所以不需要回表查询数据

2.6.6、前缀索引

当字段类型为字符串(varchar, text等)时、有时候需要索引很长的字符串，这会让索引变得很大，查询时，浪费大量的磁盘l0，影响查询效率。此时可以只将字符串的一部分前缀，建立索引，这样可以大大节约索引空间，从而提高索引效率。

• 语法

create index idx _xxoxx on table_name(column(n)) ;
1

• 前缀长度

可以根据索引的选择性来决定，而选择性是指不重复的索引值〈基数）和数据表的记录总数的比值，索引选择性越高则查询效率越高
唯一索引的选择性是1，这是最好的索引选择性，性能也是最好的。

select count(distinct email) / count(*) from tb_user ;
select count(distinct substring(email,1,5)) / count(*) from tb_user ;
1
2

2.6.7、单列索引&联合索引

单列索引:即一个索引只包含单个列。

联合索引:即一个索引包含了多个列。

• 在业务场景中，如果存在多个查询条件，考虑针对于查询字段建立索引时，建议建立联合索引，而非单列索引

2.7、索引设计原则

1. 针对于数据量较大，且查询比较频繁的表建立索引。
2. 针对于常作为查询条件(where)、排序（order by)、分组(group by）操作的字段建立索引。
3. 尽量选择区分度高的列作为索引，尽量建立唯一索引，区分度越高，使用索引的效率越高。
4. 如果是字符串类型的字段，字段的长度较长，可以针对于字段的特点
   建立前缀索引。
5. 尽量使用联合索引，减少单列索引，查询时，联合索引很多时候可以覆盖索引，节省存储空间，避免回表，提高查询效率。
6. 要控制索引的数量，索引并不是多多益善，索引越多，维护索引结构的代价也就越大，会影响增删改的效率。
7. 如果索引列不能存储NULL值，请在创建表时使用NOTNULL约束它。当优化器知道每列是否包含NULL值时，它可以更好地确定哪个索引最有效地用于查询。

三、SQL优化

3.1、插入数据

• insert优化

  • 批量插入

  insert into 表名 values(内容一),(内容二),(内容三)
  1

  • 手动提交事务

  start transaction;
  insert into 表名 values(内容一),(内容二),(内容三);
  insert into 表名 values(内容一),(内容二),(内容三);
  insert into 表名 values(内容一),(内容二),(内容三);
  commit;
  1
  2
  3
  4
  5

  • 主键顺序插入

  主键乱序插入:8 1 9 21 88 2 4 15 89 5 7 3
  主键顺序插入:1 2 3 4 5 7 8 9 15 21 88 89
  1
  2

通过这样的优化可以显著提高插入效率

• 大批量插入数据

如果一次性需要插入大批量数据，使用insert语句插入性能较低，此时可以使用MySQL数据库提供的load指令进行插入。操作如下;

#客户端连接服务端时，加上参数--local-infile
mysql --local-infile -u root -p
#设置全局参数local_infile为1，开启从本地加载文件导入数据的开关
set global local_infile= 1;
#执行load指令将准备好的数据，加载到表结构中
load data local infile 数据文件地址 into table 表名 fields terminated by 每个字段分隔的符号 lines terminated by 每一行分隔的符号;
1
2
3
4
5
6

主键顺序插入的性能高于乱序插入

3.2、主键优化

• 数据组织方式

在InnoDB存储引擎中，表数据都是根据主键顺序组织存放的，这种存储方式的表称为索引组织表(index organized table IOT)。

• 页分裂

页可以为空，也可以填充一半，也可以填充100%。每个页包含了2-N行数据(如果一行数据多大，会行溢出)，根据主键排列。

主键乱序插入，可能会导致页分裂

• 页合并

当删除一行记录时，实际上记录并没有被物理删除，只是记录被标记（flaged)为删除并且它的空间变得允许被其他记录声明使用。
当页中删除的记录达到MERGE_THRESHOLD(默认为页的50%)，InnoDB会开始寻找最靠近的页（前或后）看看是否可以将两个页合并以优化空间使用。

MERGE_THRESHOLD:合并页的阈值，可以自己设置，在创建表或者创建索引时指定。

• 主键设计原则
  • 满足业务需求的情况下，尽量降低主键的长度。
  • 插入数据时，尽量选择顺序插入，选择使用AUTO_INCREMENT自增主键。
  • 尽量不要使用UUID做主键或者是其他自然主键，如身份证号。
  • 业务操作时，避免对主键的修改。

3.3、order by优化

1. Uusing filesort :通过表的索引或全表扫描，读取满足条件的数据行，然后在排序缓冲区sort buffer中完成排序操作，所有不是通过索引直接返回排序结果的排序都叫FileSort排序。
2. Using index :通过有序索引顺序扫描直接返回有序数据，这种情况即为using index，不需要额外排序，操作效率高。

#没有创建索引时，根据age, phone进行排序
explain select id,age,phone from tb_user order by age , phone;
#创建索引
create index idx_user_age_phone_aa on tb_user(age,phone);
#创建索引后，根据age, phone进行升序排序
explain select id,age,phone from tb_user order by age , phone;
#创建索引后，根据age, phone进行降序排序
explain select id,age,phone from tb_user order by age desc , phone desc;

#根据age, phone进行降序一个升序，一个降序
explain select id,age,phone from tb_user order by age asc , phone desc;
#创建索引
create index idx_user_age_phone_ad on tb_user(age asc ,phone desc);
#根据age, phone进行降序一个升序，一个降序
explain select id,age,phone from tb_user order by age asc , phone desc;
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

• 根据排序字段建立合适的索引，多字段排序时，也遵循最左前缀法则。
• 尽量使用覆盖索引。
• 多字段排序，一个升序一个降序，此时需要注意联合索引在创建时的规则(ASC/DESC)。
• 如果不可避免的出现filesort，大数据量排序时，可以适当增大排序缓冲区大小 sort_buffer_size(默认256k)。

3.4、group by优化

#删除掉目前的联合索引 idx_user_pro_age_sta
drop index idx_user_pro_age_sta on tb_user;
#执行分组操作，根据profession字段分组
explain select profession , count(*) from tb_user group by profession ;
#创建索引
Create index idx_user_pro_age_sta on tb_user(profession , age , status);
# 执行分组操作，根据profession字段分组
explain select profession , count(*) from tb_user group by profession;
#执行分组操作，根据profession字段分组
explain select profession , count(*) from tb_user group by profession , age;
1
2
3
4
5
6
7
8
9
10

• 在分组操作时，可以通过索引来提高效率
• 在分组操作时，索引的使用也满足最左前缀法则

3.5、limit优化

一个常见又非常头疼的问题就是limit 2000000,10，此时需要MySQL排序前2000010记录，仅仅返回2000000 - 2000010的记录，其他记录丢弃，查询排序的代价非常大。

优化思路:一般分页查询时，通过创建覆盖索引能够比较好地提高性能，可以通过覆盖索引加子查询形式进行优化。

explain select *from tb_sku t , (select id from tb_sku order by id limit 2000000,10) a where t.id = a.id;
1

3.6、count优化

• MyISAM引擎把一个表的总行数存在了磁盘上，因此执行count(*)的时候会直接返回这个数，效率很高;
• InnoDB引擎就麻烦了，它执行count(*)的时候，需要把数据一行一行地从引擎里面读出来，然后累积计数。

优化思路：自己计数

count的几种用法

• count (主键)
  InnoDB引擎会遍历整张表，把每一行的主键id 值都取出来，返回给服务层。服务层拿到主键后，直接按行进行累加(主键不可能为nul)。
• count (字段)
  没有not null约束: InnoDB引擎会遍历整张表把每一行的字段值都取出来，返回给服务层，服务层判断是否为null，不为null，计数累加。有not null约束: InnoDB引擎会遍历整张表把每一行的字段值都取出来，返回给服务层，直接按行进行累加。
• count (1)
  InnoDB引擎遍历整张表，但不取值。服务层对于返回的每一行，放一个数字“1”进去，直接按行进行累加。
• count (*)
  lnnoDB引擎并不会把全部字段取出来，而是专门做了优化，不取值，服务层直接按行进行累加。

按照效率排序的话，count(字段) < count(主键id) < count(1) = count(*)，所以尽量使用count(*)。

3.7、update优化

update student set no ='200010010O' where id = 1 ;
update student set no = '2000100105'where name='韦一笑";
1
2

InnoDB的行锁是针对索引加的锁，不是针对记录加的锁，并且该索引不能失效，否则会从行锁升级为表锁。