赞
踩
索引:提高数据库的性能,索引是物美价廉的东西了。不用加内存,不用改程序,不用调sql,只要执行正确的 create index ,查询速度就可能提高成百上千倍。但是天下没有免费的午餐,查询速度的提高是以插入、更新、删除的速度为代价的索引需要占用物理空间,因此会增加数据库的存储需求,在插入、删除和修改数据时,索引也需要动态维护,降低了这些操作的效率,这些写操作,增加了大量的IO。所以它的价值,在于提高一个海量数据的检索速度。
索引主要分为以下几种类型:
案例:
先整一个海量表,在查询的时候,看看没有索引和有索引的区别。
--构建一个8000000条记录的数据 --构建的海量表数据需要有差异性,所以使用存储过程来创建, 拷贝下面代码就可以了,暂时不用理解 -- 产生随机字符串 delimiter $$ create function rand_string(n INT) returns varchar(255) begin declare chars_str varchar(100) default 'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ'; declare return_str varchar(255) default ''; declare i int default 0; while i < n do set return_str =concat(return_str,substring(chars_str,floor(1+rand()*52),1)); set i = i + 1; end while; return return_str; end $$ delimiter ; --产生随机数字 delimiter $$ create function rand_num() returns int(5) begin declare i int default 0; set i = floor(10+rand()*500); return i; end $$ delimiter ; --创建存储过程,向雇员表添加海量数据 delimiter $$ create procedure insert_emp(in start int(10),in max_num int(10)) begin declare i int default 0; set autocommit = 0; repeat set i = i + 1; insert into EMP values ((start+i) ,rand_string(6),'SALESMAN',0001,curdate(),2000,400,rand_num()); until i = max_num end repeat; commit; end $$ delimiter ; -- 执行存储过程,添加8000000条记录 call insert_emp(100001, 8000000);
select * from EMP where empno=888888;
可以看到耗时5.65秒,这还是在本机一个人来操作,在实际项目中,如果放在公网中,假如同时有1000个人并发查询,那很可能就死机。
alter table EMP add index(empno);
select * from EMP where empno=888888;
这次查询的结果就很快了,机会是同一时刻就查询到了。
MySQL 给用户提供存储服务,而存储的都是数据,数据在磁盘这个外设当中。磁盘是计算机中的一个机械设备,相比于计算机其他电子元件,磁盘效率是比较低的,在加上IO本身的特征,可以知道,如何提交效率,是 MySQL 的一个重要话题。
数据库文件,本质其实就是保存在磁盘的盘片当中。也就是上面的一个个小格子中,就是我们经常所说的扇区。当然,数据库文件很大,也很多,一定需要占据多个扇区。从上图可以看出来,在半径方向上,距离圆心越近,扇区越小,距离圆心越远,扇区越大那么,所有扇区都是默认512字节吗?目前是的,我们也这样认为。因为保证一个扇区多大,是由比特位密度决定的。不过最新的磁盘技术,已经慢慢的让扇区大小不同了,不过我们现在暂时不考虑。
我们在使用Linux,所看到的大部分目录或者文件,其实就是保存在硬盘当中的。(当然,有一些内存文件系统,如: proc , sys 之类,我们不考虑)
而我们之前也提到过了,在MySQL中创建数据库,其实本质上就是在linux中创建一个一个的文件目录,而创建表就是在这些文件目录中创建一个一个的文件,而要让这些数据进行长就行的保留,那么就必定是要将数据写进磁盘上的。
所以,最基本的,找到一个文件的全部,本质,就是在磁盘找到所有保存文件的扇区。而我们能够定位任何一个扇区,那么便能找到所有扇区,因为查找方式是一样的。
我们现在已经能够在硬件层面定位,任何一个基本数据块了(扇区)。那么在系统软件上,就直接按照扇区(512字节,部分4096字节),进行IO交互吗?不是
故,系统读取磁盘,是以块为单位的,基本单位是 4KB 。
磁盘随机访问(Random Access)与连续访问(Sequential Access)
所以综合上述就是,mysql中的数据是写进磁盘上的,而磁盘是由许多个磁片组成的,数据写道磁盘上本质就是写入一个一个的磁片上,磁片上有扇区和磁道,数据是通过磁头定位到具体的磁片上的具体柱面上的的扇区,最后定位到具体的磁道上拿到数据的,而每个扇区的的存储数据的大小是512字节,但是磁盘真正与上层应用交互数据的大小并非是512字节,这是因为磁盘并不会直接与上层进行交互,如果这样的话耦合度太高,一旦磁盘发生变动,上层的应用也得发生相应的改变,所以就有了数据块,磁盘与上层应用交互数据是以4kb的数据块进行交互的。而在查找数据时有分随机访问,和连续访问,随机范文的效率会更低一点,而连续访问,如果访问的两块数据的扇区距离比较远的话也视为时随机访问。
而 MySQL 作为一款应用软件,可以想象成一种特殊的文件系统。它有着更高的IO场景,所以,为了提高基本的IO效率, MySQL 进行IO的基本单位是 16KB (后面统一使用 InnoDB 存储引擎讲解)
mysql> SHOW GLOBAL STATUS LIKE 'innodb_page_size';
+------------------+-------+
| Variable_name | Value |
+------------------+-------+
| Innodb_page_size | 16384 | -- 16*1024=16384
+------------------+-------+
1 row in set (0.01 sec)
也就是说,磁盘这个硬件设备的基本单位是 512 字节,而 MySQL InnoDB引擎 使用 16KB 进行IO交互。即, MySQL 和磁盘进行数据交互的基本单位是 16KB 。这个基本数据单元,在 MySQL 这里叫做page(注意和系统的page区分)
MySQL 中的数据文件,是以page为单位保存在磁盘当中的。
MySQL 的 CURD 操作,都需要通过计算,找到对应的插入位置,或者找到对应要修改或者查询的数据。
而只要涉及计算,就需要CPU参与,而为了便于CPU参与,一定要能够先将数据移动到内存当中。
所以在特定时间内,数据一定是磁盘中有,内存中也有。后续操作完内存数据之后,以特定的刷新策略,刷新到磁盘。而这时,就涉及到磁盘和内存的数据交互,也就是IO了。而此时IO的基本单位就是Page。
为了更好的进行上面的操作, MySQL 服务器在内存中运行的时候,在服务器内部,就申请了被称为 Buffer Pool 的的大内存空间,来进行各种缓存。其实就是很大的内存空间,来和磁盘数据进行IO交互。
为何更高的效率,一定要尽可能的减少系统和磁盘IO的次数
create table if not exists user ( id int primary key, --一定要添加主键哦,只有这样才会默认生成主键索引 age int not null, name varchar(16) not null ); mysql> show create table user \G *************************** 1. row *************************** Table: user Create Table: CREATE TABLE `user` ( `id` int NOT NULL, `age` int NOT NULL, `name` varchar(16) NOT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci 1 row in set (0.00 sec)
插入多条记录
--插入多条记录,注意,我们并没有按照主键的大小顺序插入哦
mysql> insert into user (id, age, name) values(3, 18, '杨过');
Query OK, 1 row affected (0.01 sec)
mysql> insert into user (id, age, name) values(4, 16, '小龙女');
Query OK, 1 row affected (0.00 sec)
mysql> insert into user (id, age, name) values(2, 26, '黄蓉');
Query OK, 1 row affected (0.01 sec)
mysql> insert into user (id, age, name) values(5, 36, '郭靖');
Query OK, 1 row affected (0.00 sec)
mysql> insert into user (id, age, name) values(1, 56, '欧阳锋');
Query OK, 1 row affected (0.00 sec)
查看插入结果
mysql> select * from user; --发现竟然默认是有序的!是谁干的呢?排序有什么好处呢?
+----+-----+-----------+
| id | age | name |
+----+-----+-----------+
| 1 | 56 | 欧阳锋 |
| 2 | 26 | 黄蓉 |
| 3 | 18 | 杨过 |
| 4 | 16 | 小龙女 |
| 5 | 36 | 郭靖 |
+----+-----+-----------+
5 rows in set (0.00 sec)
首先我们要再次理解什么时page,我们现在不能单单的认为page只是一个16kb的内存大小。首先mysql中一定会存在大量的page,也就决定了mysal一定要对大量的page进行管理,而说到管理我们就要提到六字真言:“先描述,在组织”,所以mysal中一定存在一种数据结构将page管理起来,所以对page的管理就变成了对数据结构的增删改查了。
所以为什么IO交互要使用page
为何MySQL和磁盘进行IO交互的时候,要采用Page的方案进行交互呢?用多少,加载多少不香吗?如上面的5条记录,如果MySQL要查找id=2的记录,第一次加载id=1,第二次加载id=2,一次一条记录,那么就需要2次IO。如果要找id=5,那么就需要5次IO。但,如果这5条(或者更多)都被保存在一个Page中(16KB,能保存很多记录),那么第一次IO查找id=2的时候,整个Page会被加载到MySQL的Buffer Pool中,这里完成了一次IO。但是往后如果在查找id=1,3,4,5等,完全不需要进行IO了,而是直接在内存中进行了。所以,就在单Page里面,大大减少了IO的次数。你怎么保证,用户一定下次找的数据,就在这个Page里面?我们不能严格保证,但是有很大概率,因为有局部性原理。往往IO效率低下的最主要矛盾不是IO单次数据量的大小,而是IO的次数。
我们上面已经说过了,mysql与操作系统进数据交换的单位是page,我们也提到了,MySQL 中要管理很多数据表文件,而要管理好这些文件,就需要 先描述,在组织 ,我们目前可以简单理解成一个个独立文件是有一个或者多个Page构成的,而page其实就是一种结构化数据。
不同于page,MySQL中,数据单位传输都是以16kb为单位的,使用prev和next双向链表为数据结构进行数据管理。
因为有主键的问题,MySQL会默认按照主键给我们进行数据排序,这一点从上面的page数据记录和我们上面的测试可以看出,因此在MySQL中数据是有序且彼此有关联的。
那么MySQL为什么要给我们的数据进行排序呢?
插入数据时排序的目的,就是优化查询的效率。页内部存放数据的模块,实质上也是一个链表的结构,链表的特点也就是增删快,查询修改慢,所以优化查询的效率是必须的。正是因为有序,在查找的时候,从头到后都是有效查找,没有任何一个查找是浪费的,而且,如果运气好,是可以提前结束查找过程的。
通过上面的分析,我们知道,上面页模式中,只有一个功能,就是在查询某条数据的时候直接将一整页的数据加载到内存中,以减少硬盘IO次数,从而提高性能。但是,我们也可以看到,现在的页模式内部,实际上是采用了链表的结构,前一条数据指向后一条数据,本质上还是通过数据的逐条比较来取出特定的数据。如果有1千万条数据,一定需要多个Page来保存1千万条数据,多个Page彼此使用双链表链接起来,而且每个Page内部的数据也是基于链表的。那么,查找特定一条记录,也一定是线性查找。这效率也太低了。
我们还是拿翻书来做例子。加入我们有一本书,我们想要查找书中的某些内容时,我们有两个方案进行查找,第一种就是从头开始一致查到尾知道找到要查询的数据位置,而这种查询方法的效率显然是很低的。第二种方法就是先查看目录,根据目录具体定位到某一页,然后在进行线性查找,而这种查找方法是具有一定目的性的,效率自然也有大幅度提升。
所以针对上述情况,在page中添加了页目录来加快查询效率。
那么当前,在一个Page内部,我们引入了目录。比如,我们要查找id=4记录,之前必须线性遍历4次,才能拿到结果。现在直接通过目录2[3],直接进行定位新的起始位置,提高了效率。同时这也解释了,为什么我们在添加主键后,MySQL会自动给我们进行排好序,因为主键具有唯一性没有重复的,而目录是有序的,所以如果想要添加索引,那么就必定要求查找的数据是有序的。
MySQL 中每一页的大小只有 16KB ,单个Page大小固定,所以随着数据量不断增大, 16KB 不可能存下所有的数据,那么必定会有多个页来存储数据。
在单表数据不断被插入的情况下, MySQL 会在容量不足的时候,自动开辟新的Page来保存新的数据,然
这样,我们就可以通过多个Page遍历,Page内部通过目录来快速定位数据。可是,貌似这样也有效率问题,在Page之间,也是需要 MySQL 遍历的,遍历意味着依旧需要进行大量的IO,将下一个Page加载到内存,进行线性检测。这样就显得我们之前的Page内部的目录,有点杯水车薪了,所以我们可以再加上一层目录结构,通过指针的方式,将所有的Page组织起来,而这个上层page结构只用于存放page的地址。
使用一个目录项来指向某一页,而这个目录项存放的就是将要指向的页中存放的最小数据的键值。和页内目录不同的地方在于,这种目录管理的级别是页,而页内目录管理的级别是行。其中,每个目录项的构成是:键值+指针。
存在一个目录页来管理页目录,目录页中的数据存放的就是指向的那一页中最小的数据。有数据,就可通过比较,找到该访问那个Page,进而通过指针,找到下一个Page。
其实目录页的本质也是页,普通页中存的数据是用户数据,而目录页中存的数据是普通页的地址。可是,我们每次检索数据的时候,该从哪里开始呢?虽然顶层的目录页少了,但是还要遍历啊?不用担心,可以在加目录页
这货就是传说中的B+树啊!没错,至此,我们已经给我们的表user构建完了主键索引。
**此外我们从途中可以发现,B+树的路劲(除了叶子节点外)是没有使用链表进连接的,只有叶子节点才是使用链表连接起来的。**因为这样有利于进行范围查找,一旦我们找到了一个page节点,那么根据局部性原理,很大可能下一次数据就是从周围附近的节点中拿到数据,这样就不需要再次遍历一次B+树了。
所以这里假设就只有三层,第一层为跟目录,第二层就是次目录,第三层就是存放数据层。所以我们现在整体的搜寻就变成了一颗多叉树找叶子节点,同过这种方式,再搜寻的过程中非叶子节点并没有存放数据,而是存放更多的目录项,目录页,这样就可以管理更多的page,所以再搜寻的过程中搜寻的节点变少了,也就是说找到对应的数据需要的page更少了,那么将page加载到内存的page也就少了,也就是IO次数变少了,同时将对应的page给内存,该page中还有目录,查询结果的速度也就变快了。所以有了这两个加成搜寻效率大大的提高了。
如果是使用链表存储的,就是线性查找了,这显然不符合条件
虽然二叉搜索树再正常情况下是可以做到的,但是因为二叉搜索树的特点,在极端情况下会也会变成线性查询,也就是所有节点都在最右边,或者在最左边。
虽然是平衡或者近似平衡,但是毕竟是二叉结构,相比较多阶B+,意味着树整体过高,大家都是自顶向下找,经过的节点树会跟多,那么IO次数也就变多了,层高越低,意味着系统与硬盘更少的IO Page交互。虽然你很秀,但是有更秀的。
官方的索引实现方式中, MySQL 是支持HASH的,不过 InnoDB 和 MyISAM 并不支持.Hash跟进其算法特征,决定了虽然有时候也很快(O(1)),不过,在面对范围查找就明显不行,并且hash并不支持排序,这样也就无法进行局部查询,并且如果进行更改输入数据的微小变化会导致哈希表中的位置改变,使得性能下降。
B树
B+树
首先我们从上面两张图可以发现B树和B+树的一些区别。
为什么选择B+树
这里提供一个图形化数据结构测试网站连接
MyISAM 存储引擎-主键索引
MyISAM 引擎同样使用B+树作为索引结果,叶节点的data域存放的是数据记录的地址。下图为 MyISAM表的主索引, Col1 为主键。
其中, MyISAM 最大的特点是,将索引Page和数据Page分离,也就是叶子节点没有数据,只有对应数据的地址。相较于 InnoDB 索引, InnoDB 是将索引和数据放在一起的。其中, MyISAM 这种用户数据与索引数据分离的索引方案,叫做非聚簇索引
其中, InnoDB 这种用户数据与索引数据在一起索引方案,叫做聚簇索引当然, MySQL 除了默认会建立主键索引外,我们用户也有可能建立按照其他列信息建立的索引,一般这种索引可以叫做辅助(普通)索引。对于 MyISAM ,建立辅助(普通)索引和主键索引没有差别,无非就是主键不能重复,而非主键可重复。
下图就是基于 MyISAM 的 Col2 建立的索引,和主键索引没有差别
同样, InnoDB 除了主键索引,用户也会建立辅助(普通)索引,我们以上表中的 Col3 建立对应的辅助
索引如下图:
可以看到, InnoDB 的非主键索引中叶子节点并没有数据,而只有对应记录的key值。所以通过辅助(普通)索引,找到目标记录,需要两遍索引:首先检索辅助索引获得主键,然后用主键到主索引中检索获得记录。这种过程,就叫做回表查询。
语法:
第一种方法:show keys from 表名;
第二种方法:show index from 表名;
create table user1(id int primary key, name varchar(20)); mysql> show index from user1 \G *************************** 1. row *************************** Table: user1 Non_unique: 0 Key_name: PRIMARY Seq_in_index: 1 Column_name: id Collation: A Cardinality: 0 Sub_part: NULL Packed: NULL Null: Index_type: BTREE Comment: Index_comment: Visible: YES Expression: NULL 1 row in set (0.01 sec)
alter table 表名 drop primary key;
alter table 表名 drop index 对应索引列名称;
drop index 对应索引列名称 on 表名 ;
在创建表的时候,直接在字段名后指定 primary key
create table user1(id int primary key, name varchar(20));
在创建表的时候,直接在字段名后指定 primary key
create table user2(id int, name varchar(20)), primary key(id);
create table user3(id int, name varchar(20));
创建表以后再添加主键
alter table user3 add primary key(id);
在表定义时,在某列后直接指定unique唯一属性。
create table user4(id int primary key, name varchar(30) unique);
创建表时,在表的后面指定某列或某几列为unique
create table user5(id int primary key, name varchar(30), unique(name));
3.第三种方法
create table user6(id int primary key, name varchar(30));
创建表以后再添加unique
alter table user6 add unique(name);
create table user7(id int primary key,
->name varchar(20),
->email varchar(30),
->index(name) 在表的定义最后,指定某列为索引
);
create table user8(id int primary key, name varchar(20), email
varchar(30));
alter table user8 add index(name); 创建完表以后指定某列为普通索引
3.第三种方法
create table user9(id int primary key, name varchar(20), email varchar(30));
创建一个索引名为 idx_name 的索引
create index idx_name on user9(name);
当对文章字段或有大量文字的字段进行检索时,会使用到全文索引。MySQL提供全文索引机制,但是有要求,要求表的存储引擎必须是MyISAM,而且默认的全文索引支持英文,不支持中文。如果对中文进行全文检索,可以使用sphinx的中文版(coreseek)。
CREATE TABLE articles (
->id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,
->title VARCHAR(200),
->body TEXT,
->FULLTEXT (title,body)
)engine=MyISAM;
INSERT INTO articles (title,body) VALUES
->('MySQL Tutorial','DBMS stands for DataBase ...'),
->('How To Use MySQL Well','After you went through a ...'),
->('Optimizing MySQL','In this tutorial we will show ...'),
->('1001 MySQL Tricks','1. Never run mysqld as root. 2. ...'),
->('MySQL vs. YourSQL','In the following database comparison ...'),
->('MySQL Security','When configured properly, MySQL ...');
mysql> select * from articles where body like '%database%';
+----+-------------------+------------------------------------------+
| id | title | body |
+----+-------------------+------------------------------------------+
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
+----+-------------------+------------------------------------------+
可以用explain工具看一下,是否使用到索引
mysql> explain select * from articles where body like '%database%'\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: articles
type: ALL
possible_keys: NULL
key: NULL <== key为null表示没有用到索引
key_len: NULL
ref: NULL
rows: 6
Extra: Using where
1 row in set (0.00 sec)
mysql> select * from articles where match (title,body) AGAINST ('database');
+----+-------------------+------------------------------------------+
| id | title | body |
+----+-------------------+------------------------------------------+
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
+----+-------------------+------------------------------------------+
通过explain来分析这个sql语句
mysql> explain SELECT * FROM articles WHERE MATCH (title,body) AGAINST
('database')\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: articles
type: fulltext
possible_keys: title
key: title <= key用到了title
key_len: 0
ref:
rows: 1
Extra: Using where
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。