当前位置:   article > 正文

MySql分区

mysql分区

一、什么是分区

MySQL分区是一种数据库设计和管理技术,它允许你将表分割成独立的、具有特定规则的存储单元。每个分区可以独立地进行管理,包括备份、恢复和优化。分区的主要目的是提高查询性能、简化维护以及实现数据的更有效管理。

以下是MySQL分区的一些关键概念:

  1. 分区键(Partition Key): 分区键是用于将表数据分割成不同部分的列。分区键的选择通常取决于你的查询模式和数据分布。常见的分区键包括日期、范围、列表等。

  2. 分区类型: MySQL支持多种分区类型,包括范围分区、列表分区、哈希分区等。每种分区类型都有其适用的场景,选择合适的分区类型取决于你的需求。

  3. 分区表的创建: 你可以在创建表的时候指定分区方式,也可以在表已经存在的情况下通过ALTER TABLE语句进行分区。在创建或更改分区表时,你需要指定分区键和每个分区的规则。

  4. 分区操作: 分区表的操作通常包括将数据插入到特定的分区、查询特定分区的数据、合并或拆分分区等。这些操作使得你可以更灵活地管理大量数据。

  5. 性能提升: 使用分区可以显著提高查询性能,特别是在处理大型数据集时。当查询只涉及到特定分区时,数据库引擎只需要扫描相关的分区,而不是整个表。

  6. 数据维护: 分区可以简化备份和恢复操作,因为你可以只备份或恢复特定的分区。此外,对于一些表维护操作,如重建索引,也可以只针对特定分区进行。

分区是一个高级的数据库设计和管理特性,通常在处理大型数据集或者需要高性能查询的情况下使用。在使用分区时,需要考虑好分区键的选择和分区规则,以充分发挥其优势

二、为什么分区

MySQL数据库中的数据是以文件的形势存在磁盘上的,默认放在/mysql/data下面(可以通过my.cnf中的datadir来查看),一张表主要对应着三个文件,一个是frm存放表结构的,一个是myd存放表数据的,一个是myi存表索引的。如果一张表的数据量太大的话,那么myd,myi就会变的很大,查找数据就会变的很慢,这个时候我们可以利用mysql的分区功能,在物理上将这一张表对应的三个文件,分割成许多个小块,这样呢,我们查找一条数据时,就不用全部查找了,只要知道这条数据在哪一块,然后在那一块找就行了。如果表的数据太大,可能一个磁盘放不下,这个时候,我们可以把数据分配到不同的磁盘里面去。

表分区,是指根据一定规则,将数据库中的一张表分解成多个更小的,容易管理的部分。从逻辑上看,只有一张表,但是底层却是由多个物理分区组成。

三、分区类型

1、RANGE 分区:
基于属于一个给定连续区间的列值,把多行分配给分区。

2、LIST 分区:
类似于按RANGE分区,区别在于LIST分区是基于列值匹配一个离散值集合中的某个值来进行选择。

3、HASH分区:
基于用户定义的表达式的返回值来进行选择的分区,该表达式使用将要插入到表中的这些行的列值进行计算。这个函数可以包含MySQL中有效的、产生非负整数值的任何表达式。

4、KEY分区:
类似于按HASH分区,区别在于KEY分区只支持计算一列或多列,且MySQL服务器提供其自身的哈希函数。必须有一列或多列包含整数值。

5、复合分区:
基于RANGE/LIST 类型的分区表中每个分区的再次分割。子分区可以是 HASH/KEY 等类型。


四、以时间分区为例

1、创建表

该表生成1000万的数据

2、创建分区

要以start_time字段做分区字段,那么start_time必须是主键

alter table alarm_record_year DROP PRIMARY KEY, ADD PRIMARY key(sid, start_time);

分区:按年分区,每年做一个分区

  1. -- 新建,年分区
  2. ALTER TABLE alarm_record_year
  3. PARTITION BY RANGE (year(start_time))
  4. (
  5. PARTITION p0001 VALUES LESS THAN (2022), -- 2021
  6. PARTITION p0002 VALUES LESS THAN (2023), -- 2022
  7. PARTITION p0002 VALUES LESS THAN (2024), -- 2023
  8. PARTITION p_max VALUES LESS THAN (maxvalue) -- 不属于任何分区的数据 maxvalue是最后一个分区,后面不能再往后加分区
  9. );

解释:值是2022的存的是小于2022年的数据,值是maxvalue存的是不在任何分区中的数据

查询分区

  1. -- 年-查询分区
  2. select partition_name, partition_description as val from information_schema.partitions
  3. where table_name='alarm_record_year' and table_schema='lyc';

3、查询

3.1、查询是否走分区

EXPLAIN SELECT COUNT(1) FROM alarm_record_year WHERE start_time >='2019-01-01' AND start_time < '2019-12-01';

3.2、对比加分区和不加分区的执行时间

没加分区的执行时间(4s)

加分区的执行事件(0.018s)

五、其他操作

1、新建分区

  1. ALTER TABLE alarm_record
  2. PARTITION BY RANGE (year(start_time))
  3. (
  4. PARTITION p_max VALUES LESS THAN (MAXVALUE)
  5. );

2、添加分区

  1. ALTER TABLE alarm_record
  2. ADD PARTITION
  3. (
  4. PARTITION p0003 VALUES LESS THAN (2027)
  5. );

3、修改分区(注意:只能修改最后的一个分区,这样可以变相的新增一个分区

  1. ALTER TABLE alarm_record_year REORGANIZE PARTITION p_max INTO
  2. (
  3. PARTITION p0003 VALUES LESS THAN (2024) ,
  4. PARTITION p_max VALUES LESS THAN (MAXVALUE)
  5. );

4、删除分区(注意:删除分区会删除分区内的数据,删除前备份!备份!备份!

  1. -- 删除某个分区
  2. ALTER TABLE alarm_record_year DROP PARTITION p_max;
  3. -- 删除全部分区
  4. ALTER TABLE alarm_record REMOVE PARTITIONING;

5、查询分区

  1. select partition_name, partition_description as val from information_schema.partitions
  2. where table_name='alarm_record' and table_schema='lyc';

六、实战:以天为单位分区

生成某个年份到某个年份的所有的日期分区。例如:2020-01-01到2023-12-12

1、创建执行过程

入参:两个年份(2020,2023)

  1. CREATE DEFINER=`root`@`localhost` PROCEDURE `create_day`(
  2. IN f_year_start YEAR,
  3. IN f_year_end YEAR
  4. )
  5. BEGIN
  6. DECLARE v_days INT UNSIGNED DEFAULT 365;
  7. DECLARE v_year DATE DEFAULT '2020-01-01';
  8. DECLARE v_partition_name VARCHAR(64) DEFAULT '';
  9. DECLARE v_start_time DATE;
  10. DECLARE i,j INT UNSIGNED DEFAULT 1;
  11. SET @stmt = '';
  12. SET @stmt_begin = 'ALTER TABLE alarm_record_day PARTITION BY RANGE COLUMNS (start_time)(';
  13. SET i = f_year_start;
  14. WHILE i <= f_year_end DO
  15. SET v_year = CONCAT(i,'-01-01');
  16. SET v_days = DATEDIFF(DATE_ADD(v_year,INTERVAL 1 YEAR),v_year);
  17. SET j = 1;
  18. WHILE j <= v_days DO
  19. SET v_start_time = DATE_ADD(v_year,INTERVAL j DAY);
  20. SET v_partition_name = CONCAT('p',i,'_',LPAD(j,3,'0'));
  21. SET @stmt = CONCAT(@stmt,'PARTITION ',v_partition_name,' VALUES LESS THAN (''',v_start_time,'''),');
  22. SET j = j + 1;
  23. END WHILE;
  24. SET i = i + 1;
  25. END WHILE;
  26. SET @stmt_end = 'PARTITION p_max VALUES LESS THAN (maxvalue))';
  27. SET @stmt = CONCAT(@stmt_begin,@stmt,@stmt_end);
  28. PREPARE s1 FROM @stmt;
  29. EXECUTE s1;
  30. DROP PREPARE s1;
  31. SELECT NULL,NULL,NULL INTO @stmt,@stmt_begin,@stmt_end;
  32. END

2、执行

CALL create_day('2022','2023');

3、查询所有分区

七、实战:动态生成天的分区

1、创建执行过程

入参:表名+需要保留数据时间(天)

  1. CREATE DEFINER=`root`@`localhost` PROCEDURE `UPDATE_EXCHANGE_TABLE_PARTITION`(in table_name VARCHAR(50), keep_days INT)
  2. BEGIN
  3. declare create_index INT DEFAULT(0);
  4. declare create_p_name VARCHAR(100);
  5. declare create_p_description VARCHAR(100);
  6. declare drop_index INT DEFAULT(0);
  7. declare drop_count INT DEFAULT(0);
  8. declare drop_date VARCHAR(100);
  9. declare drop_p_name VARCHAR(100);
  10. set create_p_name = CONCAT('p', DATE_FORMAT(DATE_ADD(now(), INTERVAL 1 DAY), '%Y%m%d'));
  11. set create_p_description = DATE_FORMAT(DATE_ADD(now(), INTERVAL 1 DAY), '%Y-%m-%d 23:59:59');
  12. set @create_sql = CONCAT('alter table ', table_name, ' add PARTITION (partition ', create_p_name ,' values less than(TO_DAYS(\"', create_p_description ,'\")));');
  13. SELECT concat('@create_sql is ', @create_sql);
  14. PREPARE stmt_create FROM @create_sql;
  15. EXECUTE stmt_create;
  16. set drop_date = DATE_FORMAT(DATE_SUB(now(), INTERVAL keep_days DAY), '%Y-%m-%d 23:59:59');
  17. SELECT concat('drop_date is ', drop_date);
  18. set drop_p_name = CONCAT('p', DATE_FORMAT(DATE_SUB(now(), INTERVAL keep_days DAY), '%Y%m%d'));
  19. set @drop_sql = CONCAT('alter table ', table_name, ' drop partition ', drop_p_name);
  20. SELECT concat('@drop_sql is ', @drop_sql);
  21. PREPARE stmt_drop FROM @drop_sql;
  22. EXECUTE stmt_drop;
  23. END

2、定时执行函数过程

  1. -- 开启事件
  2. SET GLOBAL event_scheduler = ON;
  3. -- 从2012-11-28 00:01:00开始,定时每天执行,执行表为db_data,保留7天的数据
  4. alter EVENT RECEIVE_RECORD_PARTITION_EVENT ON SCHEDULE
  5. EVERY 1 DAY STARTS '2012-11-28 00:01:00'
  6. DO
  7. begin
  8. CALL UPDATE_EXCHANGE_TABLE_PARTITION('db_data', 7);
  9. end

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/黑客灵魂/article/detail/961008
推荐阅读
相关标签
  

闽ICP备14008679号