赞
踩
MySQL分区是一种数据库设计和管理技术,它允许你将表分割成独立的、具有特定规则的存储单元。每个分区可以独立地进行管理,包括备份、恢复和优化。分区的主要目的是提高查询性能、简化维护以及实现数据的更有效管理。
以下是MySQL分区的一些关键概念:
分区键(Partition Key): 分区键是用于将表数据分割成不同部分的列。分区键的选择通常取决于你的查询模式和数据分布。常见的分区键包括日期、范围、列表等。
分区类型: MySQL支持多种分区类型,包括范围分区、列表分区、哈希分区等。每种分区类型都有其适用的场景,选择合适的分区类型取决于你的需求。
分区表的创建: 你可以在创建表的时候指定分区方式,也可以在表已经存在的情况下通过ALTER TABLE
语句进行分区。在创建或更改分区表时,你需要指定分区键和每个分区的规则。
分区操作: 分区表的操作通常包括将数据插入到特定的分区、查询特定分区的数据、合并或拆分分区等。这些操作使得你可以更灵活地管理大量数据。
性能提升: 使用分区可以显著提高查询性能,特别是在处理大型数据集时。当查询只涉及到特定分区时,数据库引擎只需要扫描相关的分区,而不是整个表。
数据维护: 分区可以简化备份和恢复操作,因为你可以只备份或恢复特定的分区。此外,对于一些表维护操作,如重建索引,也可以只针对特定分区进行。
分区是一个高级的数据库设计和管理特性,通常在处理大型数据集或者需要高性能查询的情况下使用。在使用分区时,需要考虑好分区键的选择和分区规则,以充分发挥其优势
MySQL数据库中的数据是以文件的形势存在磁盘上的,默认放在/mysql/data下面(可以通过my.cnf中的datadir来查看),一张表主要对应着三个文件,一个是frm存放表结构的,一个是myd存放表数据的,一个是myi存表索引的。如果一张表的数据量太大的话,那么myd,myi就会变的很大,查找数据就会变的很慢,这个时候我们可以利用mysql的分区功能,在物理上将这一张表对应的三个文件,分割成许多个小块,这样呢,我们查找一条数据时,就不用全部查找了,只要知道这条数据在哪一块,然后在那一块找就行了。如果表的数据太大,可能一个磁盘放不下,这个时候,我们可以把数据分配到不同的磁盘里面去。
表分区,是指根据一定规则,将数据库中的一张表分解成多个更小的,容易管理的部分。从逻辑上看,只有一张表,但是底层却是由多个物理分区组成。
1、RANGE 分区:
基于属于一个给定连续区间的列值,把多行分配给分区。
2、LIST 分区:
类似于按RANGE分区,区别在于LIST分区是基于列值匹配一个离散值集合中的某个值来进行选择。
3、HASH分区:
基于用户定义的表达式的返回值来进行选择的分区,该表达式使用将要插入到表中的这些行的列值进行计算。这个函数可以包含MySQL中有效的、产生非负整数值的任何表达式。
4、KEY分区:
类似于按HASH分区,区别在于KEY分区只支持计算一列或多列,且MySQL服务器提供其自身的哈希函数。必须有一列或多列包含整数值。
5、复合分区:
基于RANGE/LIST 类型的分区表中每个分区的再次分割。子分区可以是 HASH/KEY 等类型。
该表生成1000万的数据
要以start_time字段做分区字段,那么start_time必须是主键
alter table alarm_record_year DROP PRIMARY KEY, ADD PRIMARY key(sid, start_time);
分区:按年分区,每年做一个分区
- -- 新建,年分区
- ALTER TABLE alarm_record_year
- PARTITION BY RANGE (year(start_time))
- (
- PARTITION p0001 VALUES LESS THAN (2022), -- 2021
- PARTITION p0002 VALUES LESS THAN (2023), -- 2022
- PARTITION p0002 VALUES LESS THAN (2024), -- 2023
- PARTITION p_max VALUES LESS THAN (maxvalue) -- 不属于任何分区的数据 maxvalue是最后一个分区,后面不能再往后加分区
- );
解释:值是2022的存的是小于2022年的数据,值是maxvalue存的是不在任何分区中的数据
查询分区
- -- 年-查询分区
- select partition_name, partition_description as val from information_schema.partitions
- where table_name='alarm_record_year' and table_schema='lyc';
3.1、查询是否走分区
EXPLAIN SELECT COUNT(1) FROM alarm_record_year WHERE start_time >='2019-01-01' AND start_time < '2019-12-01';
3.2、对比加分区和不加分区的执行时间
没加分区的执行时间(4s)
加分区的执行事件(0.018s)
1、新建分区
- ALTER TABLE alarm_record
- PARTITION BY RANGE (year(start_time))
- (
- PARTITION p_max VALUES LESS THAN (MAXVALUE)
- );
2、添加分区
- ALTER TABLE alarm_record
- ADD PARTITION
- (
- PARTITION p0003 VALUES LESS THAN (2027)
- );
3、修改分区(注意:只能修改最后的一个分区,这样可以变相的新增一个分区)
- ALTER TABLE alarm_record_year REORGANIZE PARTITION p_max INTO
- (
- PARTITION p0003 VALUES LESS THAN (2024) ,
- PARTITION p_max VALUES LESS THAN (MAXVALUE)
- );
4、删除分区(注意:删除分区会删除分区内的数据,删除前备份!备份!备份!)
- -- 删除某个分区
- ALTER TABLE alarm_record_year DROP PARTITION p_max;
-
- -- 删除全部分区
- ALTER TABLE alarm_record REMOVE PARTITIONING;
5、查询分区
- select partition_name, partition_description as val from information_schema.partitions
- where table_name='alarm_record' and table_schema='lyc';
生成某个年份到某个年份的所有的日期分区。例如:2020-01-01到2023-12-12
入参:两个年份(2020,2023)
- CREATE DEFINER=`root`@`localhost` PROCEDURE `create_day`(
- IN f_year_start YEAR,
- IN f_year_end YEAR
- )
- BEGIN
- DECLARE v_days INT UNSIGNED DEFAULT 365;
- DECLARE v_year DATE DEFAULT '2020-01-01';
- DECLARE v_partition_name VARCHAR(64) DEFAULT '';
- DECLARE v_start_time DATE;
- DECLARE i,j INT UNSIGNED DEFAULT 1;
- SET @stmt = '';
- SET @stmt_begin = 'ALTER TABLE alarm_record_day PARTITION BY RANGE COLUMNS (start_time)(';
- SET i = f_year_start;
- WHILE i <= f_year_end DO
- SET v_year = CONCAT(i,'-01-01');
- SET v_days = DATEDIFF(DATE_ADD(v_year,INTERVAL 1 YEAR),v_year);
- SET j = 1;
- WHILE j <= v_days DO
- SET v_start_time = DATE_ADD(v_year,INTERVAL j DAY);
- SET v_partition_name = CONCAT('p',i,'_',LPAD(j,3,'0'));
- SET @stmt = CONCAT(@stmt,'PARTITION ',v_partition_name,' VALUES LESS THAN (''',v_start_time,'''),');
- SET j = j + 1;
- END WHILE;
- SET i = i + 1;
- END WHILE;
- SET @stmt_end = 'PARTITION p_max VALUES LESS THAN (maxvalue))';
- SET @stmt = CONCAT(@stmt_begin,@stmt,@stmt_end);
- PREPARE s1 FROM @stmt;
- EXECUTE s1;
- DROP PREPARE s1;
- SELECT NULL,NULL,NULL INTO @stmt,@stmt_begin,@stmt_end;
-
- END
CALL create_day('2022','2023');
入参:表名+需要保留数据时间(天)
- CREATE DEFINER=`root`@`localhost` PROCEDURE `UPDATE_EXCHANGE_TABLE_PARTITION`(in table_name VARCHAR(50), keep_days INT)
- BEGIN
- declare create_index INT DEFAULT(0);
- declare create_p_name VARCHAR(100);
- declare create_p_description VARCHAR(100);
- declare drop_index INT DEFAULT(0);
- declare drop_count INT DEFAULT(0);
- declare drop_date VARCHAR(100);
- declare drop_p_name VARCHAR(100);
-
- set create_p_name = CONCAT('p', DATE_FORMAT(DATE_ADD(now(), INTERVAL 1 DAY), '%Y%m%d'));
- set create_p_description = DATE_FORMAT(DATE_ADD(now(), INTERVAL 1 DAY), '%Y-%m-%d 23:59:59');
- set @create_sql = CONCAT('alter table ', table_name, ' add PARTITION (partition ', create_p_name ,' values less than(TO_DAYS(\"', create_p_description ,'\")));');
- SELECT concat('@create_sql is ', @create_sql);
- PREPARE stmt_create FROM @create_sql;
- EXECUTE stmt_create;
-
- set drop_date = DATE_FORMAT(DATE_SUB(now(), INTERVAL keep_days DAY), '%Y-%m-%d 23:59:59');
- SELECT concat('drop_date is ', drop_date);
- set drop_p_name = CONCAT('p', DATE_FORMAT(DATE_SUB(now(), INTERVAL keep_days DAY), '%Y%m%d'));
- set @drop_sql = CONCAT('alter table ', table_name, ' drop partition ', drop_p_name);
- SELECT concat('@drop_sql is ', @drop_sql);
- PREPARE stmt_drop FROM @drop_sql;
- EXECUTE stmt_drop;
-
- END
- -- 开启事件
- SET GLOBAL event_scheduler = ON;
-
-
- -- 从2012-11-28 00:01:00开始,定时每天执行,执行表为db_data,保留7天的数据
- alter EVENT RECEIVE_RECORD_PARTITION_EVENT ON SCHEDULE
- EVERY 1 DAY STARTS '2012-11-28 00:01:00'
- DO
- begin
- CALL UPDATE_EXCHANGE_TABLE_PARTITION('db_data', 7);
- end
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。