RDS for MySQL 通过分区归档历史数据

RDS for MySQL 通过分区归档历史数据

  • 原始表
  • 分区
  • 用于分区维护的存储过程
  • 每月调用存储过程的事件


随着数据的积累,数据量的增加,越来越多的表体积变的庞大,不但影响查询的执行时间,而且使得管理工作(比如添加删除索引)变的越发复杂和困难。

本文介绍一个通过分区滑动来归档历史数据(以便可以有效控制表的尺寸)的方法,仅供大家参考。

1. 原始表

未分区的原始表:order_history。

create table order_history
( 
	id              bigint unsigned auto_increment primary key,
	order_id        bigint unsigned not null,
	customer_id     bigint unsigned not null,
	goods_id        bigint unsigned not null,
	payment_id      bigint unsigned not null,
	details         text,
	comments        text,
	order_date      datetime not null,	status          tinyint
);

2. 分区

MySQL 分区要求分区字段必须是主键或者唯一键的一部分,因此需要修改主键定义。

alter table order_history algorithm=inplace, lock=none, drop primary key, add primary key (id, order_date);-- algorithm=inplace, lock=none 是 RDS for MySQL 5.6 支持的 online DDL 特性。-- 如果要修改主键,删除主键和添加主键建议放在一条语句中,以便充分利用 5.6 版本的 Online DDL 特性。alter table order_history partition by range columns (order_date) (	partition p1606 values less than (‘2016-07-01‘),	partition p1607 values less than (‘2016-08-01‘),	partition p1608 values less than (‘2016-09-01‘),	partition p1609 values less than (‘2016-10-01‘),	partition p1610 values less than (‘2016-11-01‘),	partition p1611 values less than (‘2016-12-01‘),	partition p1612 values less than (‘2017-01-01‘),	partition p0 values less than maxvalue
);-- 将数据按月份分区

3. 用于分区维护的存储过程

删除最久的一个月份分区,新建下个月份分区,总体保留最近 6 个月份的数据。

delimiter //drop procedure sp_order_his_rotate//create procedure sp_order_his_rotate ()begin
       declare todrop_par varchar(10) default null;       declare toadd_par varchar(10) default null;       declare toadd_day varchar(10) default null;       declare last_par varchar(10) default null;       declare new_par varchar(10) default null;       declare v_sql varchar(200) default null;	   
       select date_format(date_sub(curdate(), interval 6 month), ‘p%y%m‘) into todrop_par;       select date_format(date_add(curdate(), interval 1 month), ‘p%y%m‘) into toadd_par;       select date_format(date_add(curdate()-day(curdate())+1,interval 2 month), ‘%Y-%m-%d‘) into toadd_day;       select partition_name into last_par from information_schema.partitions 
	 where table_name = ‘order_history‘ 
	 and table_schema = ‘db_name‘ 
	 and partition_description != ‘maxvalue‘ 
	 order by partition_description asc limit 1;
       if todrop_par = last_par then       select concat(‘alter table order_history drop partition ‘,todrop_par,‘;‘) into v_sql;	 set @v_sql=v_sql;	 prepare stmt from @v_sql;	 execute stmt;	 deallocate prepare stmt;       end if;       select partition_name into new_par from information_schema.partitions 
         where table_name = ‘order_history‘ 
         and table_schema = ‘db_name‘ 
         and partition_description != ‘maxvalue‘ 
	 order by partition_description desc limit 1;
       if toadd_par != new_par then       select concat(‘alter table order_history reorganize partition p0 into (partition ‘, toadd_par, ‘ values less than (‘‘‘, toadd_day,‘‘‘), partition p0 values less than (maxvalue));‘) into v_sql;	 set @v_sql=v_sql;	 prepare stmt from @v_sql;	 execute stmt;	 deallocate prepare stmt;       end if;end;
//
delimiter ;

4. 每月调用存储过程的事件

每月月末 28 日调用分区管理存储过程,来自动维护分区。

drop event if exists order_his_rotate;
delimiter //create event order_his_rotate  on schedule every 1 month starts ‘2016-12-28 02:00:00‘
  on completion preserve enable dobegin
  call sp_order_his_rotate();end;
//

delimiter ;

时间: 2024-10-07 20:02:52

RDS for MySQL 通过分区归档历史数据的相关文章

mysql的分区和分表

分区 分区就是把一个数据表的文件和索引分散存储在不同的物理文件中. mysql支持的分区类型包括Range.List.Hash.Key,其中Range比较常用: RANGE分区:基于属于一个给定连续区间的列值,把多行分配给分区. LIST分区:类似于按RANGE分区,区别在于LIST分区是基于列值匹配一个离散值集合中的某个值来进行选择. HASH分区:基于用户定义的表达式的返回值来进行选择的分区,该表达式使用将要插入到表中的这些行的列值进行计算.这个函数可以包含MySQL 中有效的.产生非负整数

Mysql5.7—mysql优化分区、分表(必备)

小生博客:http://xsboke.blog.51cto.com 小生 Q Q:1770058260 -------谢谢您的参考,如有疑问,欢迎交流 一. 分表 1. 分表简介 分表是将一个大表按照一定的规则分解成多张具有独立存储空间的实体表. 如果正在使用的表需要进行分区,就需要同时修改app的规则,使mysql可以得知用户查询的数据在哪. 2. 分表类型 分为垂直切分和水平切分 垂直切分:将某些列分到另一个表 水平切分:将某些行分到另一个表 3. 分表的方式 1) Mysql集群 它并不是

mysql数据库分区功能及实例详解

分区听起来怎么感觉是硬盘呀,对没错除了硬盘可以分区数据库现在也支持分区了,分区可以解决大数据量的处理问题,下面一起来看一个mysql数据库分区功能及实例详解 一,什么是数据库分区 前段时间写过一篇关于mysql分表的的文章,下面来说一下什么是数据库分区,以mysql为例.mysql数据库中的数据是以文件的形势存在磁盘上的,默认放在/mysql/data下面(可以通过my.cnf中的datadir来查看),一张表主要对应着三个文件,一个是frm存放表结构的,一个是myd存放表数据的,一个是myi存

mysql表分区、查看分区

原文地址:http://blog.csdn.net/feihong247/article/details/7885199 一.       mysql分区简介 数据库分区 数据库分区是一种物理数据库设计技术.虽然分区技术可以实现很多效果,但其主要目的是为了在特定的SQL操作中减少数据读写的总量以缩减sql语句的响应时间,同时对于应用来说分区完全是透明的. MYSQL的分区主要有两种形式:水平分区和垂直分区 水平分区(HorizontalPartitioning) 这种形式的分区是对根据表的行进行

迁移 RDS for MySQL 数据到本地 MySQL

背景  公司的业务系统采用阿里云的RDS云数据库,最近有一个需求:迁移 RDS for MySQL 数据到本地 MySQL.阿里云数据库 MySQL 版支持通过物理备份文件和逻辑备份文件两种途径将云上数据迁移到本地数据库.我公司采用mysql5.6版,备分策略是自动全量物理备份.本地系统是Centos 6.8 X64,此教程提供两种方法,任选其一即可. 备注:因为软件限制,目前数据恢复只支持在 Linux 系统下进行.如果您要恢复数据到 Windows 系统,可以先将数据恢复到 Linux 系统

mysql 表分区技术

表分区,是指根据一定规则,将数据库中的一张表分解成多个更小的,容易管理的部分.从逻辑上看,只有一张表,但是底层却是由多个物理分区组成. 表分区有什么好处: a.分区表的数据可以分布在不同的物理设备上,从而高效地利用多个硬件设备. b.和单个磁盘或者文件系统相比,可以存储更多数据 c.优化查询.在where语句中包含分区条件时,可以只扫描一个或多个分区表来提高查询效率:涉及sum和count语句时,也可以在多个分区上并行处理,最后汇总结果.d.分区表更容易维护.例如:想批量删除大量数据可以清除整个

MySQL数据库分区的概念与2大好处(1)

我们大家都知道通过MySQL数据库分区(Partition)可以提升MySQL数据库的性能,那么到底什么是MySQL数据库分区呢?以及其实际应用的好处的表现有哪些呢?以下的文章就是对这些内容的描述. 什么是数据库分区? 数据库分区是一种物理数据库设计技术,DBA和数据库建模人员对其相当熟悉.虽然分区技术可以实现很多效果,但其主要目的是为了在特定的SQL操作 中减少数据读写的总量以缩减响应时间. 分区主要有两种形式://这里一定要注意行和列的概念(row是行,column是列) 水平分区(Hori

查看Mysql表分区语句

SELECT partition_name part, partition_expression expr, partition_description descr, table_rows FROM INFORMATION_SCHEMA.partitions WHERE TABLE_SCHEMA = schema() AND TABLE_NAME='table'; 查看Mysql表分区语句

MySQL partition分区I

http://blog.csdn.net/binger819623/article/details/5280267 一.        分区的概念二.        为什么使用分区?(优点)三.        分区类型四.        子分区五.        对分区进行修改(增加.删除.分解.合并)六.        不同引擎的分区特性七.        分区的限制性 分区概念分区针对不同的数据库,具有不同的特性.在这里专门针对MySQL数据库而言.在MySQL数据库里,分区这个概念是从my