xtrabackup 全备份,增量备份,恢复 mysql数据库

Xtrabackup使用指南 InnoDB数据备份工具

Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写,也就是不加锁),是商业备份工具InnoDB Hotbackup的一个很好的替代品

一、Xtrabackup介绍 

  A、Xtrabackup是什么

  Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写),是商业备份工具InnoDB Hotbackup的一个很好的替代品。

  Xtrabackup有两个主要的工具:xtrabackup、innobackupex

  1、xtrabackup只能备份InnoDB和XtraDB两种数据表,而不能备份MyISAM数据表 
  2、innobackupex是参考了InnoDB Hotbackup的innoback脚本修改而来的.innobackupex是一个perl脚本封装,封装了xtrabackup。主要是为了方便的 同时备份InnoDB和MyISAM引擎的表,但是innobackupex在处理myisam时需要加一个读锁。并且加入了一些使用的选项。

如slave-info可以记录备份恢 复后,作为slave需要的一些信息,根据这些信息,可以很方便的利用备份来重做slave。

  3、官方文档:http://www.percona.com/docs/wiki/percona-xtrabackup:start

  B、Xtrabackup可以做什么

  在线(热)备份整个库的InnoDB、 XtraDB表 
  在xtrabackup的上一次整库备份基础上做增量备份(innodb only) 
  以流的形式产生备份,可以直接保存到远程机器上(本机硬盘空间不足时很有用)

  MySQL数据库本身提供的工具并不支持真正的增量备份,二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。

Xtrabackup工具支持对InnoDB存储引擎的增量备份,工作原理如下:

  (1)首先完成一个完全备份,并记录下此时检查点的LSN(Log Sequence Number)。 
  (2)在进程增量备份时,比较表空间中每个页的LSN是否大于上次备份时的LSN,如果是,则备份该页,同时记录当前检查点的LSN。

  首先,在logfile中找到并记录最后一个checkpoint(“last checkpoint LSN”),然后开始从LSN的位置开始拷贝InnoDB的logfile到xtrabackup_logfile;接着,开始拷贝全部的数据文 件.ibd;在拷贝全部数据文件结束之后,才停止拷贝logfile。

  因为logfile里面记录全部的数据修改情况,所以,即时在备份过程中数据文件被修改过了,恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。

  C、Xtrabackup备份原理

  XtraBackup基于InnoDB的crash-recovery功能。它会复制innodb的data file,由于不锁表,复制出来的数据是不一致的,在恢复的时候使用crash-recovery,使得数据恢复一致。

  InnoDB维护了一个redo log,又称为transaction log,事务日志,它包含了innodb数据的所有改动情况。当InnoDB启动的时候,它会先去检查data file和transaction log,并且会做二步操作:

  XtraBackup在备份的时候, 一页一页地复制innodb的数据,而且不锁定表,与此同时,XtraBackup还有另外一个线程监视着transactions log,一旦log发生变化,就把变化过的log pages复制走。为什么要急着复制走呢? 因为transactions log文件大小有限,写满之后,就会从头再开始写,所以新数据可能会覆盖到旧的数据。

  在prepare过程中,XtraBackup使用复制到的transactions log对备份出来的innodb data file进行crash recovery。

  D、实现细节

  XtraBackup以read-write模式打开innodb的数据文件,然后对其进行复制。其实它不会修改此文件。也就是说,运行 XtraBackup的用户,必须对innodb的数据文件具有读写权限。之所以采用read-write模式是因为XtraBackup采用了其内置的 innodb库来打开文件,而innodb库打开文件的时候就是rw的。

  XtraBackup要从文件系统中复制大量的数据,所以它尽可能地使用posix_fadvise(),来告诉OS不要缓存读取到的数据,从 而提升性能。因为这些数据不会重用到了,OS却没有这么聪明。如果要缓存一下的话,几个G的数据,会对OS的虚拟内存造成很大的压力,其它进程,比如 mysqld很有可能被swap出去,这样系统就会受到很大影响了。

  在备份innodb page的过程中,XtraBackup每次读写1MB的数据,1MB/16KB=64个page。这个不可配置。读1MB数据之 后,XtraBackup一页一页地遍历这1MB数据,使用innodb的buf_page_is_corrupted()函数检查此页的数据是否正常, 如果数据不正常,就重新读取这一页,最多重新读取10次,如果还是失败,备份就失败了,退出。在复制transactions log的时候,每次读写512KB的数据。同样不可以配置。

  二、Xtrabackup安装 

  本文通过源码方式安装Xtrabackup,最新的版本是1.6.

  Xtrabackup与一般的源码构建方式不同,它采用的在MySQL源代码上打补丁的构建方式。下载的源码包比较大就是是因为这个包里打包了编译需要的两个MySQL Source,一个5.1.56,一个5.5.10。

  安装编译所需的依赖包

BASH

yum install libaio libaio-devel

  编译安装Xtrabackup

BASH

复制代码代码如下:

wget http://www.percona.com/redir/downloads/XtraBackup/XtraBackup-1.6/source/xtrabackup-1.6.tar.gz 
tar xvf xtrabackup-1.6.tar.gz 
cd xtrabackup-1.6 
utils/build.sh innodb55

  注:build.sh是源码包中提供的编译脚本,MySQL 5.1可用参数innodb51_builtin。

  编译成功后,会在对应mysql版本目录中生成一个xtrabackup程序,我这里生成的路径是mysql-5.5.10/storage/innobase/xtrabackup/中

BASH 
ls mysql-5.5.10/storage/innobase/xtrabackup/ 
Makefile xtrabackup.c xtrabackup_innodb55 xtrabackup.o

  复制相应文件和建立软链到/usr/bin下,这么做的原因是满足innobackupex脚本的需要。

BASH

复制代码代码如下:

cp mysql-5.5.10/storage/innobase/xtrabackup/xtrabackup_innodb55 /usr/bin/xtrabackup_55 
cp innobackupex /usr/bin/innobackupex 
#备份时如果打包就需要这个命令,非必需。 
cp libtar-1.2.11/libtar/tar4ibd /usr/bin/tar4ibd   
ln -sf /usr/local/webserver/mysql/bin/mysql /usr/bin/mysql

  三.Xtrabackup的备份与恢复使用

  A、Xtrabackup常用参数选项如下:

BASH

--defaults-file=# 

默认配置文件的路径,如果不该参数,xtrabackup将从依次从以下位置查找配置文件/etc/my.cnf、/etc/mysql/my.cnf、/usr/local/etc/my.cnf、~/.my.cnf,并读取配置文件中的[mysqld]和[xtrabackup]配置段。

[mysqld]中只需要指定datadir、innodb_data_home_dir、innodb_data_file_path、innodb_log_group_home_dir、innodb_log_files_in_group、innodb_log_file_size6个参数即可让xtrabackup正常工作。

--defaults-extra-file=# 
如果使用了该参数,在读取了全局配置文件之后,会再读取这里指定的配置文件

--target-dir=name 
备份文件的存放目录路径

--backup 
实施备份到target-dir

--prepare 
实施对备份文件进行恢复前的准备(生成InnoDB log file)

--print-param 
打印备份或恢复时需要的参数

--use-memory=# 
该参数在 prepare 的时候使用,控制prepare时innodb实例使用的内存量

--suspend-at-end 
在target-dir目录下产生一个xtrabackup_suspended文件,将xtrabackup进程挂起,不停地将数据文件的变化同步到备份文件,直到用户手工删除xtrabackup_suspended文件

--throttle=# 
每秒IO次数,限制backup时使用的I/O操作量,使备份对数据库正常业务的影响最小化

--log-stream 
该参数在backup的时候使用,将xtrabackup_logfile的内容输出到标准输出,使用该参数时会自动使用suspend-at-end参数,innobackupex脚本的stream 模式会使用该参数。

--incremental-lsn=name 
增量备份时只拷贝LSN比该参数指定值新的ibd pages,前次备份到了哪个LSN可以看前次备份集的xtrabackup_checkpoints文件

--incremental-basedir=name 
该参数在backup的时候使用,备份比该参数指定位置的备份集新的idb pages

--incremental-dir=name 
该参数在prepare的时候使用,指定prepare时产生的.delta 文件和日志文件的存放路径

--tables=name 
在备份file-per-table类型的数据文件时使用,使用正则表达式指定需要备份的innodb表

--datadir=name 
MySQL数据库的数据文件目录。

  B、普通备份方式

  a)普通备份(全量备份)

BASH

复制代码代码如下:

mkdir -p /data0/backup/mysql 
xtrabackup_55 --defaults-file=/data0/mysql/my.cnf --backup --target-dir=/data0/backup/mysql/ 
cp -r /data0/mysql/data/testinnodb/ /data0/backup/mysql/

  注意:xtrabackup只备份数据文件,并不备份数据表结构(.frm),所以这里要手动备份一下,以便xtrabackup恢复的时候使用。

  全量备份恢复

  实施对备份文件进行恢复前的准备

BASH

xtrabackup_55 --defaults-file=/data0/mysql/my.cnf --prepare --target-dir=/data0/backup/mysql/

  从备份目录复制对应数据库表结构到默认的数据目录

BASH

cp -r /data0/backup/mysql/testinnodb/ /data0/mysql/data/

  删除默认数据目录中对应的数据文件并复制备份的数据文件到默认数据目录

BASH

rm /data0/mysql/data/* 
cp /data0/backup/mysql/ib* /data0/mysql/data/

  修改数据目录权限

BASH

chown -R mysql:mysql /data0/mysql/data

  重启MySQL

BASH

/data0/mysql/mysql restart

  b)增量备份

  增量备份优点:

  1、数据库太大没有足够的空间全量备份,作增量备份有效节省空间,且效率高。 
  2、支持热备份。备份过程不锁表,不受时间限制,不影响用户使用。 
  3、每日备份只产生少量数据,远程备份传输更方便。同时节省空间。 
  4、备份恢复基于文件操作,降低直接对数据库操作风险。 
  5、备份效率更高,恢复效率更高。

  这个我研究N久没成功,原因暂时还没找到。我测试环境的Mysql版本是5.5.11的,xtrabackup_55是根据MySQL5.5.9的源码编译的,不知道和这个有关系没?待验证!这里只把实现步骤整理出来。

  增量备份及模拟恢复步骤:

  先做一次全量备份,增量备份需要以此为基础

BASH

复制代码代码如下:

#建立备份目录 
mkdir -p /data0/backup/mysql/base 
#建立一个全量备份 
xtrabackup_55 --defaults-file=/data0/mysql/my.cnf --backup --target-dir=/data0/backup/mysql/base 
#生成的备份数据文件 
ls /data0/backup/mysql/base/ 
ibdata1 xtrabackup_checkpoints xtrabackup_logfile 
#备份数据库表结构 
cp -r /data0/mysql/data/testinnodb/ /data0/backup/mysql/

  以此全量备份为基础进行增量备份

BASH

复制代码代码如下:

#建立备份目录 
mkdir -p /data0/backup/mysql/delta 
#建立一个增量备份 
xtrabackup_55 --defaults-file=/data0/mysql/my.cnf --backup --target-dir=/data0/backup/mysql/delta  --incremental-basedir=/data0/backup/mysql/base 
#生成的备份数据文件 
ls /data0/backup/mysql/delta/ 
ibdata1.delta xtrabackup_checkpoints xtrabackup_logfile

  注:在增量备份目录下,数据文件都是以.delta结尾的。增量备份只备份上一次全量备份后被修改过的page,所以增量备份只暂用较少的空 间。增量备份可以在增量备份的基础上增量。增量备份目录每次都需修改的。比如第二次增量就改成/data0/backup/mysql/delta2)

  增量备份恢复过程:

  首先需要分别对全量、增量备份各做一次prepare操作。

BASH

xtrabackup_55 --defaults-file=/data0/mysql/my.cnf --prepare --target-dir=/data0/backup/mysql/base 
xtrabackup_55 --defaults-file=/data0/mysql/my.cnf --prepare --target-dir=/data0/backup/mysql/base --incremental-dir=/data0/backup/mysql/delta/

  从备份目录复制对应数据库表结构到默认的数据目录

BASH

cp -r /data0/backup/mysql/testinnodb/ /data0/mysql/data/

  删除默认数据目录中对应的数据文件并复制备份的数据文件到默认数据目录

BASH 
rm /data0/backup/mysql/ib* 
cp /data0/backup/mysql/ib* /data0/mysql/data/

  修改数据目录权限

BASH 
chown -R mysql:mysql /data0/mysql/data

  重启MySQL

BASH 
/data0/mysql/mysql restart

 

时间: 2024-12-31 14:52:14

xtrabackup 全备份,增量备份,恢复 mysql数据库的相关文章

MySQL 备份和恢复(三)Xtrabackup实现热备:完全备份+增量备份

Percona XtraBackup is the world's only open-source, free MySQL hot backup software that performs non-blocking backups for InnoDB and XtraDB databases. With Percona XtraBackup, you can achieve the following benefits: Backups that complete quickly and

Xtrabackup原理及使用innobackupex进行MySQL数据库备份恢复

Xtrabackup是由percona提供的mysql数据库备份工具,据官方介绍,这也是世界上惟一一款开源的能够对innodb和xtradb数据库进行热备的工具. Xtrabackup中主要包含两个工具: xtrabackup:是用于热备份innodb, xtradb表中数据的工具,不能备份其他类型的表,也不能备份数据表结构: innobackupex:是将xtrabackup进行封装的perl脚本,可以备份和恢复MyISAM表以及数据表结构. 一段官方文档的说明: http://www.per

mysql全备份 + 增量备份

mysql全备份 + 增量备份 配置文件: 管理mysql配置文件,打开binlog日志 对于mysql数据库: log_bin = /var/log/mysql/mysql_bin.log server-id = 1(必须有,否则重启fail) 对于mariadb数据库: log_bin = /var/log/mysql/mysql-bin.log 修改配置文件后需要重启mysql服务: service mysql restart | /etc/init.d/mysql restart 可登陆

MySQL数据库备份:完全备份+增量备份

MySQL数据库备份:完全备份+增量备份 ************************************************************************************** 计划任务: crontab -e  -u root 00 6  * * 1  /shell/mysqlbak.sh &> /dev/null 00 23  * * 2-7  /shell/mysqladd.sh &> /dev/null **************

备份恢复MySQL数据库的命令

备份恢复MySQL数据库的命令 备份:mysqldump -hhostname -P 3306 -uusername -ppassword databasename > D:/backupfile.sql 恢复:mysqldump -hhostname -P 3306 -uusername -ppassword databasename < D:/backupfile.sql

Qt中使用QProcess备份和恢复Mysql数据库

分类: Qt2011-02-18 21:35 1395人阅读 评论(3) 收藏 举报 qtmysql数据库windowspathcmd . 使用Qt做MySQL数据库开发,遇到需要备份.还原数据库的问题. MySQL中没有提供将数据库备份成.sql文件的SQL语句,而是提供了一个mysqldump.exe工具来完成这个功能. 没有SQL语句,QSqlQuery就用不成了,决定改用QProcess实现. . 但是在Qt中使用QProcess::execute()方法怎样都导不出数据来, 更郁闷的是

Mysql 一次性备份导出/导入恢复所有数据库

Mysql 一次性备份导出/导入恢复所有数据库 有木有遇到过这种情况?电脑或者服务器需要重装系统?可是你电脑上存着n多个网站的数据库,怎么办?把数据库文件夹拷贝出来,重装系统之后再拷回去?如果你使用了InnoDB引擎,恐怕那样做会出麻烦的,一个一个往外导数据库?天哪,那要搞到何年何月啊?今天合肥网站制作向阳互联就来介绍一下如何一口气导出全部数据库,再把数据库恢复回来,其实利用mysqldump的-all-databases参数可以一口气把你数据库root用户下的所有数据库一口气导出到一个sql文

mysql5.6利用xtrabackup全备及增量备份

1.xtrabackup安装 2.全备及恢复 (1)全备 查看数据库 [[email protected] opt]# innobackupex --defaults-file=/etc/my.cnf  --user=root --password=123456 /bak/mysql/ 该语句将拷贝数据文件(由my.cnf里的变量datadir指定)至备份目录下(/bak/mysql/),注意:如果不指定--defaults-file,默认值为/etc/my.cnf. 备份成功后,将在备份目录下

MYSQL技巧|为了方便备份和安全,MySQL数据库存放目录如何更改?

本文标签:  MYSQL技巧 MySQL数据库   互联网杂谈 我们在安装玩MYSQL后,数据库存放目录默认是在MYSQL里面的,为了方便备份和安全,我们是有必要更改MySQL数据库存放目录的.那么,要怎么更改呢? 打开cmd命令提示符窗口,输入命令停止MySQL服务运行 net stop mysql 打开X:\Server_Core\MySQL\my.ini, 找到: Datadir = "X:\Server_Core\MySQL\data" 修改为: Datadir = "

Linux VPS自动定时备份网站文件和MYSQL数据库到FTP空间(LNMP)

如果我们网站更新不是很频繁,我们可以定期手动进行备份网站文件和MYSQL数据库导出.如果我们网站数据更新频繁,且数据尤为重要,建议要采用定期自动 备份,至少需要多备份数据,无论我们选择何种优秀的VPS.服务器,都要谨防服务器或者意外的问题导致数据丢失的问题. 在这篇文章中,搬瓦工中文网准备将有一台搭建LNMP一键环境使用定期备份数据库和网站文件打包,直接上传到备用FTP空间中.比如可以找一些虚拟主机空间,硬盘存储也是比较大的,直接可以作为备用数据使用. 第一.备份前的准备 1.准备一台FTP主机