mysql innobackupex xtrabackup 大数据量 备份 还原
大数据量备份与还原，始终是个难点。当MYSQL超10G，用mysqldump来导出就比较慢了。在这里推荐xtrabackup,这个工具比mysqldump要快很多。一、Xtrabackup介绍
1，Xtrabackup是什么
Xtrabackup是一个对InnoDB做数据备份的工具，支持在线热备份(备份时不影响数据读写)，是商业备份工具InnoDB Hotbackup的一个很好的替代品。
Xtrabackup有两个主要的工具：xtrabackup、innobackupex
1、xtrabackup只能备份InnoDB和XtraDB两种数据表，而不能备份MyISAM数据表
2、 innobackupex是参考了InnoDB Hotbackup的innoback脚本修改而来的.innobackupex是一个perl脚本封装，封装了xtrabackup。主要是为了方便的 同时备份InnoDB和MyISAM引擎的表，但在处理myisam时需要加一个读锁。并且加入了一些使用的选项。如slave-info可以记录备份恢 复后，作为slave需要的一些信息，根据这些信息，可以很方便的利用备份来重做slave。
2，Xtrabackup可以做什么 :
在线(热)备份整个库的InnoDB、 XtraDB表
在xtrabackup的上一次整库备份基础上做增量备份(innodb only)
以流的形式产生备份，可以直接保存到远程机器上(本机硬盘空间不足时很有用)
MySQL数据库本身提供的工具并不支持真正的增量备份，二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。
Xtrabackup工具支持对InnoDB存储引擎的增量备份，工作原理如下：
(1)首先完成一个完全备份，并记录下此时检查点的LSN(Log Sequence Number)。
(2)在进程增量备份时，比较表空间中每个页的LSN是否大于上次备份时的LSN，如果是，则备份该页，同时记录当前检查点的LSN。
首 先，在logfile中找到并记录最后一个checkpoint(“last checkpoint LSN”)，然后开始从LSN的位置开始拷贝InnoDB的logfile到xtrabackup_logfile；接着，开始拷贝全部的数据文 件.ibd；在拷贝全部数据文件结束之后，才停止拷贝logfile。
因为logfile里面记录全部的数据修改情况，所以，即时在备份过程中数据文件被修改过了，恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。
因为innobackupex支持innodb,myisam,所以本文说一下，怎么使用innobackupex
二，安装xtrabackup
1，下载地址
http://www.percona.com/downloads/XtraBackup/
2，安装
根据需求，选择不同的版本，我选择的是rpm安装包，如果报以下错误
# rpm -ivh percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1 Signature, key>
error: Failed dependencies:
perl(Time::HiRes) is needed by percona-xtrabackup-2.2.4-5004.el6.x86_64
解决办法：
查看复制打印?
[*] # yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL rsync //安装依赖包
[*]
[*] # rpm -ivh percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm //重新安装
[*] warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID cd2efd2a: NOKEY
[*] Preparing... ###########################################
[*] 1:percona-xtrabackup ###########################################
注意：
xtrabackup 2.2.4不支持mysql 5.1.73，所以如果要用新的xtrabackup,就要用高版本的mysql数据库，不然就会报以下错误：
innobackupex: Error: Unsupported server version: '5.1.73'
二，修改my.cnf
查看一下mysqld下面有没有datadir，如果没有加上
查看复制打印?
[*]
[*] datadir=/var/lib/mysql
不加的话，还原数据的时候，有可能会出现以下问题，
xtrabackup: Error: Please set parameter 'datadir'
innobackupex: fatal error: no 'mysqld' group in MySQL options
innobackupex: fatal error: OR no 'datadir' option in group 'mysqld' in MySQL options
三，全部数据库备份与还原
1，全部数据库备份
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --password=123/home/tank/backup/
如果报以下错误：
InnoDB: Error: log file ./ib_logfile0 is of different>
InnoDB: than specified in the .cnf file 50331648 bytes!
innobackupex: Error: The xtrabackup child process has died at /usr/bin/innobackupex line 2679.
解决办法：在my.cnf的mysqld中加入以下内容
[*]
[*] innodb_log_file_size = 5M
2，单数据库备份 (经测试不适用，在还原时要求数据目录清空，单数据库也要这样那就不现实了)
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --password=123 --database=backup_test /home/tank/backup/
3，数据库备份并压缩
查看复制打印?
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --stream=tar/home/tank/backup | gzip > /home/tank/backup/`date +%F_%H-%M-%S`.tar.gz
4，全数据还原
查看复制打印?
[*] # /etc/init.d/mysqld stop //停掉mysql
[*] # mv /var/lib/mysql /var/lib/mysql_bak //数据目录备份
[*] # mkdir -p /var/lib/mysql//重建数据目录
[*]
[*] //--apply-log选项的命令是准备在一个备份上启动mysql服务
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log /home/tank/backup/2014-09-18_16-35-12
[*]
[*] //--copy-back 选项的命令从备份目录拷贝数据,索引,日志到my.cnf文件里规定的初始位置
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --copy-back /home/tank/backup/2014-09-18_16-35-12
[*]
[*] # chown -R mysql.mysql /var/lib/mysql//改变文件所属
[*] # /etc/init.d/mysqld start//启动mysql
四，增量备份与还原
1,创建测试数据库和表
查看复制打印?
[*] create database backup_test;//创建库
[*]
[*] CREATE TABLE `backup` (//创建表
[*] `id` int(11) NOT NULL AUTO_INCREMENT ,
[*] `name` varchar(20) NOT NULL DEFAULT '' ,
[*] `create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ,
[*] `del` tinyint(1) NOT NULL DEFAULT '0',
[*] PRIMARY KEY (`id`)
[*] ) ENGINE=myisam DEFAULT CHARSET=utf8 AUTO_INCREMENT=1 ;
2,增量备份
查看复制打印?
[*] mysql> INSERT INTO backup (name) VALUES ('tank'),('tank1');//插入数据
[*]
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --incremental-basedir=/home/tank/backup/2014-09-18_16-35-12 --incremental /home/tank/backup/
3,在增量的基础上在进行增量备份
查看复制打印?
[*] mysql> INSERT INTO backup (name) VALUES ('tank2'),('tank3'),('tank4'),('tank5'),('tank6');//在插入数据
[*]
[*] //2014-09-18_18-05-20这个目录，上次增量备份产生的目录
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --incremental-basedir=/home/tank/backup/2014-09-18_18-05-20 --incremental /home/tank/backup/
查看增量备份记录文件：
查看复制打印?
[*] # cat xtrabackup_checkpoints //全备目录下的文件
[*] backup_type = full-prepared
[*] from_lsn = 0 //全备起始为0
[*] to_lsn = 23853959
[*] last_lsn = 23853959
[*] compact = 0
[*]
[*] # cat xtrabackup_checkpoints//第一次增量备份目录下的文件
[*] backup_type = incremental
[*] from_lsn = 23853959
[*] to_lsn = 23854112
[*] last_lsn = 23854112
[*] compact = 0
[*]
[*] # cat xtrabackup_checkpoints//第二次增量备份目录下的文件
[*] backup_type = incremental
[*] from_lsn = 23854112
[*] to_lsn = 23854712
[*] last_lsn = 23854712
[*] compact = 0
增量备份做完后，把backup_test这个数据库删除掉，drop database backup_test;这样可以对比还原后
4,增量还原
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12
[*]
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12 --incremental-dir=/home/tank/backup/2014-09-18_18-05-20
[*]
[*] # innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12 --incremental-dir=/home/tank/backup/2014-09-18_18-11-43
在这里有三个目录，
1),/home/tank/backup/2014-09-18_16-35-12，全备份目录
2),/home/tank/backup/2014-09-18_18-05-20，第一次增量备份产生的目录
3),/home/tank/backup/2014-09-18_18-11-43，第二次增量备份产生的目录
到这里增量还原，还没有结束，还有最重要一步，就是要进行一次全量还原。停止数据库，删除/var/lib/mysql，在还原。
增量备份的原理就是，把增量目录下的数据，整合到全变量目录下，然后在进行，全数据量的还原。
总体来说，innobackupex速度快，支持innodb,myisam,用起来是还不是很方便，单库还原，还是增量备份还原，都要进行全部数据库还原，这个不合理。
五，innobackup 常用参数说明
--defaults-file
同xtrabackup的--defaults-file参数
--apply-log
对xtrabackup的--prepare参数的封装
--copy-back
做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir ；
--remote-host=HOSTNAME
通过ssh将备份数据存储到进程服务器上；
--stream=
备 份文件输出格式, tar时使用tar4ibd , 该文件可在XtarBackup binary文件中获得.如果备份时有指定--stream=tar, 则tar4ibd文件所处目录一定要在$PATH中(因为使用的是tar4ibd去压缩, 在XtraBackup的binary包中可获得该文件)。
在 使用参数stream=tar备份的时候，你的xtrabackup_logfile可能会临时放在/tmp目录下，如果你备份的时候并发写入较大的话 xtrabackup_logfile可能会很大(5G+)，很可能会撑满你的/tmp目录，可以通过参数--tmpdir指定目录来解决这个问题。
--tmpdir=DIRECTORY
当有指定--remote-host or --stream时, 事务日志临时存储的目录, 默认采用MySQL配置文件中所指定的临时目录tmpdir
--redo-only --apply-log组,
强制备份日志时只redo ,跳过rollback。这在做增量备份时非常必要。
--use-memory=#
该参数在prepare的时候使用，控制prepare时innodb实例使用的内存量
--throttle=IOS
同xtrabackup的--throttle参数
--sleep=是给ibbackup使用的，指定每备份1M数据，过程停止拷贝多少毫秒，也是为了在备份时尽量减小对正常业务的影响，具体可以查看ibbackup的手册 ；
--compress[=LEVEL]
对备份数据迚行压缩，仅支持ibbackup，xtrabackup还没有实现；
--include=REGEXP
对 xtrabackup参数--tables的封装，也支持ibbackup。备份包含的库表，例如：--include="test.*"，意思是要备份 test库中所有的表。如果需要全备份，则省略这个参数；如果需要备份test库下的2个表：test1和test2,则写 成：--include="test.test1|test.test2"。也可以使用通配符，如：--include="test.test*"。
--databases=LIST
列出需要备份的databases，如果没有指定该参数，所有包含MyISAM和InnoDB表的database都会被备份；
--uncompress
解压备份的数据文件，支持ibbackup，xtrabackup还没有实现该功能；
--slave-info,
备 份从库, 加上--slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移, 文件内容类似于:CHANGE MASTER TO MASTER_LOG_FILE='', MASTER_LOG_POS=0
--socket=SOCKET
指定mysql.sock所在位置，以便备份进程登录mysql.
=======================!!!!!!!!!!!!!!!!!!!!!!!!!==============================
问题：
出现的错误：
# service mysqld3306 start
Starting MySQL. ERROR! The server quit without updating PID file (/home/data/mysql3306/localhost.localdomain.pid).
并且查看 less localhost.localdomain.err 有： Plugin 'InnoDB' init function returned error. 类的错误。
解决：
删除MySQL目录下的ib_logfile0和ib_logfile1两个文件，就可以解决问题了。
小注：这两个文件是对innoDB引擎的数据恢复有作用，重搞过来数据库把它删掉重建也没什么。（此话待确认）
============================!!!!!!!!!!!!!!!!!!!!!!==================
时间点备份
全备恢复后，利用二进制日志进行时间点恢复，与 xtrabackup 无关， 纯 MYSQL 特点
==================================!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!==========================
相关原理
完整备份的原理：
对于InnoDB，XtraBackup基于InnoDB的crash-recovery功能进行备份。
crash-recovery是这样的：InnoDB维护了一个redo log，又称为 transaction log，也叫事务日志，它包含了InnoDB数据的所有改动情况。InnoDB启动的时候先去检查datafile和transaction log，然后应用所有已提交的事务并回滚所有未提交的事务。
XtraBackup在备份的时候并不锁定表，而是一页一页地复制InnoDB的数据，与此同时，XtraBackup还有另外一个线程监视着transactions log，一旦log发生变化，就把变化过的log pages复制走(因为transactions log文件大小有限，写满之后，就会从头再开始写，新数据可能会覆盖到旧的数据，所以一旦变化就要立刻复制走）。在全部数据文件复制完成之后，停止复制logfile。
XtraBackup采用了其内置的InnoDB库以read-write模式打开InnoDB的数据文件，然后每次读写1MB(1MB/16KB=64page)的数据，一页一页地遍历，同时用InnoDB的buf_page_is_corrupted()函数检查此页的数据是否正常，如果正常则进行复制，如不正常则重新读取，最多重读10次，如果还是失败，则备份失败退出。复制transactions log的原理也是一样的，只不过每次读写512KB(512KB/16KB=32page)的数据。
由于XtraBackup其内置的InnoDB库打开文件的时候是rw的，所以运行XtraBackup的用户，必须对InnoDB的数据文件具有读写权限。
由于XtraBackup要从文件系统中复制大量的数据，所以它尽可能地使用posix_fadvise()，来告诉OS不要缓存读取到的数据(因为这些数据不会重用到了)，从而提升性能。如果要缓存的话，大量的数据会对OS的虚拟内存造成很大的压力，其它进程（如mysqld）很有可能会被swap出去，这样就出问题了。同时，XtraBackup在读取数据的时候还尽可能地预读。
由于不锁表，所以复制出来的数据是不一致的，数据的一致性是在恢复的时候使用crash-recovery进行实现的。
对于MyISAM,XtraBackup还是首先锁定所有的表，然后复制所有文件。
增量备份的原理：
在完整备份和增量备份文件中都有一个文件xtrabackup_checkpoints会记录备份完成时检查点的LSN。在进行新的增量备份时，XtraBackup会比较表空间中每页的LSN是否大于上次备份完成的LSN，如果是，则备份该页，并记录当前检查点的LSN。
页:
[1]