rsync远程同步及rsync+inotify实时同步

rsync远程同步及rsync+inotify实时同步

思维代入

正确、有效的备份方案是保障系统及数据安全的重要手段。在服务器中,通常会结合计划性任务、shell脚本来执行本地备份。但有时候为了提高备份的可靠性,异地备份也是非常有必要的。那下面就给大家介绍一种异地远程备份的方法:rsync远程备份。

rsync简介

rsync是一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份、保持链接和权限,且采用优化的同步算法,在传输前执行压缩,因此非常适用于异地备份、镜像服务等应用。

rsync在同步过程中有两个部分组成:发起端、同步源。负责发起rsync同步操作的客户机称为发起端;负责响应来自客户机的rsync同步操作的服务器称为同步源。在同步过程中,同步源负责提供文档的原始位置;发起端对该位置具有读取权限。

rsync拓扑图

rsync源服务器的部署

rsync下载地址下载地址

CentOS7系统非常友好的默认安装了rsync服务,如果你的系统没有安装rsync服务,那么用上面的链接下载安装即可,因为我这边默认安装了rsync,直接进行修改配置文件,配置文件默认在/etc/rsyncd.conf

  • 修改配置文件

vim /etc/rsyncd.conf

 uid = nobody
 gid = nobody
 use chroot = yes             //禁锢在源目录
 address = 172.16.10.133      //监听地址
 port 873                     //监听端口
 log file = /var/log/rsyncd.log         //日志文件位置
 pid file = /var/run/rsyncd.pid         //进程ID存放位置
 hosts allow = 172.16.10.0/24           //允许访问的客户机地址

[wwwroot]                     //共享模块的名称
 path=/var/www/html           //源目录的实际路径
 comment=www.yun.com          //注解内容,可不填写
 read only= yes               //是否为只读
 dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2    //同步时不再进行压缩的文件类型
 auth users = backuper         //授权账户
 secrets file = /etc/rsyncd_users.db     //存放账户信息的数据文件

#这边解释一下,对于rsync的同步源最好仅允许以只读方式做同步。同步时也可以采用匿名的方式,只要将上面的auth users和secrets file配置记录加#注释或者删除就可以了。

  • 为备份账户创建数据文件

vim /etc/rsyncd_users.db

backuper:abc123 //创建账户记录,以冒号分割

chmod 600 /etc/rsyncd_users.db

这边由于账户信息采用明文存放,因此上面调整了文件权限,避免账户信息泄露。

备份用户backuper需要对源目录/var/www/html具有相应的读取权限

  • 开启rsync服务进程

rsync --daemon

关闭服务的时候,直接采用kill $(cat /var/run/rsyncd.pid) 就可以了

rsync备份工具的使用

  • rsync命令的基本用法

rsync和大多数的备份程序一样,需要指定原始位置和目标位置,命令格式:rsync 源目录位置 目标位置

rsync /etc/fatab /opt

例如这条,意义就是:备份/etc/fstab目录到/opt目录下

命令格式及常用的备份选项

-r:递归模式,包含目录及子目录中的所有文件。
-l:对于符号链接文件仍然复制为符号链接文件。
-v:显示同步过程的详细信息。
-a:归档文件,保留文件的权限、属性等信息。
-z:在传输文件时进行压缩。
-p: 保留文件的权限标记。
-t:保留文件的时间标记。
-g:保留文件的属性标记(仅超级用户使用)。
-o:保留文件的属主标记(仅超级用户使用)。
-H:保留硬连接文件。
-A:保留ACL属性信息。
-D:保留设备文件及其他特殊文件。
--delete:删除目标位置有而原始位置没有的文件。
--checksum:根据校验和(而不是文件大小、修改时间)来决定是否跳过文件。
  • 配置源的表示方法

配置源的表示方法 三种
将对方源目录的文件同步到本地的/opt目录下

格式一:

rsync -avz [email protected]::wwwroot /opt/
password:abc123

格式二:

rsync -avz rsync://[email protected]/wwwroot /opt/
password:abc123

格式三:免密码交互

vim /etc/server.pass
abc123
chmod 600 /etc/server.pass
rsync -az --delete --password-file=/etc/server.pass [email protected]::wwwroot /opt

  • rsync备份操作示例

rsync -avz [email protected]::wwwroot /opt/

配置部署rsync+inotify实时同步

  • 调整inotify内核参数
vim /etc/sysctl.conf
fs.inotify.max_queued_events = 16384     #监控事件队列
fs.inotify.max_user_instances = 1024     #最多监控实例
fs.inotify.max_user_watches = 1048576    #每个实例最多监控文件数

sysctl -p     //刷新使之立即生效
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576
  • 安装inotify-tools

使用inotify机制需要安装inotify-tools,以便提供inotifywait和inotifywatch辅助工具程序,用来监控和汇总改动情况。

tar xf inotify-tools-3.14.tar.gz -C /opt/     //解压软件至/opt目录下
cd /opt/inotify-tools-3.14/
./configure                      //配置
make && make install          //编译安装

这里以监控网站目录/var/www/html为例,先执行inotifywait命令,然后在源服务器的终端上向/var/www/html目录下进行操作,这边发起端会监控输出结果。

inotifywait -mrp -e modify,create,move,delete /var/www/html

-e用来指定要监控的哪些事件,-m 表示持续监控,-r 表示递归整个目录, -q 简化输出信息。

  • 编写触发式同步脚本
vim /opt/inotify_rsync.sh

#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /var/www/html/"
RSYNC_CMD="rsync -vazH --delete --password-file=/etc/server.pass /var/www/html/ [email protected]::wwwroot/"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
    if [ $(pgrep rsync | wc -l) -le 5 ] ; then
        $RSYNC_CMD
    fi
done

chmod +x /opt/inotify_rsync.sh
#添加执行权限

然后我们来看一下脚本执行的效果

至此实验结束,试验成功,rsync远程同步及rsync+inotify实时同步就成功了!!!各位看官上手试试吧!!!

原文地址:http://blog.51cto.com/13659301/2154930

时间: 2024-08-14 09:45:43

rsync远程同步及rsync+inotify实时同步的相关文章

rsync+inotify实时同步

一.Rsync简介: rsync是一个远程数据同步工具,可通过lan/wan快速同步多台主机间的文件.它使用所谓的"rsync演算法"来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快.所以通常可以作为备份工具来使用. 运行rsync server的机器也叫backup server,一个rsync server可同时备份多个client的数据:也可以多个rsync server备份一个client的数据.rsync可以搭配

rsync同步操作,inotify实时同步,Cobbler平台装机

本例要求掌握远程同步的基本操作,使用rsync命令完成下列任务: 将目录 /boot 同步到目录 /todir 下 将目录 /boot 下的文档同步到目录 /todir 下 在目录 /boot 下新增文件 a.txt,删除 /todir 下的子目录 grub2,再次同步使 /todir 与 /boot 一致 验证 -a.-n.-v.--delete 选项的含义 1.2 方案 本地同步操作: rsync [选项...] 本地目录1 本地目录2 rsync [选项...] 本地目录1/ 本地目录2

rsync+inotify实时同步环境部署

rsync 作用: 实现文件的备份 备份位置可以是当前主机,也可以是远程主机 备份过程可以是完全备份,也可以是增量备份 功能: 1.类似于cp的复制功能 将本地主机的一个文件复制到另一个位置下. 2.将本地主机的文件推送到远程主机,也可以从远程主机拉取文件到本地. 3.显示文件列表 使用模式 shell模式 本地复制功能 远程shell模式 可以利用ssh来实现数据的加密到远程主机 守护进程(服务器模式) rsync工作在守护进程模式下 列表模式 ls 仅仅显示内容,不做操作 确保各个主机的时间

rsync+inotify实时同步环境部署记录

随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足.首先,rsync在同步数据时,需要扫描所有文件后进行比对,进行差量传输.如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的,并且正在发生变化的往往是其中很少的一部分,这是非常低效的方式.其次,rsync不能实时的去监测.同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应

rsync+inotify实时同步方案

rsync+inotify实时同步,inotify可以实时监控本地文件或目录变化,当检测到本地文件变化,执行rsync同步命令,将变化的文件同步到其他服务器节点. 1.配置环境 3.在服务节点1.服务节点2.内容发布节点,都安装rsync软件:在内容发布节点再安装inotify实时监控软件.安装步骤建上篇. 4.编辑同步脚本 #!/bin/bash/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y' --format '%T %

rsync+inotify实时同步案例

rsync+inotify实时同步案例 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输.如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的.而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式.其次,rsync不能实时的去监测.同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务

配置rsync+inotify实时同步

配置rsync+inotify实时同步Linux从2.6.13版内核开始提供了inotify通知接口,用来监控文件系统的各种变化情况,如文件的存取,删除,移动,修改内容及属性等.利用这个机制,可以实现文件异动警告,增量备份,针对目录或文件的变化及时做出响应. 将inotify机制与rsync工具结合,可以实现触发式备份(实时同步),只要原始位置的文档发生变化,则立即启动增量备份,否则处于静默等待状态,避免了按固定周期备份是存在的延迟性,周期过密等问题. 正因为inotify通知机制有Linux内

rsync远程同步+inotify实时同步

rsync远程同步备份服务器 客户端发生改变,数据同步到服务器 原文地址:http://blog.51cto.com/982439641/2060466

inotify介绍及rsync + inotify 实时同步备份

1.前言 rsync (remote sync)是一款非常好的数据同步工具,能够通过对比同步双方的数据变动,实现增量同步,还可以通过LAN/WAN实现远程多台主机间文件的同步,还能结合crond任务计划来执行自动备份,又可以结合ssh实现远程数据备份的安全,种种特性使他看起来相当优秀.但如果需备份数据十分庞大时,它的不足之处就显现出来了,比如每次执行同步操作时,rsync都会扫描全部数据进而计算出增量部分,而后再同步增量数据,这将会十分耗时,使其变得低效:并且受限于crond计划任务最小时间间隔