Ubuntu 下rsync+inotify实现实时文件同步

rsync+inotify实现实时文件同步

一、rsync的优点与不足

与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。

随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。

基于以上原因,rsync+inotify组合出现了!

二、初识inotify

Inotify 是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起,加入了Inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。

rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题.

三、安装inotify工具inotify-tools

由于inotify特性需要Linux内核的支持,在安装inotify-tools前要先确认Linux系统内核是否达到了2.6.13以上,如果Linux内核低于2.6.13版本,就需要重新编译内核加入inotify的支持,也可以用如下方法判断,内核是否支持inotify:

[email protected]:/home/zko/common# uname -r

3.13.0-36-generic

[email protected]:/home/zko/common# ll /proc/sys/fs/inotify

总用量 0

-rw-r--r-- 1 root root 0  9月 30 22:26 max_queued_events

-rw-r--r-- 1 root root 0  9月 30 22:26 max_user_instances

-rw-r--r-- 1 root root 0  9月 30 13:45 max_user_watches

如果有上面三项输出,表示系统已经默认支持inotify,接着就可以开始安装inotify-tools了。

安装inotify-tools;

[email protected]:/home/zko#

wget http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz

[email protected]:/home/zko# mkdir tools

[email protected]:/home/zko# cd tools/

[email protected]:/home/zko/tools#

mv /home/zko/common/inotify-tools-3.14.tar.gz inotify-tools-3.14.tar.gz

[email protected]:/home/zko/tools# ls

inotify-tools-3.14.tar.gz

[email protected]:/home/zko/tools/inotify-tools-3.14# ./configure

[email protected]:/home/zko/tools/inotify-tools-3.14# make && make install

[email protected]:/home/zko/tools/inotify-tools-3.14# ll /usr/local/bin

总用量 104

-rwxr-xr-x 1 root root 51061  9月 30 22:30 inotifywait

-rwxr-xr-x 1 root root 51443  9月 30 22:30 inotifywatch

inotify-tools安装完成后,会生成inotifywait和inotifywatch两个指令,其中,inotifywait用于等待文件或文件集上的一个特定事件,它可以监控任何文件和目录设置,并且可以递归地监控整个目录树。

inotifywatch用于收集被监控的文件系统统计数据,包括每个inotify事件发生多少次等信息。

四、 inotify相关参数

inotify定义了下列的接口参数,可以用来限制inotify消耗kernel memory的大小。由于这些参数都是内存参数,因此,可以根据应用需求,实时的调节其大小。下面分别做简单介绍。

/proc/sys/fs/inotify/max_queued_evnets     表示调用inotify_init时分配给inotify instance中可排队的event的数目的最大值,超出这个值的事件被丢弃,但会触发IN_Q_OVERFLOW事件。

/proc/sys/fs/inotify/max_user_instances    表示每一个real user ID可创建的inotify instatnces的数量上限。

/proc/sys/fs/inotify/max_user_watches      表示每个inotify instatnces可监控的最大目录数量。如果监控的文件数目巨大,需要根据情况,适当增加此值的大小,例如:

echo 30000000 > /proc/sys/fs/inotify/max_user_watches

[email protected]:/home/zko/tools/inotify-tools-3.14# cd /proc/sys/fs/inotify

[email protected]:/proc/sys/fs/inotify# ll

总用量 0

-rw-r--r-- 1 root root 0  9月 30 22:26 max_queued_events

-rw-r--r-- 1 root root 0  9月 30 22:26 max_user_instances

-rw-r--r-- 1 root root 0  9月 30 13:45 max_user_watches

[email protected]:/proc/sys/fs/inotify# cat max_queued_events

16384

[email protected]:/proc/sys/fs/inotify# cat max_user_instances

128

[email protected]:/proc/sys/fs/inotify# cat max_user_watches

524288

五、 inotifywait相关参数

Inotifywait是一个监控等待事件,可以配合shell脚本使用它,下面介绍一下常用的一些参数:

l -m, 即--monitor,表示始终保持事件监听状态。

l -r, 即--recursive,表示递归查询目录。

l -q, 即--quiet,表示打印出监控事件。

l -e, 即--event,通过此参数可以指定要监控的事件,常见的事件有modify、delete、create、attrib等。

更详细的请参看man inotifywait。

实例测试:

[email protected]:/home/zko/tools# echo "hello">>test/foo

[email protected]:/home/zko/tools# cat test/foo

hello

[email protected]:/home/zko/tools# inotifywait test/

inotifywait: error while loading shared libraries: libinotifytools.so.0: cannot open shared object file: No such file or directory

报错!

解决方法:

[email protected]:/home/zko/tools# find / -name libinotifytools.so.0  //寻找文件源

/home/zko/tools/inotify-tools-3.14/libinotifytools/src/.libs/libinotifytools.so.0

/usr/lib/libinotifytools.so.0

/usr/local/lib/libinotifytools.so.0

[email protected]:/home/zko/tools#

cp /home/zko/tools/inotify-tools-3.14/libinotifytools/src/.libs/libinotifytools.so.0 /usr/local/lib/libinotifytools.so.0 //覆盖文件

[email protected]:/home/zko/tools# inotifywait test/foo

Setting up watches.

Watches established.

成功!

六、 rsync+inotify企业应用案例

客户端(192.168.1.103):

[email protected]:/home/zko# mkdir /var/www/001

[email protected]:/home/zko# cd /var/www/001

[email protected]:/var/www/001# ls

[email protected]:/var/www/001# chmod 600 /var/www/001

[email protected]:/var/www/001# vi /etc/rsyncd.conf

# sample rsyncd.conf configuration file

# GLOBAL OPTIONS

motd file=/etc/rsyncd.motd

log file=/var/log/rsyncd.log

transfer logging=yes

lock file=/var/run/rsync.lock

port=873

address=192.168.1.103

uid=0

gid=0

use chroot=no

read only=no

max connections=10

pid file=/var/run/rsyncd.pid

[web1]

comment=Web content

path=/var/www/001

auth users=tom

secrets file=/etc/rsyncd.pass

hosts allow=192.168.1.101

hosts deny=*

list=false

。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。

[email protected]:/var/www/001# echo "tom:pass">>/etc/rsyncd.pass  //密码文件

[email protected]:/var/www/001# vi /etc/rsyncd.conf

[email protected]:/var/www/001# cat /etc/rsyncd.pass

tom:pass

[email protected]:/var/www/001# chmod 600  /etc/rsyncd.pass

[email protected]:/var/www/001# rsync --daemon               //开启

[email protected]:/var/www/001# ps -ef | grep rsync

root      3807     1  0 23:11 ?        00:00:00 rsync --daemon

root      3809  3460  0 23:11 pts/10   00:00:00 grep --color=auto rsync

服务端(192.168.1.101):

安装inotify-tools工具;

初始化密码文件:

[email protected]:/home/zko/tools# echo "pass">>/etc/rsyncd.pass

[email protected]:/home/zko/tools# cat /etc/rsyncd.pass

pass

服务端与客户端连接:

[email protected]:/home/zko#

/usr/bin/rsync -vzrtopg --delete --progress --password-file=/etc/rsyncd.pass /var/www/001 [email protected]::web1

sending incremental file list

001/

sent 61 bytes  received 20 bytes  162.00 bytes/sec

total size is 0  speedup is 0.00

测试成功!

时间: 2024-12-15 18:38:02

Ubuntu 下rsync+inotify实现实时文件同步的相关文章

Linux下rsync+inotify实现实时数据同步

一. rsync 1. 什么是rsync rsync 是一个远程数据同步工具, 可以实现本主机内,或跨主机的数据同步.以服务运行时监听在TCP 873端口, rsync演算法可以达到只传送文件变化的部分,而不是整个都传送,因此速度相当的快,性能不错. 所以rsync通常可以作为备份工具来使用. 1.1 rsync基本特点: 1. 可以镜像保存整个目录树或文件系统 2. 可以很容易做到保持原来文件的权限.时间.软硬链接等; (通过rsync的一些参数, 如 -a) 3. 较高的数据传输效率 4.

linux 下rsync+inotify实现实时同步

rsync是类unix系统下的数据镜像备份工具--remote sync,inotify 是一个 Linux特性,它监控文件系统操作,比如读取.写入和创建.两者结合可以实现服务器与客户端之间的文件实时同步. 实验逻辑图 一.安装配置rsync服务 主,备服务器检查是否安装rsync服务,一般情况下系统默认安装 [[email protected] bin]# rpm -qa rsync rsync-3.0.6-6.el5_11 1.首先对rsync-slave进行配置 添加配置rsync的文件,

linux下rsync+inotify实现服务器之间文件实时同步

先介绍一下rsync与inotify. 1.rsync 与传统的cp.tar备份方式相比,rsync具有安全性高.备份迅速.支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等.随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输.如果文件数量达到了百万甚至千万量级,扫描所

CentOS6.4_64位下搭建Rsync+Inotify实现实时同步

CentOS6.4_64位下搭建Rsync+Inotify实现实时同步 rsync是linux下的文件同步服务,功能简单来说就是服务端打开873端口,客户端连接这个端口,并对服务器端配置的目录进行同步,可以理解为客户端比对服务器端资源后,对增量或者差异的数据进行增删改操作,功能支持上传(推送)或下载(获取)比对,也就是远程数据比对本地数据而后对远程数据进行增删改操作,以及本地数据比对远程数据然后对本地数据进行增删改操作. centos6.4下默认已经安装,只需保证依赖服务xinetd开启即可.

rsync+inotify 实现服务器文件实时同步

rsync+inotify 实现服务器文件实时同步 操作系统:CentOS 6.X 源服务器:192.168.80.132 目标服务器:192.168.80.128 目的:把源服务器上/data/app目录实时同步到目标服务器的/data/app下 具体操作: 第一部分:在目标服务器192.168.80.128上操作 一.在目标服务器安装Rsync服务端 1.关闭SELINUX vi /etc/selinux/config #SELINUX=enforcing #SELINUXTYPE=targ

linux rsync +inotify 实现 实时同步

前言:     rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题. 一.基本环境 系统:CentOS 2.6.32-220.el6.x86_64软件包版本:rsync-3.0.6-12.el6.x86_64                    inotify-tools-3.14 下载链接:百度   inotify

实战:配置rsync+inotify实现实时同步备份

实战:配置rsync+inotify实现实时同步 Linux内核从2.6.13版本开始提供了inotify通知接口,用来监控文件系统的各种变化情况,如文件存取.删除.移动等.利用这一机制,可以非常方便地实现文件异动告警.增量备份,并针对目录或文件的变化及时作出响应. 使用rsync工具与inotify机制相结合,可以实现触发式备份(实时同步),只要原始位置的文档发生变化,则立即启动增量备份操作,否则处于静态等侍状态,这样一来,就避免了按固定周期备份进存在的延迟性.周期过密等问题. inotify

rsync的简单介绍及rsync+inotify实现实时同步更新

Rsync的简单介绍及rsync+inotify实现实时同步更新 rsync是类unix系统下的数据镜像备份工具--remotesync.一款快速增量备份工具 Remote Sync,远程同步支持本地复制,或者与其他SSH.rsync主机同步.Rsync是超级进程来管理的,服务端口为873. 特点: 1.可以镜像保存整个目录树或文件系统: 2.有较高的数据传输效率: 3.可借助于SSH实现安全数据传输: 4. 支持匿名传输 工作模式: 1.shell模式,也称作本地模式 2.远程shell模式,

rsync + inotify 数据实时同步

一.rsync介绍 rsync英文全称为Remote synchronization,从软件的名称就可以看出来,Rsync具有可是本地和远程两台主机之间的数据快速复制同步镜像.远程备份的功能,这个功能类似ssh带的scp命令,但又优先于scp命令的功能,scp每次都是全量拷贝,而rsync可以增量拷贝.当然,Rsync还可以在本地主机的不同分区或目录之间全量及增量的复制数据,这又类似cp命令,但同样也优先于cp命令,cp每次都是全量拷贝,而rsync可以增量拷贝.利用rsync还可以实现删除文件