centos 6.5 rsync+inotify 实时同步

主机名、ip:

server 172.31.82.184

client  172.31.82.185

需求:

1、server端 ”/data/server“ 做为client端 “/data/client” 的备份目录;

2、实现功能是client端对该目录做增删权限变化操作,server端能保持实时同步;

3、关闭防火墙和selinux

service iptables stop

setenforce 0

一、配置server端

1、安装rsync软件

yum install -y rsync -y

2、创建rsync.conf配置文件,默认该文件不存在

vim /etc/rsyncd.conf

uid = root
gid = root
usechroot = no
max connections = 20
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
[web_log]                     ##此处是定义的模块名,和“path = /data/server/”下server有关
path = /data/server/
ignore errors
read only = false
writeonly = false
list = false
hosts allow = *
auth users = backuser
secrets file = /etc/rsync.password

3、创建备份目录

mkdir /data/server -p

4、创建rsync用户名和密码文件

echo "backuser:123" >> /etc/rsync.password

5、为/etc/rsync.password 授权为600

chmod 600 /etc/rsync.password

6、启动rsync服务并添加开机自动启动

/usr/bin/rsync --daemon &

echo "/usr/bin/rsync --daemon" >> /etc/rc.local

二、配置client端

1、安装rsync

yum install rsync -y

2、设置 rsync 客户端的密码文件,客户端只需要设置 rsync 同步的密码即可,不用设置用户名

echo "123" > /etc/rsync.password

3、将密码文件的权限设置成 600

chmod 600 /etc/rsync.password

配置inotyfi

1、安装基础编译包

yum install -y gcc lrzsz

tar zxvf inotify-tools-3.14.tar.gz &&cd inotify-tools-3.14 &&./configure &&make &&make install

2、创建client端同步目录

mkdir -p /data/client

3、在client端测试是否可以同步文件

上传文件

rsync -vzrtopg --progress /data/client/ [email protected]::server  --password-file=/etc/rsync.password

下载文件

rsync -vzrtopg --progress  [email protected]::server /opt/  --password-file=/etc/rsync.password

4、写一个脚本实现当client端  “/data/client”目录文件有变化时,让server节点同步client数据

#!/bin/bash
src=/data/client/  ##注意路径
des1=server        ##注意路径
host1=172.31.82.184 ##server端ip
user1=backuser     ##同步数据使用的用户
/usr/local/bin/inotifywait -mrq --timefmt ‘%d/%m/%y %H:%M‘ --format ‘%T %w%f‘ -emodify,delete,create,attrib $src | while read file
do
/usr/bin/rsync -vzrtopg --delete --progress  $src [email protected]$host1::$des1 --password-file=/etc/rsync.password
echo `date +%m.%d.%H%.M`"${files} was rsynced" >> /var/log/rsync.log 2>&1
done

5、给脚本执行权限

chmod +x /root/inotify.sh
6、后台执行脚本

/root/inotify.sh &

7、将脚本加入到系统自启文件

echo "/root/inotify.sh" >> /etc/rc.local
8、向client端加入文件,在server端查看是否有同步

mkdir 11 22 33 44

测试通过

三、排除不想同步的文件和目录

1、单个文件排除:比如我不想同步/opt/aa.php文件,直接使用 --exclude “aa.php”

多个文件和目录排除 --exclude-from="/usr/local/src/exclude.list"

脚本写法:

vim /root/inotify.sh

#!/bin/bash
src=/data/client/
des1=server
host1=172.31.82.184
user1=backuser
/usr/local/bin/inotifywait -mrq --timefmt ‘%d/%m/%y %H:%M‘ --format ‘%T %w%f‘ -emodify,delete,create,attrib $src | while read file
do
/usr/bin/rsync -vzrtopg --delete --progress --exclude-from="/usr/local/src/exclude.list" $src [email protected]$host1::$des1 --password-file=/etc/rsync.password
echo `date +%m.%d.%H%.M`"${files} was rsynced" >> /var/log/rsync.log 2>&1
done

2、脚本写完后还需要创建与脚本对应的文件,以下是不同步到server节点的文件和目录:

vim /usr/local/src/exclude.list

exclude
11
22
33

test.php

3、杀死后台运行的脚本进程

ps -elf |pgrep inotify|xargs kill -9

4、启动同步脚本

sh /root/inotify.sh &

5、设置每一个inotify实例相关联的watchs的上限,否则传输的文件过多会报错

echo 30000000 > /proc/sys/fs/inotify/max_user_watches

注意:

脚本修改后需要重启后台脚本:

ps -elf |pgrep inotify|xargs kill -9

sh /root/inotify.sh &

时间: 2024-10-27 00:31:28

centos 6.5 rsync+inotify 实时同步的相关文章

rsync+inotify实时同步环境部署记录

随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足.首先,rsync在同步数据时,需要扫描所有文件后进行比对,进行差量传输.如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的,并且正在发生变化的往往是其中很少的一部分,这是非常低效的方式.其次,rsync不能实时的去监测.同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应

rsync+inotify实时同步案例

rsync+inotify实时同步案例 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输.如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的.而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式.其次,rsync不能实时的去监测.同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务

rsync+inotify实时同步方案

rsync+inotify实时同步,inotify可以实时监控本地文件或目录变化,当检测到本地文件变化,执行rsync同步命令,将变化的文件同步到其他服务器节点. 1.配置环境 3.在服务节点1.服务节点2.内容发布节点,都安装rsync软件:在内容发布节点再安装inotify实时监控软件.安装步骤建上篇. 4.编辑同步脚本 #!/bin/bash/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y' --format '%T %

rsync远程同步及rsync+inotify实时同步

rsync远程同步及rsync+inotify实时同步 思维代入 正确.有效的备份方案是保障系统及数据安全的重要手段.在服务器中,通常会结合计划性任务.shell脚本来执行本地备份.但有时候为了提高备份的可靠性,异地备份也是非常有必要的.那下面就给大家介绍一种异地远程备份的方法:rsync远程备份. rsync简介 rsync是一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份.保持链接和权限,且采用优化的同步算法,在传输前执行压缩,因此非常适用于异地备份.镜像服务等应用

配置rsync+inotify实时同步

配置rsync+inotify实时同步Linux从2.6.13版内核开始提供了inotify通知接口,用来监控文件系统的各种变化情况,如文件的存取,删除,移动,修改内容及属性等.利用这个机制,可以实现文件异动警告,增量备份,针对目录或文件的变化及时做出响应. 将inotify机制与rsync工具结合,可以实现触发式备份(实时同步),只要原始位置的文档发生变化,则立即启动增量备份,否则处于静默等待状态,避免了按固定周期备份是存在的延迟性,周期过密等问题. 正因为inotify通知机制有Linux内

rsync+inotify实时同步

一.Rsync简介: rsync是一个远程数据同步工具,可通过lan/wan快速同步多台主机间的文件.它使用所谓的"rsync演算法"来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快.所以通常可以作为备份工具来使用. 运行rsync server的机器也叫backup server,一个rsync server可同时备份多个client的数据:也可以多个rsync server备份一个client的数据.rsync可以搭配

rsync+inotify实时同步环境部署

rsync 作用: 实现文件的备份 备份位置可以是当前主机,也可以是远程主机 备份过程可以是完全备份,也可以是增量备份 功能: 1.类似于cp的复制功能 将本地主机的一个文件复制到另一个位置下. 2.将本地主机的文件推送到远程主机,也可以从远程主机拉取文件到本地. 3.显示文件列表 使用模式 shell模式 本地复制功能 远程shell模式 可以利用ssh来实现数据的加密到远程主机 守护进程(服务器模式) rsync工作在守护进程模式下 列表模式 ls 仅仅显示内容,不做操作 确保各个主机的时间

inotify介绍及rsync + inotify 实时同步备份

1.前言 rsync (remote sync)是一款非常好的数据同步工具,能够通过对比同步双方的数据变动,实现增量同步,还可以通过LAN/WAN实现远程多台主机间文件的同步,还能结合crond任务计划来执行自动备份,又可以结合ssh实现远程数据备份的安全,种种特性使他看起来相当优秀.但如果需备份数据十分庞大时,它的不足之处就显现出来了,比如每次执行同步操作时,rsync都会扫描全部数据进而计算出增量部分,而后再同步增量数据,这将会十分耗时,使其变得低效:并且受限于crond计划任务最小时间间隔

rsync + inotify 实时同步数据

简介 Rsync (remote sync)是一款开源.快速,多功能.可实现增量的本地或远程数据镜像同步备份优秀工具.它可通过 LAN/WAN 快速同步多台主机间的文件.rsync 当前由 rsync.samba.org 维护.rsync 使用所谓的"rsync演算法"来使本地和远程主机之间的文件达到同步,该算法只传送两个文件中的不同部分,而不是每次都整份传送,因此速度相当快. 特点:   1.可以镜像保存整个目录树或文件系统:   2.可实现增量同步,既只同步发生变化的数据,因此数据