[sersync+rsync] 文件同步部署实战

  针对本地文件的修改,自动同步到远程文件夹,远程备份很方面。研究了下大家的主流同步方案一般是 rsync+inotify和rsync+sersync, 本文这里使用sersync的方案做为实验。

基本大纲:

1.基本原理概述

2.实验环境准备

3.实验的操作步骤以及结论



一:基本原理概述

我这里的目的是为了远程同步mysql的备份文件,centos6.6 主机同步到另一台centos6.6主机

使用rsync+sersync做实时同步时,用于推送文件 的服务器运行sersync服务,用于接收文件的服务器则运行rsync守护进程,简单来说就是sersync会利用rsync命令将文件推送到 rsync服务器,实际线上使用一般会把sersync作为主服务器,rsync作为镜像服务器,实现数据同步备份,web镜像等功能

所以两台机器都需要rsync, 然后有对应的写数据权限。



二:实验环境准备

1.操作系统 centos6.6 x86

2.rsync yum源

3.sersync2.5_64bit软件包

4.推送源机A 192.168.1.8(ip均为实验伪造)

5.接收机B 192.168.1.35

6.把A机器上的一个目录下文件的变化同步到B机器上,两边文件保持一致。

7.接收机B selinux与iptables自行设置好,rsync的端口两边要配置一致,默认是873



三:实验的操作步骤以及结论

接收机上的操作:

1、查看rsync是否安装
[[email protected] ~]# rpm -qa | grep rsync
rsync-3.0.6-12.el6.x86_64
#如果没有安装 yum install -y rsync 就行了
2、rsync配置
[[email protected] ~]# cat /etc/rsyncd.conf 
uid = root
gid = root
use chroot =no
list = no
log file = /var/log/rsyncd.log
[rsyncmysql]
path=/data/backup/ywximysql
comment=rsyncmysql
ignore errors
read only=no
list=no
max connections=200
timeout=600
auth users=rsync
secrets file=/etc/rsync.passwd
hosts allow=*
#host deny=0.0.0.0/0

配置文件注解:
secrets file 这个是配置同步的密码文件的。
[rsynctest] 这个是配置同步模块的名称,后面会用
path 是配置同步的目录
hosts allow 是允许同步的主机 这里是测试就没有限制
hosts deny 拒绝同步的主机

3、创建同步的用户与密码的文件,即上图中的secrets file这个配置选项中的文件。/etc/rsync.passwd,同进要设置这个文件的权限为600
[[email protected] ~]# echo "rsync:123456ywxi" >> /etc/rsync.passwd
[[email protected] ~]# chmod 600 /etc/rsync.passwd 

4、创建同步的目录:即上面中path配置选项中的目录
[[email protected] ~]# mkdir -p /data/backup/ywximysql

5、启动rsync
[[email protected] ~]# rsync --daemon --config=/etc/rsyncd.conf 
[[email protected] ~]# ps -ef | grep rsync
root      3358     1  0 14:37 ?        00:00:00 rsync --daemon --config=/etc/rsyncd.conf
root      3360  3184  0 14:37 pts/1    00:00:00 grep rsync

接着重启一下xinetd使得配置生效
[[email protected] ~]# /etc/init.d/xinetd restart
Stopping xinetd: [FAILED]
Starting xinetd: [  OK  ]
这里是通过 xinetd 服务来重启rsync,也可以不用这种方式,如果没有可以用yum直接安装

6、配置开机启动
[[email protected] ~]# echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.d/rc.local

推送源机上的操作:

1、先到sersync 官网的地址已经不能使用了,我从网上找了一份放到其他地址, github上的源码镜像 
我把二进制包下载也放到了上面

#命令集如下:
 wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz
 mkdir /usr/local/sersync
 mkdir /usr/local/sersync/conf
 mkdir /usr/local/sersync/bin
 mkdir /usr/local/sersync/log
 tar zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz
 cd GNU-Linux-x86/
 cp confxml.xml /usr/local/sersync/conf
 cp sersync2 /usr/local/sersync/bin
 
2、创建密码文件,同B服务器一样,不过这个文件只要保存一个密码就行了,不用用户名,权限也是600
[[email protected] tools]# echo "123456ywxi" >> /etc/rsync.passwd      
[[email protected] tools]# chmod 600 /etc/rsync.passwd

3、配置sersync,配置文件就是上第二步复制的confxml.xml这个文中,路径在/usr/local/sersync/conf中
[[email protected] conf]# cat confxml.xml 
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
   # 设置本地IP和端口
   <host hostip="localhost" port="8008"></host>
   # 开启DUBUG模式  
   <debug start="false"/>
   # 开启xfs文件系统
   <fileSystem xfs="false"/>
   # 同步时忽略推送的文件(正则表达式),默认关闭
   <filter start="false">
       <exclude expression="(.*)\.svn"></exclude>
       <exclude expression="(.*)\.gz"></exclude>
       <exclude expression="^info/*"></exclude>
       <exclude expression="^static/*"></exclude>
   </filter>
   <inotify>
   # 设置要监控的事件
       <delete start="true"/>
       <createFolder start="true"/>
       <createFile start="true"/>
       <closeWrite start="true"/>
       <moveFrom start="true"/>
       <moveTo start="true"/>
       <attrib start="true"/>
       <modify start="true"/>
   </inotify>
   <sersync>
   # 本地同步的目录路径
       <localpath watch="/home/data">
   # 远程IP和rsync模块名 
           <remote ip="192.168.1.35" name="rsyncmysql"/>  
           <!--<remote ip="192.168.8.39" name="tongbu"/>-->
           <!--<remote ip="192.168.8.40" name="tongbu"/>-->
       </localpath>
       <rsync>
   # rsync指令参数
           <commonParams params="-auvzP"/>
   # rsync同步认证
           <auth start="true" users="rsync" passwordfile="/etc/rsync.pas"/>
   # 设置rsync远程服务端口,远程非默认端口则需打开自定义
           <userDefinedPort start="false" port="873"/><!-- port=874 -->
   # 设置超时时间
           <timeout start="true" time="100"/><!-- timeout=100 -->
   # 设置rsync+ssh加密传输模式,默认关闭,开启需设置SSH加密证书
           <ssh start="false"/>
       </rsync>
    # sersync传输失败日志脚本路径,每隔60会重新执行该脚本,执行完毕会自动清空。
       <failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
    # 设置rsync+crontab定时传输,默认关闭
       <crontab start="false" schedule="600"><!--600mins-->
           <crontabfilter start="false">
               <exclude expression="*.php"></exclude>
               <exclude expression="info/*"></exclude>
           </crontabfilter>
       </crontab>
   # 设置sersync传输后调用name指定的插件脚本,默认关闭
       <plugin start="false" name="command"/>
   </sersync>
   # 插件脚本范例
   <plugin name="command">
       <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->
       <filter start="false">
           <include expression="(.*)\.php"/>
           <include expression="(.*)\.sh"/>
       </filter>
   </plugin>
   # 插件脚本范例
   <plugin name="socket">
       <localpath watch="/opt/tongbu">
           <deshost ip="192.168.138.20" port="8009"/>
       </localpath>
   </plugin>
   <plugin name="refreshCDN">
       <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
           <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxx"/>
           <sendurl base="http://pic.xoyo.com/cms"/>
           <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
       </localpath>
   </plugin>
</head>

4、创建同步目录:
mkdir /home/data

5、 设置环境变量:
echo "export PATH=$PATH:/usr/local/sersync/bin/" >> /etc/profile
source /etc/profile
 
6、 启动sersync
sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml
#重启操作如下:
# killall sersync2 && sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml

7、 设置开机启动
echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.local

启动了sersync服务之后

推送源机操作:

[[email protected] ~]# cd /home/data/

[[email protected] data]# ls

[[email protected] data]# touch backup.sql

[[email protected] data]# touch test.sql

[[email protected] data]# ll

total 0

-rw-r--r-- 1 root root 0 Jun  5 06:00 backup.sql

-rw-r--r-- 1 root root 0 Jun  5 06:15 test.sql

[[email protected] data]# echo "ywxitest" >> test.sql

接收机操作:

[[email protected] ywximysql]# ll

total 0

-rw-r--r--. 1 root root 0 Jun  5 06:00 backup.sql

-rw-r--r--. 1 root root 0 Jun  5 06:15 test.sql

[[email protected] ywximysql]# cat test.sql

ywxitest

实验结论 :

可以看到文件很快的就被同步到远程机器上了,文件创建时间一致,实验成功。

原文地址:http://blog.51cto.com/13707680/2124855

时间: 2024-08-10 21:25:59

[sersync+rsync] 文件同步部署实战的相关文章

[sersync+rsync] centos6.5 远程文件同步部署记录

针对本地文件的修改,自动同步到远程文件夹,远程备份很方面.研究了下大家的主流同步方案一般是 rsync+inotify和rsync+sersync, 我这里使用sersync的方案,当然大部分都是参照前人经验,感谢他们的无私. 概述 我这里的目的是为了远程同步mysql的备份文件,centos6.5 同步到另一台centos主机 使用rsync+sersync做实时同步时,用于推送文件 的服务器运行sersync服务,用于接收文件的服务器则运行rsync守护进程,简单来说就是sersync会利用

Rsync 文件同步(windows下安装部署)

更多博文请关注:没有伞的孩子必须努力奔跑 (www.xuchanggang.cn) Rsync windows版本安装包:(这里下载的是4.0.5)下载地址:http://www.pc6.com/softview/SoftView_108644.htmlRsync 软件包括 server 端 和 client 端rsync 软件的安装:默认端口:873因为是windows版的图形化安装,这里就不演示. 只要记住服务端装server版.客户端装 client 版Server 端的配置如下:    

sersync+rsync实时同步配置案例

目前业内比较靠谱的同步解决方案有: rsync+inotify-tools,Openduckbill+inotify-tools和rsync+sersync 前两者由于是基于脚本语言编写,所以规范程度,执行效率相对rsync+sersync就稍微弱一些. sersync是使用c++编写,基于boost1.43.0,inotify api,rsync command开发,主要用于服务器同步,web镜像等功能.其对linux系统文件系统产生的临时文件和重复的文件操作能够进行过滤,所以在结合rsync

Inotify+rsync实时同步工具实战

Inotify+rsync实时同步工具实战 分别有机器:server-178/24,client-b-179/24,client-c-180/24 中心分发服务器Master:client-c-180/24 备份服务器    :client-b-179/24和server-178/24 基于备份服务器已经提供rsync --daemon的基础上,在中心分发服务器(rsync客户端)配置inotify,监控的目录设置为/www/ 1.查看当前系统是否支持inotify ls -l /proc/sy

Sersync+rsync实时同步

Sersync+rsync实时同步服务端设置(相当于备份服务器)1.确认rsync是否安装[[email protected] ~]# rpm -qa|grep rsyn*rsyslog-5.8.10-10.el6_6.x86_64rsync-3.0.6-12.el6.x86_64 2.服务端按转有rsync工具没有可以yum安装yum install rsync -y 3.配置rsync配置文件,原先是没有的需要创建cat >>/etc/rsyncd.conf<<EOFuid =

linux系统中Rsync文件同步方案

linux服务器下Rsync文件同步配置 Rsync(remote synchronize) 远程数据同步工具,可以使用"Rsync算法"同步本地和远程主机之间的文件.Rsync的好处是只同步两个文件不同的部分,相同的部分不在传递.类似于增量备份,这使的在服务器传递备份文件或者同步文件. crontab配合rsync 使用可达到定时备份同步任务. Rsync部署环境1.服务器准备| Host | IP | ----------|| Server | 192.168.60.110 | -

rsync -文件同步工具

ubuntu 12.10 x32 $ sudo apt-get install rsync $ sudo apt-get install grsync # 图形化前端 Mac OS X $ curl -O http://rsync.samba.org/ftp/rsync/rsync-3.0.9.tar.gz # 下载源代码 $ curl -O http://rsync.samba.org/ftp/rsync/rsync-patches-3.0.9.tar.gz # 下载补丁 $ tar -xzv

sersync+rsync原理及部署

一.为什么要用rsync+sersync架构? 1.sersync是基于inotify开发的,类似于inotify-tools的工具 2.sersync可以记录下被监听目录中发生变化的(包括增加.删除.修改)具体某一个文件或者某一个目录的名字,然后使用rsync同步的时候,只同步发生变化的文件或者目录 二.rsync+inotify-tools与rsync+sersync架构的区别? 1.rsync+inotify-tools a.inotify只能记录下被监听的目录发生了变化(增,删,改)并没

Rsync文件同步

本章结构 关于rsync 1.一款增量备份工具,remote sync,远程同步,支持本地复制或者与其他SSH.rsync主机同步,官方网站:http://rsync.samba.org/. Rsync(remote synchronize)是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件,也可以使用rsync同步本地硬盘中的不同目录. Rsync是用户取代rcp的一个工具,Rsync使用所谓的"Rsync算法"来使本地和远程两个主机之间的文件达到同步,这个算法只传