使用rsync同步目录

本文描述了linux下使用rsync单向同步两个机器目录的问题。 使用rsync同步后可以保持目录的一致性(含删除操作)。

数据同步方式

从主机拉数据

备机上启动的流程

同步命令:

rsync -avzP --delete [email protected]{remoteHost}:{remoteDir} {localDir}

参数说明:

-a 参数,相当于-rlptgoD(-r 是递归 -l 是链接文件,意思是拷贝链接文件;-p 表示保持文件原有权限;-t 保持文件原有时间;-g 保持文件原有用户组;-o 保持文件原有属主;-D 相当于块设备文件);
-z 传输时压缩;
-P 传输进度;
-v 传输时的进度等信息;

示例:

rsync -avzP --delete [email protected]192.168.1.100:/tmp/rtest1 /tmp/

向备机推数据

主机上启动的流程

同步命令:

rsync -avzP --delete {localDir} [email protected]{remoteHost}:{remoteDir}

示例:

rsync -avzP --delete /tmp/rtest1 [email protected]192.168.1.101:/tmp/

自动同步配置

描述同步时不输入密码的配置的方法。

使用ssh key

该方法可以直接使用rsync命令进行同步,同步过程中无需输入密码。

  • 在主机上产生ssh key :

    ssh-keygen -t rsa

  • 在备机上加入pubkey

    ssh-copy-id -i ~/.ssh/id_rsa.pub [email protected]

    或者手动添加:

    在主机上执行以下命令获取pubkey:

    cat ~/.ssh/id_rsa.pub
    

    在备机上加入key内容:

    vi ~/.ssh/authorized_keys

使用pexpect自动输入密码

示例代码如下:

#!/usr/bin/env python
# -*- coding: utf-8 -*-

import pexpect
import time
import traceback

def doRsync(user,passwd,ip,srcDir,dstDir,timeout=3600):
    cmd = "rsync -azPq --delete {srcDir} {rUser}@{rHost}:{dstDir}".format(
        rUser = user,rHost=ip,srcDir=srcDir,dstDir=dstDir
    )
    try:
        ssh = pexpect.spawn(cmd,timeout=timeout)
        print cmd
        i = ssh.expect([‘password:‘, ‘continue connecting (yes/no)?‘], timeout=5)
        if i == 0 :
            ssh.sendline(passwd)
        elif i == 1:
            ssh.sendline(‘yes‘)
            ssh.expect(‘password: ‘)
            ssh.sendline(passwd)
        ssh.read()
        ssh.close()
    except :
        #print traceback.format_exc()
        pass

if __name__ == ‘__main__‘:
    doRsync("root","123456","192.168.1.101","/tmp/rtest1","/tmp")

上面是使用python实现的代码,大家可根据情况用其它语言实现该功能。

其它

1、rsync在执行过程中被kill掉会怎么样;

http://unix.stackexchange.com/questions/5959/how-can-i-pause-resume-rsync

It is safe to kill an rsync process and run the whole thing again; it will continue where it left off. It may be a little inefficient, particularly if you haven‘t passed --partial (included in -P), because rsync will check all files again and process the file it was interrupted on from scratch.

rsync被kill掉是安全的,下次启动时还可以正常工作。

2、rsync不能指定时间段;

1)该问题可以通过kill来解决
2)或者使用pexpect的timeout参数来控制
3)可以先通过find查找过滤出文件夹的名字,然后使用rsync进行同步 这个可以根据现有业务的特征进行,比如:

find /tmp -name ‘*‘ -newermt ‘2016-03-08‘ ! -newermt ‘2016-03-20‘

3、rsync在写文件过程中同步(比如录音过程中执行rsync操作)

经测试,rsync会同步部分文件内容,文件写入完成后再执行rsync会保持文件的一致

4、当文件数量达到百万级以上时,rsync同步时扫描改变的文件非常耗时

本文github地址:

https://github.com/mike-zhang/mikeBlogEssays/blob/master/2016/20160818_使用rsync同步目录.md

欢迎补充

时间: 2024-10-12 11:38:21

使用rsync同步目录的相关文章

rsync同步目录

sudo rsync -ave ssh /home/daniel/sc [email protected]:/home/daniel/sc 如果提示无法mkdir,可能是权限的问题 ? 1 sudo chmod 777 /home/daniel/sc rsync同步目录,布布扣,bubuko.com

rsync同步目录及同步文件

最简单的只读同步工作. 一,服务端的配置 1,安装rsync(阿里云默认已有此程序) 略 2,生成文件rsyncd.conf,内容如下: #secrets file = /etc/rsyncd.secrets #motd file = /etc/rsyncd.motd read>list = yes uid = xx gid = xxt use chroot = no max connections = 5 log file = /var/log/rsyncd.log pid file = /v

rsync同步数据配置

安装yum install rsync 客户端和服务端一下操作1.关闭SELINUXvi /etc/selinux/config #编辑防火墙配置文件#SELINUX=enforcing #注释掉#SELINUXTYPE=targeted #注释掉SELINUX=disabled #增加 setenforce 0 #立即生效 2.开启防火墙tcp 873端口(Rsync默认端口)或者是关闭防火墙.vi /etc/sysconfig/iptables #编辑防火墙配置文件-A RH-Firewal

Linux使用rsync客户端与服务端同步目录进行备份

一.服务端设置 1. 修改 server 端配置 # vi /etc/rsyncd.conf 修改: uid = nobody                          # 该选项指定当该模块传输文件时守护进程应该具有的uid.默认值为”nobody”.gid = nobody                          # 该选项指定当该模块传输文件时守护进程应该具有的gid.默认值为”nobody”.max connections = 4                   

Rsync服务实时同步目录

-- sync 同步async 异步rsync 远程同步 rsync     remote sync    远程同步 拷贝和同步的区别? rsync  - faster, flexible replacement for rcp rsync  - a fast, versatile, remote (and local)       file-copying tool Wget - The non-interactive network down-loader. wget http://10.1

inotify+rsync多目录同步

系统:centos6.5 ip:10.19.21.241     被同步端 10.19.21.242     同步端 一.配置rsync(同步端) 1.安装rsync # yum install -y rsync 2.写rsync配置 # vi /etc/rsyncd.conf uid = root gid = root use chroot = no max connections = 0      #最大连接数不限制 log file = /var/log/rsyncd.log pid fi

Centos6.5 rsync同步备份

前言:本章主要讲解实现快速.安全.高效的异地备份 实验环境:服务端A 192.168.1.10   客户端B 192.168.1.20 一,安装rsync    yum  -y  install  rsync*   新建配置文件 vi /etc/rsyncd.conf uid = nobody gid = nobody use chroot = yes address = 192.168.1.10 port 873 log file = /var/log/rsyncd.log pid file

rsync同步Nginx日志遇到问题总结

一.目的 将nginx 日志通过普通用户利用rsync公钥认证的方式实时同步到本地服务器上,之后使用elk程序进行处理. 二.遇到问题及解决方法思路 问题1.文件权限:nginx 的日志默认权限如下: [[email protected] ~]# ll /var/log/nginx/access.log -rw-r----- 1 nginx adm 36330 Sep 11 10:26 /var/log/nginx/access.log 我新建的是普通用户,标准的用户组,用rsync同步时,报个

rsync同步数据

1. rsync 命令格式rsync [OPTION]... SRC DESTrsync [OPTION]... SRC [[email protected]]HOST:DESTrsync [OPTION]... [[email protected]]HOST:SRC DESTrsync [OPTION]... [[email protected]]HOST::SRC DESTrsync [OPTION]... SRC [[email protected]]HOST::DEST 2. rsync