zoukankan      html  css  js  c++  java
  • rsync同步(winxdows到linux/linux到linxu同步)

    1.什么是rsync?

    -rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步。

    -第一次同步时rsync会复制全部内容,但在下一次只传输修改过的文件。rsync在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。

    -安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。

    -支持匿名传输,以方便进行网站镜象。

    2.服务器端和客户端

    1).一对一,客户端和服务端和都可以相互同步,可以不区分,一般是服务端同步到客户端。

    2).一对多,一个服务端,多个客户端,客户端从服务端拷贝数据,保持数据一致。

    3.windows(服务端配置)

    首先要下载windows版的rsync

      rsync分为服务器端和客户端,以A(服务器端),B(客户端)2台服务器为例 A的IP地址为192.168.1.111 B的ip地址为192.168.1.123

      1,先配置服务器端,在服务器上安装cwRsyncServer_4.0.5_Installer.exe,安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装过程中rsync会自动建立一个叫做rsync的用户名,并且提示你输入这个用户的密码,这里很关键,这个密码一定要是你系统用户即adminstrator的密码,如果怕出错就不用管他直接点下一步,值得完成安装,这时打开你的服务检查下有没有一个RsyncServer的服务,如果没有的话就是那个用户密码的地方弄错了,建议卸载重新安装,如果有那就OK,最后检查下你的防火墙是否打开873端口

    rsync在windows下的安装和配置 三联

      上面的用户名和密码就是下面客户端所用到的账户,密码,以上就是服务器端的安装了,然后就是配置,找到你rsync的安装目录点击进去里面会有个rsyncd.conf的配置文件,用记事本的方式打开他,在文件最前面追加"uid = 0" "gid = 0" 2行,然后修改 "[]" 的内容,这里小编直接上图,有图更容易看懂

      怎么样,从图上来看很清楚把,然后在在服务里面找到 "RsyncServer" 修改为"自动开启" 并且将服务"启动".

      2,接下来是客户端,首先客户端先安装cwRsync_4.0.5_Install.exe,同样安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装完成后,新建一个txt文本文档,这里小编还是上图来说明

      --timeout参数,这个是一个超时设定,在服务器忙或者网络忙的时候rsync会出现同步到一半不动的情况,用了这个参数的话就可以设定他在你指定的时间内rsync没有进行操作则取消命令,这个在多台服务器同步的时候非常有用

      --exclude参数,排除你指定某个文件或者目录,这个不用多介绍了

      --delete参数,这个的意思是服务器端与客户端保持完全一致,客户段与服务端不同的文件客户端会进行删除操作,这里小编建议新手不要加上这个参数,如果服务端误操作删掉了文件那你所有的机器都会删掉这个文件,就会很麻烦,所以先可以不加这个参数

    4.linux(服务端)

    4.1 安装Rsync

    [root@localhost /]# cd /opt/install

    [root@localhost install]# tar zxvf rsync-3.0.7.tar.gz

    [root@localhost install]# cd rsync-3.0.7

    [root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync

    [root@localhost rsync-3.0.7]# make

    [root@localhost rsync-3.0.7]# make install

    安装完成后,在/opt/software/rsync中包含了安装的所有文件

    4.2 修改配置文件

    /opt/software/rsync目录中增加conf目录,然后在此目录中增加rsyncd.conf文件,文件内容如下:

     

    uid = 0

    gid = 0

    #监听端口(缺省为873,可以不用修改)

    port = 52326

    # 允许连接的客户端IP

    #hosts allow=192.168.0.0/24    

    # 拒绝访问的客户端IP             

    #hosts deny=0.0.0.0/32                      

    # 不使用chroot

    use chroot=no   

    # 最大连接数为100                            

    max connections=100                         

    # 欢迎信息文件名称和存放位置(此文件没有,可以自行添加)

    #motd file=/opt/software/rsync/conf/rsyncd.motd      

    # 指定rsyncpid文件          

    pid file=/var/run/rsyncd.pid  

    # 指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock              

    lock file=/var/run/rsync.lock        

    # 指定rsync的日志文件,而不将日志发送给syslog       

    log file=/var/log/rsyncd.log                

    #下面就是每个需要同步的模块的配置

    #需要同步的模块名称,在客户端同步时需要指定,根据实际需要进行修改

    [main]            

    # 需要同步的目录(根据实际情况进行修改,此处只是示例)                     

    path=/srv/www/app/cms/main                          

    comment=rsync files

    # 忽略无关的IO错误

    ignore errors     

    # 只读                            

    read only=yes  

    # 不允许列文件                             

    list=no              

    # 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔                       

    #auth users=thinkive     

    # 认证用户文件名                    

    secrets file=/opt/software/rsync/conf/rsyncd.pas                

    #同步的第二个模块名称,在客户端同步时需要指定,根据实际需要进行修改

    [upload]            

    # 需要同步的目录(根据实际情况进行修改,此处只是示例)                     

    path=/srv/www/app/cms/upload                          

    comment=rsync files

    # 忽略无关的IO错误

    ignore errors     

    # 只读                            

    read only=yes  

    # 不允许列文件                             

    list=no              

    # 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔                       

    #auth users=thinkive     

    # 认证用户文件名                    

    secrets file=/opt/software/rsync/conf/rsyncd.pas   

    4.3 配置密码认证文件

    /opt/software/rsync/conf目录中创建rsyncd.pas文件

    然后在文件中加入如下内容:

    thinkive:thinkive

    4.4 启动服务器

    [root@localhost /]# cd /opt/software/rsync/bin/

    [root@localhost bin]# ./rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf 

    [root@localhost bin]# ps –ef | grep rsync

    检查服务是否已经启动

    以服务器方式启动在52326端口(缺省为873端口,若不指定配置文件路径,则缺省配置文件从/etc/rsyncd.conf读取)

    如果要在一台机器上启动多个同步服务进程,可给定不同的--config --port

    若要随机启动,则可以把此代码加入到/etc/rc.local

    /opt/software/rsync/bin/rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf

    5.linux(客户端)

    5.1 安装Rsync

    [root@localhost /]# cd /opt/install

    [root@localhost install]# tar zxvf rsync-3.0.7.tar.gz

    [root@localhost install]# cd rsync-3.0.7

    [root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync

    [root@localhost rsync-3.0.7]# make

    [root@localhost rsync-3.0.7]# make install

    安装完成后,在/opt/software/rsync中包含了安装的所有文件

    5.2 配置密码认证文件

      /opt目录中创建文件名为/rsync.pas 的密码认证文件(密码文件路径和文件名称可自行修改),然后在此文件中添加如下用户密码(必须和服务器端配置的用户密码一致)

      thinkive

      修改该文件的权限

    chmod  600  rsync.pas

    5.3 执行同步命令

    [root@localhost /]# cd /opt/software/rsync/bin

    [root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main

    [root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload

    详细参数说明:

    z是压缩传输,

    r递归同步

    topg都是保持文件原有属性如属主、时间的参数。

    u是只同步已经更新的文件,避免没有更新的文件被重复更新一次,不过要注意两者机器的时钟的同步。

    –progress是指显示出详细的进度情况,

    –delete是指如果服务器端删除了这一文件,那么客户端也相应把文件删除,保持真正的一致。

    --port 指定访问的端口

    后面的thinkive@192.168.1.108::data中,之后的data是模块名,也就是在rsyncd.conf中自定义的名称,thinkive是指定模块中指定的可以同步的用户名。

    –password-file=/opt/rsync.pas指定密码文件,这样就可以在脚本中使用而无需交互式地输入验证密码了,这里需要注意的是这份密码文件权限属性要设得只有属主可读。

    /opt/install_bak是备份到本地的目录名,根据具体的需求填写

    5.4 生成同步的脚本

    脚本文件位置可以自定,此处假设在/opt/rsync.sh

    DATE=`date +%Y%m%d`

    cd /opt/software/rsync/bin

    ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main  >>  /opt/software/rsync/log/rsync_main.$DATE.log

    ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload  >>  /opt/software/rsync/log/rsync_upload.$DATE.log

    上面每天会生成一个日志

    赋予权限 chmod 777 /opt/rsync.sh

    5.5 加入到定时器中

       */1  *  *  *  *  root  /opt/rsync.sh

    加入到/etc/crontab中,然后使用如下命令重新启动crond

    service crond restart

    上面定时任务表示每分钟增量同步一次数据。

     

     具体可以参见linux添加定时任务crond

    6.注意问题

    数据同步软件主要是根据时间进行数据的增量同步,所以必须主服务器和客户端之间的机器的时间不能相差太远,否则可能导致数据不能正确的同步。

    7.Rsync命令参数详解

    rsync是一个功能非常强大的工具,其命令也有很多功能特色选项,我们下面就对它的选项一一进行分析说明。Rsync的命令格式可以为以下六种:

      rsync [OPTION]... SRC DEST

      rsync [OPTION]... SRC [USER@]HOST:DEST

      rsync [OPTION]... [USER@]HOST:SRC DEST

      rsync [OPTION]... [USER@]HOST::SRC DEST

      rsync [OPTION]... SRC [USER@]HOST::DEST

      rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

     

      对应于以上六种命令格式,rsync有六种不同的工作模式:

      1)拷贝本地文件。当SRCDES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如:rsync -a /data /backup

      2)使用一个远程shell程序(rshssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如:rsync -avz *.c foo:src

      3)使用一个远程shell程序(rshssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如:rsync -avz foo:src/bar /data

      4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如:rsync -av root@172.16.78.192::www /databack

      5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如:rsync -av /databack root@172.16.78.192::www

    6)列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。如:rsync -v rsync://172.16.78.192/www

    rsync参数的具体解释如下:

    -v, --verbose 详细模式输出

    -q, --quiet 精简输出模式

    -c, --checksum 打开校验开关,强制对文件传输进行校验

    -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD

    -r, --recursive 对子目录以递归模式处理

    -R, --relative 使用相对路径信息

    -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

    --backup-dir 将备份文件(~filename)存放在在目录下。

    -suffix=SUFFIX 定义备份文件前缀

    -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)

    -l, --links 保留软链结

    -L, --copy-links 想对待常规文件一样处理软链结

    --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

    --safe-links 忽略指向SRC路径目录树以外的链结

    -H, --hard-links 保留硬链结     -p, --perms 保持文件权限

    -o, --owner 保持文件属主信息     -g, --group 保持文件属组信息

    -D, --devices 保持设备文件信息    -t, --times 保持文件时间信息

    -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

    -n, --dry-run现实哪些文件将被传输

    -W, --whole-file 拷贝文件,不进行增量检测

    -x, --one-file-system 不要跨越文件系统边界

    -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节

    -e, --rsh=COMMAND 指定使用rshssh方式进行数据同步

    --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

    -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件

    --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件

    --delete 删除那些DSTSRC没有的文件

    --delete-excluded 同样删除接收端那些被该选项指定排除的文件

    --delete-after 传输结束以后再删除

    --ignore-errors 及时出现IO错误也进行删除

    --max-delete=NUM 最多删除NUM个文件

    --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输

    --force 强制删除目录,即使不为空

    --numeric-ids 不将数字的用户和组ID匹配为用户名和组名

    --timeout=TIME IP超时时间,单位为秒

    -I, --ignore-times 不跳过那些有同样的时间和长度的文件

    --size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间

    --modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0

    -T --temp-dir=DIR DIR中创建临时文件

    --compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

    -P 等同于 --partial

    --progress 显示备份过程

    -z, --compress 对备份的文件在传输时进行压缩处理

    --exclude=PATTERN 指定排除不需要传输的文件模式

    --include=PATTERN 指定不排除而需要传输的文件模式

    --exclude-from=FILE 排除FILE中指定模式的文件

    --include-from=FILE 不排除FILE指定模式匹配的文件

    --version 打印版本信息

    --address 绑定到特定的地址

    --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件

    --port=PORT 指定其他的rsync服务端口

    --blocking-io 对远程shell使用阻塞IO

    -stats 给出某些文件的传输状态

    --progress 在传输时现实传输过程

    --log-format=formAT 指定日志文件格式

    --password-file=FILE FILE中得到密码

    --bwlimit=KBPS 限制I/O带宽,KBytes per second      -h, --help 显示帮助信息

     

  • 相关阅读:
    《HTTP 权威指南》笔记:第十二章 基本认证体制
    os模块,序列化模块
    常用模块,时间模块,sys模块
    random模块
    re模块
    正则表达式
    模块和包
    内置方法及模块初识,set的hash算法面试题
    fromkeys,eval,join的使用
    反射及内置方法
  • 原文地址:https://www.cnblogs.com/wangzhuxing/p/6170056.html
Copyright © 2011-2022 走看看