rsync远程同步

介绍

rsync是类unix系统下的数据镜像备份工具，从软件的命名上就可以看出来了——remote sync。它的特性如下：

• 可以镜像保存整个目录树和文件系统。
• 可以很容易做到保持原来文件的权限、时间、软硬链接等等。
• 无须特殊权限即可安装。
• 优化的流程，文件传输效率高。
• 可以使用rcp、ssh等方式来传输文件，当然也可以通过直接的socket连接。
• 支持匿名传输，以方便进行网站镜象。

软件下载

• rysnc的主页地址为:http://rsync.samba.org/
• 源码包下载地址：http://rsync.samba.org/ftp/rsync/

安装与使用

安装与基本配置

1.安装

[root@rsync ~]# yum -y install rsync      //yum安装

2.创建备份账号数据文件(无须建立同名的系统用户)

[root@rsync ~]# vim /etc/rsyncd_users.db
backuper:123.com            //用户名和密码使用':'分隔
[root@rsync ~]# chmod 600 /etc/rsyncd_users.db         //必须设置为600，否则客户端认证失败

3.创建rsync配置文件(系统中无此文件（rsyncs.conf），需手动创建)

[root@rsync ~]# vim /etc/rsyncd.conf
uid = nobody
gid = nobody
use chroot = yes                            //禁锢在源目录
address = 192.168.10.1                            //监听地址
port 873                                //监听端口
log file = /var/log/rsyncd.log                        //日志文件位置
pid file = /var/run/rsyncd.pid                        //存放进程ID的文件位置
hosts allow = 192.168.10.0/24                        //允许访问的客户机地址
[www]                                    //共享模块的名称
    path = /www                                //源目录的实际路径
    comment = Web Server root directory                    //描述
    read only = yes                            //是否为只读(上行改为no)
    dont commpress = *.gz *.bz2 *.tgz *.zip *.rar *.z            //同步时不在压缩的文件类型
    auth users = backuper                        //授权账户
    secrets file = /etc/rsyncd_users.db                    //存放账户信息的数据文件

4.服务控制

1)启动服务(使用--daemon选项，以服务器模式启动)

[root@rsync ~]# rsync --daemon
[root@rsync ~]# netstat -anpt | grep rsync
tcp        0      0 192.168.10.1:873            0.0.0.0:*                   LISTEN      2850/rsync  

2)停止服务

[root@rsync ~]# killall -9 rsync

重新启动服务时，报错

[root@rsync ~]# rsync --daemon
rsync: --deamon: unknown option
rsync error: syntax or usage error (code 1) at main.c(1422) [client=3.0.6]

解决方法：

删除rsync的pid文件之后，启动服务

[root@localhost ~]# rm -rf /var/run/rsyncd.pid 
[root@localhost ~]# rsync --deamon
rsync: --deamon: unknown option
rsync error: syntax or usage error (code 1) at main.c(1422) [client=3.0.6]
[root@localhost ~]# netstat -anpt | grep rsync
[root@localhost ~]# rsync --daemon
[root@localhost ~]# netstat -anpt | grep rsync
tcp        0      0 192.168.10.1:873            0.0.0.0:*                   LISTEN      30868/rsync         

使用

选项：详细请参考：http://man.linuxde.net/rsync

-v, --verbose 详细模式输出
-q, --quiet 精简输出模式
-c, --checksum 打开校验开关，强制对文件传输进行校验
-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD
-r, --recursive 对子目录以递归模式处理
-R, --relative 使用相对路径信息
-b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀
-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links 保留软链结
-L, --copy-links 想对待常规文件一样处理软链结
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
--safe-links 忽略指向SRC路径目录树以外的链结
-H, --hard-links 保留硬链结
-p, --perms 保持文件权限
-o, --owner 保持文件属主信息
-g, --group 保持文件属组信息
-D, --devices 保持设备文件信息
-t, --times 保持文件时间信息
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run现实哪些文件将被传输
-W, --whole-file 拷贝文件，不进行增量检测
-x, --one-file-system 不要跨越文件系统边界
-B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节
-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件
--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件
--delete 删除那些DST中SRC没有的文件
--delete-excluded 同样删除接收端那些被该选项指定排除的文件
--delete-after 传输结束以后再删除
--ignore-errors 及时出现IO错误也进行删除
--max-delete=NUM 最多删除NUM个文件
--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输
--force 强制删除目录，即使不为空
--numeric-ids 不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP超时时间，单位为秒
-I, --ignore-times 不跳过那些有同样的时间和长度的文件
--size-only 当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0
-T --temp-dir=DIR 在DIR中创建临时文件
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
-P 等同于 --partial
--progress 显示备份过程
-z, --compress 对备份的文件在传输时进行压缩处理
--exclude=PATTERN 指定排除不需要传输的文件模式
--include=PATTERN 指定不排除而需要传输的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 绑定到特定的地址
--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件
--port=PORT 指定其他的rsync服务端口
--blocking-io 对远程shell使用阻塞IO
-stats 给出某些文件的传输状态
--progress 在传输时现实传输过程
--log-format=formAT 指定日志文件格式
--password-file=FILE 从FILE中得到密码
--bwlimit=KBPS 限制I/O带宽，KBytes per second
-h, --help 显示帮助信息

1.最简单的rsync用法类似于cp命令(本地传输)，例如：将文件/etc/fstab 和 /boot/grub 同步备份到 /opt/目录下

[root@rsync ~]# rsync -rl /etc/fstab /boot/grub/ /opt/

2.下行，使用客户端将rsync服务器下的www共享模块下的内容同步到，本地的/www目录下(共享模块下的真实共享路径需要对other用户具有 'r' 权限)

第一种格式："用户名@主机地址：：共享模块名"

[root@rsyncClient ~]# rsync -avz backuper@192.168.10.1::www /www

第二种格式："rsync://用户名@主机地址/共享模块名"

[root@rsyncClient ~]# rsync -avz rsync://backuper@192.168.10.1/www /www

3.上行，将客户端/www目录下的内容备份到rsync服务器中的www模块中

注意：rsync服务器需要开启上传的权限

修改rsync服务器的配置文件，给共享模块下的真实共享目录的other用户设置'w'权限(757)

[root@rsync ~]# chmod 757 /www/
[root@rsync ~]# vim /etc/rsyncd.conf 
 read only = no            //改为no

[root@rsyncClient ~]# rsync -avz  /www/ backuper@192.168.10.1::www

4.增量备份(使用--delete选项)

[root@rsyncClient ~]# rsync -avz --delete  /www/ backuper@192.168.10.1::www

5.计划任务备份

创建密码文件，使用--password-file参数指定密码文件，执行计划任务备份

1)创建密码文件

[root@RsyncClient ~]# vim /etc/rsyncd_pw.db
123.com
[root@RsyncClient ~]# chmod 600 /etc/rsyncd_pw.db 

2)创建计划任务

[root@rsyncClient ~]# crontab -e
30 23 * * * /usr/bin/rsync -az --delete --password-file=/etc/rsyncd_pw.db /www backuper@192.168.10.1::www
[root@rsyncClient ~]# service crond restart

 rsync+inotify实时同步

 1.调整内核参数

在Linux内核中，默认的inotify机制提供了三个调控参数：max_queue_events、max_user_instances、max_user_watches，分别表示监控事件队列(16384)、最多监控实例数(128)、每个实例最多监控文件数(8192)

[root@rsyncClient ~]# cat /proc/sys/fs/inotify/max_queued_events 
16384
[root@rsyncClient ~]# cat /proc/sys/fs/inotify/max_user_instances 
128
[root@rsyncClient ~]# cat /proc/sys/fs/inotify/max_user_watches 
8192

 修改/etc/sysctl.conf文件

[root@rsyncClient ~]# vim /etc/sysctl.conf 
添加：
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576
[root@rsyncClient ~]# sysctl -p

2. 安装inotify-tools

提供inotifywait、inotifywatch工具

下载地址：https://github.com/rvoicilas/inotify-tools/wiki

[root@rsyncClient ~]# tar zxvf inotify-tools-3.14.tar.gz -C /usr/src/
[root@rsyncClient ~]# cd /usr/src/inotify-tools-3.14/
[root@localhost inotify-tools-3.14]# ./configure && make && make install

3.使用

这里以监控/var/www/html目录为例

[root@rsyncClient ~]# inotifywait -mrq -e modify,create,move,delete /var/www/html/

-e：用来指定监控哪些事件；

　　modify(修改)、create(创建)、move(移动)、delete(删除)、attrib(属性改动)

-m：表示持续监控；

-f：表示递归整个目录;

-q：简化输出信息；

inotifywatch可以用来收集文件系统的变动情况，并在运行结束后输出汇总的变化情况

使用详情参考：http://man.linuxde.net/inotifywait

4.编写触发式同步脚本

[root@rsyncClient~]# vim intoify_rsync.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /var/www/html/"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/rsyncd_pw.db /var/www/html/ backuper@192.168.10.1::www"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then
        $RSYNC_CMD
    fi
done
[root@rsyncClient~]# chmd +x intoify_rsync.sh