0x00 rsync 简介
Rsync（remote synchronize）是一个远程数据同步工具，可通过LAN/WAN快速同步多台主机间的文件，也可以使用 Rsync 同步本地硬盘中的不同目录。
Rsync 是用于取代rcp的一个工具，Rsync使用所谓的 “Rsync 算法” 来使本地和远程两个主机之间的文件达到同步，这个算法只传送两个文件的不同部分，而不是每次都整份传送，因此速度相当快。您可以参考 How Rsync Works A Practical Overview 进一步了解 rsync 的运作机制。
Rsync支持大多数的类Unix系统，无论是Linux、Solaris还是BSD上都经过了良好的测试。此外，它在windows平台下也有相应的版本，比较知名的有cwRsync和Sync2NAS。
Rsync 的初始作者是 Andrew Tridgell 和 Paul Mackerras，它当前由 http://rsync.samba.org维护。
Rsync的基本特点如下：
1. 可以镜像保存整个目录树和文件系统；
2. 可以很容易做到保持原来文件的权限、时间、软硬链接等；
3. 无须特殊权限即可安装；
4. 优化的流程，文件传输效率高；
5. 可以使用rcp、ssh等方式来传输文件，当然也可以通过直接的socket连接；
6. 支持匿名传输，以方便进行网站镜像。
在使用 rsync 进行远程同步时，可以使用两种方式：远程 Shell 方式（建议使用 ssh，用户验证由 ssh 负责）和 C/S 方式（即客户连接远程 rsync 服务器，用户验证由 rsync 服务器负责）。
无论本地同步目录还是远程同步数据，首次运行时将会把全部文件拷贝一次，以后再运行时将只拷贝有变化的文件（对于新文件）或文件的变化部分（对于原有文件）。
rsync 在首次复制时没有速度优势，速度不如 tar，因此当数据量很大时您可以考虑先使用 tar 进行首次复制，然后再使用 rsync 进行数据同步。
0x01 系统环境
系统平台：CentOS release 6.3 (Final)
rsync 版本：rsync-3.0.9-2.el6.rfx.x86_64.rpm
rsync 客户端：TS-CLIENT （172.16.1.136）
0x02 服务器端安装rsync服务
3.1. 检查rsync 是否已经安装
# rpm -qa|grep rsync
若已经安装，则使用rpm -e 命令卸载。
3.2. 下载RPM包
# wget http://pkgs.repoforge.org/rsync/rsync-3.0.9-2.el6.rfx.x86_64.rpm
3.3. 安装rsync
# rpm -ivh rsync-3.0.9-2.el6.rfx.x86_64.rpm
0x03 配置 rsync 服务
4.1. 配置 rsync 服务器的步骤
-
首先要选择服务器启动方式
-
对于负荷较重的 rsync 服务器应该使用独立运行方式
-
对于负荷较轻的 rsync 服务器可以使用 xinetd 运行方式
-
-
创建配置文件 rsyncd.conf
-
对于非匿名访问的 rsync 服务器还要创建认证口令文件
4.2. 以 xinetd 运行 rsync 服务
CentOS 默认以 xinetd 方式运行 rsync 服务。rsync 的 xinetd 配置文件 在 /etc/xinetd.d/rsync。要配置以 xinetd 运行的 rsync 服务需要执行如下的命令：
# chkconfig rsync on # service xinetd restart
管理员可以修改 /etc/xinetd.d/rsync 配置文件以适合您的需要。例如，您可以修改配置行
server_args = --daemon
在后面添加 rsync 的服务选项。
4.3. 独立运行 rsync 服务
最简单的独立运行 rsync 服务的方法是执行如下的命令：
# /usr/bin/rsync --daemon
您可以将上面的命令写入 /etc/rc.local 文件以便在每次启动服务器时运行 rsync 服务。当然，您也可以写一个脚本在开机时自动启动 rysnc 服务。
4.4. 配置文件 rsyncd.conf
两种 rsync 服务运行方式都需要配置 rsyncd.conf，其格式类似于 samba 的主配置文件。 配置文件 rsyncd.conf 默认在 /etc 目录下。为了将所有与 rsync 服务相关的文件放在单独的目录下，可以执行如下命令：
# mkdir /etc/rsyncd # touch /etc/rsyncd/rsyncd.conf # ln -s /etc/rsyncd/rsyncd.conf /etc/rsyncd.conf
配置文件 rsyncd.conf 由全局配置和若干模块配置组成。配置文件的语法为：
-
模块以 [模块名] 开始
-
参数配置行的格式是 name = value ，其中 value 可以有两种数据类型：
-
字符串（可以不用引号定界字符串）
-
布尔值（1/0 或 yes/no 或 true/false）
-
-
以 # 或 ; 开始的行为注释
-
为续行符
全局参数
在文件中 [module] 之外的所有配置行都是全局参数。当然也可以在全局参数部分定义模块参数，这时该参数的值就是所有模块的默认值。
| 参数 | 说明 | 默认值 |
|---|---|---|
| address | 在独立运行时，用于指定的服务器运行的 IP 地址。由 xinetd 运行时将忽略此参数，使用命令行上的 –address 选项替代。 | 本地所有IP |
| port | 指定 rsync 守护进程监听的端口号。 由 xinetd 运行时将忽略此参数，使用命令行上的–port 选项替代。 | 873 |
| motd file | 指定一个消息文件，当客户连接服务器时该文件的内容显示给客户。 | 无 |
| pid file | rsync 的守护进程将其 PID 写入指定的文件。 | 无 |
| log file | 指定 rsync 守护进程的日志文件，而不将日志发送给 syslog。 | 无 |
| syslog facility | 指定 rsync 发送日志消息给 syslog 时的消息级别。 | daemon |
| socket options | 指定自定义 TCP 选项。 | 无 |
模块参数
模块参数主要用于定义 rsync 服务器哪个目录要被同步。模块声明的格式必须为 [module] 形式，这个名字就是在 rsync 客户端看到的名字，类似于 Samba 服务器提供的共享名。而服务器真正同步的数据是通过 path 来指定的。可以根据自己的需要，来指定多个模块，模块中可以定义以下参数：
a. 基本模块参数
| 参数 | 说明 | 默认值 |
|---|---|---|
| path | 指定当前模块在 rsync 服务器上的同步路径，该参数是必须指定的。 | 无 |
| comment | 给模块指定一个描述，该描述连同模块名在客户连接得到模块列表时显示给客户。 | 无 |
b. 模块控制参数
| 参数 | 说明 | 默认值 |
|---|---|---|
| use chroot | 若为 true，则 rsync 在传输文件之前首先 chroot 到 path 参数所指定的目录下。这样做的原因是实现额外的安全防护，但是缺点是需要 root 权限，并且不能备份指向 path 外部的符号连接所指向的目录文件。 | true |
| uid | 指定该模块以指定的 UID 传输文件。 | nobody |
| gid | 指定该模块以指定的 GID 传输文件。 | nobody |
| max connections | 指定该模块的最大并发连接数量以保护服务器，超过限制的连接请求将被告知随后再试。 | 0（没有限制） |
| lock file | 指定支持 max connections 参数的锁文件。 | /var/run/rsyncd.lock |
| list | 指定当客户请求列出可以使用的模块列表时，该模块是否应该被列出。如果设置该选项为 false，可以创建隐藏的模块。 | true |
| read only | 指定是否允许客户上传文件。若为 true 则不允许上传；若为 false 并且服务器目录也具有读写权限则允许上传。 | true |
| write only | 指定是否允许客户下载文件。若为 true 则不允许下载；若为 false 并且服务器目录也具有读权限则允许下载。 | false |
| ignore errors | 指定在 rsync 服务器上运行 delete 操作时是否忽略 I/O 错误。一般来说 rsync 在出现 I/O 错误时将将跳过 –delete 操作，以防止因为暂时的资源不足或其它 I/O 错误导致的严重问题。 | true |
| ignore nonreadable | 指定 rysnc 服务器完全忽略那些用户没有访问权限的文件。这对于在需要备份的目录中有些不应该被备份者获得的文件时是有意义的。 | false |
| timeout | 该选项可以覆盖客户指定的 IP 超时时间。从而确保 rsync 服务器不会永远等待一个崩溃的客户端。对于匿名 rsync 服务器来说，理想的数字是 600（单位为秒）。 | 0 (未限制) |
| dont compress | 用来指定那些在传输之前不进行压缩处理的文件。该选项可以定义一些不允许客户对该模块使用的命令选项列表。必须使用选项全名，而不能是简称。当发生拒绝某个选项的情况时，服务器将报告错误信息然后退出。例如，要防止使用压缩，应该是：”dont compress = *”。 | *.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz |
c. 模块文件筛选参数
| 参数 | 说明 | 默认值 |
|---|---|---|
| exclude | 指定多个由空格隔开的多个文件或目录(相对路径)，并将其添加到 exclude 列表中。这等同于在客户端命令中使用 –exclude 来指定模式。 | 空 |
| exclude from | 指定一个包含 exclude 规则定义的文件名，服务器从该文件中读取 exclude 列表定义。 | 空 |
| include | 指定多个由空格隔开的多个文件或目录(相对路径)，并将其添加到 include 列表中。这等同于在客户端命令中使用 –include 来指定模式 。 | 空 |
| include from | 指定一个包含 include 规则定义的文件名，服务器从该文件中读取 include 列表定义。 | 空 |
- 一个模块只能指定一个exclude 参数、一个include 参数。
- 结合 include 和 exclude 可以定义复杂的exclude/include 规则 。
- 这几个参数分别与相应的rsync 客户命令选项等价，唯一不同的是它们作用在服务器端。
- 关于如何书写规则文件的内容请参考http://www.howtocn.org/rsync:use_rsync。
d. 模块用户认证参数
| 参数 | 说明 | 默认值 |
|---|---|---|
| auth users | 指定由空格或逗号分隔的用户名列表，只有这些用户才允许连接该模块。这里的用户和系统用户没有任何关系。用户名和口令以明文方式存放在 secrets file 参数指定的文件中。 | (匿名方式) |
| secrets file | 指定一个 rsync 认证口令文件。只有在 auth users 被定义时，该文件才起作用。 | 空 |
| strict modes | 指定是否监测口令文件的权限。若为 true 则口令文件只能被 rsync 服务器运行身份的用户访问，其他任何用户不可以访问该文件。 | true |
- rsync 认证口令文件的权限一定是 600，否则客户端将不能连接服务器。
- rsync 认证口令文件中每一行指定一个 用户名:口令 对，格式为：
username:passwd
- 一般来说口令最好不要超过8个字符。若您只配置匿名访问的 rsync 服务器，则无需设置上述参数。
e. 模块访问控制参数
| 参数 | 说明 | 默认值 |
|---|---|---|
| hosts allow | 用一个主机列表指定哪些主机客户允许连接该模块。不匹配主机列表的主机将被拒绝。 | * |
| hosts deny | 用一个主机列表指定哪些主机客户不允许连接该模块。 | 空 |
客户主机列表定义可以是以下形式：
- 单个IP地址。例如：192.168.0.1
- 整个网段。例如：192.168.0.0/24，192.168.0.0/255.255.255.0
- 可解析的单个主机名。例如：centos，centos.bsmart.cn
- 域内的所有主机。例如：*.bsmart.cn
- “*”则表示所有。
- 多个列表项要用空格间隔。
f. 模块日志参数
| 参数 | 说明 | 默认值 |
|---|---|---|
| transfer logging | 使 rsync 服务器将传输操作记录到传输日志文件。 | false |
| log format | 指定传输日志文件的字段。 | ”%o %h [%a] %m (%u) %f %l” |
设置了”log file”参数时，在日志每行的开始会添加”%t [%p]“。
- %a - 远程IP地址
- %h - 远程主机名
- %l - 文件长度字符数
- %p - 该次 rsync 会话的 PID
- %o - 操作类型：”send” 或 “recv”
- %f - 文件名
- %P - 模块路径
- %m - 模块名
- %t - 当前时间
- %u - 认证的用户名（匿名时是 null）
- %b - 实际传输的字节数
- %c - 当发送文件时，记录该文件的校验码
0x04 rsync 服务器应用案例
5.1. 在服务器端TS-DEV上配置rsync 服务
a. 编辑配置文件
# vi /etc/rsyncd/rsyncd.conf
# Minimal configuration file for rsync daemon # See rsync(1) and rsyncd.conf(5) man pages for help # This line is required by the /etc/init.d/rsyncd script # GLOBAL OPTIONS uid = root gid = root use chroot = no read only = yes #limit access to private LANs hosts allow=172.16.0.0/255.255.0.0 192.168.1.0/255.255.255.0 10.0.1.0/255.255.255.0 hosts deny=* max connections = 5 pid file = /var/run/rsyncd.pid secrets file = /etc/rsyncd/rsyncd.secrets #lock file = /var/run/rsync.lock motd file = /etc/rsyncd/rsyncd.motd #This will give you a separate log file log file = /var/log/rsync.log #This will log every file transferred - up to 85,000+ per user, per sync transfer logging = yes log format = %t %a %m %f %b syslog facility = local3 timeout = 300 # MODULE OPTIONS [davidhome] path = /home/david/ list=yes ignore errors auth users = rsync comment = David home exclude = important/ [chinatmp] path = /tmp/china/ list=no ignore errors auth users = comment = tmp_china
b. 建立/etc/rsyncd/rsyncd.secrets文件
#cat /etc/rsyncd/rsyncd.secrets rsync:123456
rsync:123456 #格式 用户名:口令 china:jk #该用户不要求是系统用户
c. 为了密码的安全性，我们必须把权限设为600
# chown root:root /etc/rsyncd/rsyncd.secrets # chmod 600 /etc/rsyncd/rsyncd.secrets
d. 建立连接到服务器的客户端看到的欢迎信息文件/etc/rsyncd/rsyncd.motd
# vim /etc/rsyncd/rsyncd.motd
+++++++++++++++++++++++++++ + David Camp + +++++++++++++++++++++++++++
e. 启动rsync
# /etc/init.d/xinetd restart
f. 查看873端口是否起来
# netstat -an | grep 873
如果rsync启动成功的话可以看到873端口已经在监听了。
g. 服务器端文件详细
5.2. 客户端配置
a. 客户端安装rsync
# yum -y install rsync
b. 通过rsync客户端来同步数据
场景一：
# rsync -avzP rsync@172.16.1.135::davidhome /tmp/david/
Password: 这里要输入rsync的密码，是服务器端提供的，在前面的例子中，我们用的是 asdf，输入的密码并不显示出来；输好后就回车； 注： 这个命令的意思就是说，用rsync 用户登录到服务器上，把davidhome数据，同步到本地目录/tmp/david/上。当然本地的目录是可以你自己定义的，比如 dave也是可以的；当你在客户端上，当前操作的目录下没有davidhome这个目录时，系统会自动为你创建一个；当存在davidhome这个目录中，你要注意它的写权限。
说明：
-a 参数，相当于-rlptgoD， -r 是递归 -l 是链接文件，意思是拷贝链接文件； -p 表示保持文件原有权限； -t 保持文件原有时间；
-g 保持文件原有用户组； -o 保持文件原有属主； -D 相当于块设备文件； -z 传输时压缩； -P 传输进度； -v 传输时的进度等信息，和-P有点关系
场景二：
# rsync -avzP --delete david@172.16.1.135::davidhome /tmp/david/
这回我们引入一个 –delete 选项，表示服务器上的数据要与客户端完全一致，如果 /tmp/david/目录中有服务器上不存在的文件，则删除。最终目的是让/tmp/david/目录上的数据完全与服务器上保持一致；用的时候要小心点，最好不要把已经有重要数所据的目录，当做本地更新目录，否则会把你的数据全部删除；
场景三： # rsync -avzP --delete --password-file=/tmp/rsync.password david@172.16.1.135::davidhome /tmp/david/
这次我们加了一个选项 –password-file=rsync.password ，这时当我们以david用户登录rsync服务器同步数据时，密码将读取 /tmp/rsync.password 这个文件。这个文件内容只是david用户的密码。我们要如下做；
# touch /tmp/rsync.password # chmod 600 /tmp/rsync.password # echo "123456"> /tmp/rsync.password # rsync -avzP --delete --password-file=/tmp/rsync.password rsync@172.16.1.135::davidhome /tmp/david/
注： 这样就不需要密码了；其实这是比较重要的，因为服务器通过crond 计划任务还是有必要的；
5.3. rsync 客户端自动与服务器同步数据
编辑crontab # crontab -e 加入如下代码：
10 0 * * * rsync -avzP --delete --password-file=/tmp/rsync.password rsync@172.16.1.135::davidhome /tmp/david/
表示每天0点10分执行后面的命令。
六、错误分析
rsync: opendir "." (in xxxxxxx) failed: Permission denied (13)
解决办法：
1、将 selinux 对 rsync 的限制全部去掉：
# /usr/sbin/setsebool -P rsync_disable_trans 1 # service xinetd restart
2、狠一点，禁止整个 selinux ：将其中修改保存退出后，重启机器。
#cat /etc/selinux/config
SELINUX=disabled