zoukankan      html  css  js  c++  java
  • rsync命令 SCP命令

     快速查询scp:

        scp  各种参数   源地址文件    目的地址文件
      从本地复制到远程:
           scp   [[user@]host1:]file1 ... [[user@]host2:]file2
               本地用户名、地址、文件  远程用户名、地址、文件
               host可以用ip,也可以用域名(dns可以解析)
         可以省略本地信息:
          scp  file1 ... [[user@]host2:]file2
          也可以省略本地信息和远程用户信息:
          scp local_file remote_ip:remote_file 

     从远程复制到本地:
            scp   [[user@]host1:]remote_file ... [[user@]host2:local_file
                   远程用户名、地址、文件         本地用户名、地址、文件
               host可以用ip,也可以用域名(dns可以解析)
         可以省略本地信息:
          scp [[user@]host2:]remote_file  local_file ... 
          也可以省略本地信息和远程用户信息:
          scp  remote_ip:remote_file local_file





    快速查询 rsync
    rsync [OPTION]... SRC DEST                 本机到本机   
       
    rsync [OPTION]... SRC [USER@]host:DEST     本机到远端(ssh shell 方式)
    rsync [OPTION]... [USER@]HOST:SRC DEST     远端到本机(ssh shell 方式)
    
    rsync [OPTION]... [USER@]HOST::SRC DEST    远端到本机 (rsync  服务进程方式)
    rsync [OPTION]... SRC [USER@]HOST::DEST    本机到远端 (rsync 服务进程方式)
    
    rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
     例子:rsync -aqe 'ssh -p 24 ' 10.11.0.45:/var/www/webroot/supp/upload/ /datepc/supp/upload

    其中:
    在指定复制源SRC时,路径是否有最后的 “/” 有不同的含义,例如:

    /home : 表示将整个 /home 目录复制到目标目录
    /home/ : 表示将 /home 目录中的所有内容复制到目标目录

    如果目标 DEST 不存在,则自动创建

    SRC: 是要复制的源位置
    DEST: 是复制目标位置
    若本地登录用户与远程主机上的用户一致,可以省略 USER@
    当访问 rsync 服务器时也可以使用 rsync:// URL
    当进行“拉”复制时,若指定一个 SRC 且省略 DEST,则只列出资源而不进行复制

    [OPTION...]参数
    如:
    rsync -avzP apache@10.0.7.211::hadoop /backup

    说明:
    同步模块: [rsyncd.conf中那个方括号里的内容]
    -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD。 
              -r 是递归     -l 是链接文件,意思是拷贝链接文件;-p 表示保持文件原有权限;
             -t 保持文件原有时间;-g 保持文件原有用户组;-o 保持文件原有属主;-D 相当于块设备文件;
     -z 传输时压缩;
     -v, --verbose 详细模式输出。
     -q, --quiet 精简输出模式。
     -P  --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
     -c, --checksum 打开校验开关,强制对文件传输进行校验。 
     -R, --relative 使用相对路径信息。 
     -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。
           可以使用--suffix选项来指定不同的备份文件前缀。-z 传输时压缩;-v, --verbose 详细模式输出。
     -e  --rsh=command 指定使用rsh、ssh方式进行数据同步    例:rsync -ae 'ssh -p port'
     --progress 显示备份过程

     --password-file=FILE    从FILE文件中得到密码

    --exclude           指定排除不需要传输的文件(夹)   (必须相对路径)      --exclude='file'    --exclude='file/123'  
    --exclude-from=/exclude.list       指定排除不需要传输的文件列表     (绝对路径)
       
        比如 我想避开log文件夹,list中的1文件夹,和fire打头的文件    那么/exclude.list 写为 
                    log 
                    list/1
                    fire* 
    --include                               指定排除不需要传输的文件                      rsync -a --exclude='file'  (相对路径)
    --include-from=/exclude.list  指定排除不需要传输的文件列表               (绝对路径)
    (如果同时使用exclude和include,include命令在前)

    --files-from="includes。txt" 只同步指定的目录清单  



            进入正题:
            rsync是类unix系统下的数据镜像备份工具。
            使用快速增量备份工具Remote Sync可以远程同步,支持本地复制,或者与其他SSH、rsync主机同步。

    它的特性如下:
    *可以镜像保存整个目录树和文件系统。
    *可以很容易做到保持原来文件的权限、时间、软硬链接等等。
    *无须特殊权限即可安装。
    *快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。
    *rsync 在传输数据的过程中可      以实行*压缩及解压缩操作,因此可以使用更少的带宽。
    *安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
    *支持匿名传输,以方便进行网站镜象
    *无论本地同步目录还是远程同步数据,首次运行时将会把全部文件拷贝一次,以后再运行时将只拷贝有变化的文件(对于新文件)或文件的变化部分(对于原有文件)。
       

     在使用 rsync 进行远程同步时,可以使用三种种方式:
    一.本机不同目录进行同步
    二.远程 Shell 方式
    (建议使用 ssh,用户验证由 ssh 负责)
    .C/S 方式(即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责)。


    一.本机不同目录进行同步
    同步命令:

    1)本地使用:
    rsync [OPTION...] SRC... [DEST]
     rsync -a /home/ /homeback

    在指定复制源SRC时,路径是否有最后的 “/” 有不同的含义,例如:

    /home : 表示将整个 /home 目录复制到目标目录
    /home/ : 表示将 /home 目录中的所有内容复制到目标目录

    如果目标 DEST 不存在,则自动创建

    二.通过远程 Shell 使用:
    • 当路径中包含 单引号:  时,启功该模式
    • 远程 Shell 方式(建议使用 ssh,用户验证由 ssh 负责)  不用创建rsync服务器、守护进程
    拉: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
    rsync -a web:/home/ /homeback

       
    推: rsync [OPTION...] SRC... [USER@]HOST:DEST
    rsync -a root@10.0.7.211:/home /homeback

    如果用户名USER一致的话,可以省略
    host 可以使用主机名(前提是可以解析),也可以使用ip地址


    三.创建rsync守护进程
    • 即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责
    我们先来测试第二种方法,创建一台rsync服务器
    测试使用的机器 两台机器都自带有rsync工具  
    1. 源图片所在 A机器 10.0.7. 211  CentOS release 6.3 (Final)
          服务端(rsync服务器)
    # rsync --version
        rsync  version 3.0.6  protocol version 30

    2. 备份图片 B机器     10.0.7.216   CentOS Linux release 7.2
         客户端
    # rsync --version
       rsync  version 3.0.9  protocol version 30

    Rsync两个版本有所不同,这里来讲下
    首先A机器  3.0.6版本 
    [root@web1 ~]yum install rsync
    [root@web1 ~]rpm -ql rsync  查看文件位置
    /etc/xinetd.d/rsync           ##基于xinetd的管理
    /usr/bin/rsync                 ##rsync命令
    /usr/share/doc/rsync-3.0.6 
    /usr/share/doc/rsync-3.0.6/COPYING 
    /usr/share/doc/rsync-3.0.6/NEWS 
    ……


    软件包组成中没有提供配置文件和相应的文件,因此需要自行添加如下:

     
    [root@node1 ~]# mkdir /etc/rsyncd  ##创建配置目录 

    [root@node1 ~]# touch /etc/rsyncd/rsyncd.conf  ##     创建主配置文件 

    [root@node1 ~]# touch /etc/rsyncd/rsyncd.secrets  ##  创建用户密码文件 
    [root@node1 ~]chmod 600 /etc/rsyncd/rsyncd.secrets ##修改文件权限

    [root@node1 ~]# touch /etc/rsyncd/rsyncd.motd   ##    创建定义服务器信息的


    解析rsyncd.conf
    pid file = /var/run/rsyncd.pid #进程 pid 文件所在位置
    port = 873                                 #指定监听端口,默认是873,可以自己指定
    address = 192.168.1.171         #服务器监听的IP地址,可省略


    uid = root      #守护进程所属的uid,默认是nobody,可能会碰到文件或目录权限问题,此处偷懒用的 root
    gid = root      #守护进程的gid


    #chroot,即改变程序执行时所参考的根目录位置,在传输文件之前,服务器守护程序在将chroot 到文件系统中的目录中
    #这样做的好处是可能保护系统被安装漏洞侵袭的可能。缺点是需要超级用户权限。另外对符号链接文件,将会排除在外
    #也就是说,你在 rsync服务器上,如果有符号链接,你在备份服务器上运行客户端的同步数据时,只会把符号链接名同步下来,并不会同步符号链接的内容
    use chroot = yes


    read only = no #只读选择,只让客户端从服务器上读取文件
    write only = yes #只写选择,只让客户端到服务器上写入


    #允许访问的IP,可以指定单个IP,也可以指定整个网段,能提高安全性。
    #格式是 ip 与 ip 之间、ip 和网段之间、网段和网段之间要用空格隔开;
    hosts allow = 192.168.1.0/255.255.255.0 10.0.1.0/255.255.255.0 



    max connections = 5 #客户端最多连接数


    #当用户登录时会看到这个信息。比如显示当前时间、公告等
    motd file = /etc/rsyncd/rsyncd.motd


    log file = /var/log/rsync.log  #rsync 服务器的日志;
    transfer logging = yes          #记录传输文件的日志
    log format = %t %a %m %f %b     #日志格式
    syslog facility = local3                   #日志级别


    #通过该选项可以覆盖客户指定的IP超时时间。可以确保rsync服务器不会永远等待一个崩溃的客户端。
    #超时单位为秒钟,0表示没有超时定义,这也是默认值。
    #对于匿名rsync服务器来说,一个理想的数字是600。
    timeout = 300 


    #模块定义
    #主要是定义服务器哪个目录要被同步。
    #每个模块都要以[name]形式。这个名字就是在 rsync 客户端看到的名字。
    #但是服务器真正同步的数据是通过 path 指定的。可以依次创建多个模块。
    #每个模块要指定认证用户、密码文件,但排除并不是必须的。

    [ logs ]                                 #模块名,以下配置都属于此模块
    path = /var/log                    #文件目录所在位置
    list = no                               #当查看服务器上提供了哪些目录时是否列出来,no比较安全
    ignore errors                      #忽略I/O错误

    #指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。
    #这里的用户和系统用户没有任何关系,是 rsyncd.secrets 中的用户名!
    #如果"auth users"被设置,那么客户端发出对该模块的连接请求
    #以后会被rsync请求challenged进行验证身份。

    #这里使用的 challenge/response 认证协议。
    #用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。
    #默认情况下无需密码就可以连接模块(也就是匿名方式)。
    auth users = zhangzk
    secrets file = /etc/rsyncd/rsyncd.secrets        #密码文件


    exclude = error_log httpd.pid             #忽略的文件或目录
    comment this is my log                       #本模块注释,可选




    1.编辑配置rsyncd.conf
    pid file = /var/run/rsyncd.pid
    port = 873


    uid = root
    gid = root


    use chroot = yes
    read only = no
    #write only = yes


    hosts allow = 10.0.7.211
    hosts deny  =*


    max connections = 5


    motd file = /etc/rsyncd/rsyncd.motd


    log file = /var/log/rsync.log
    transfer logging = yes
    log format = %t %a %m %f %b
    syslog facility = local3


    timeout = 300 


    [ logs ]  
    path = /root/test/log
    list = no
    ignore errors


    auth users =lalala
    secrets file = /etc/rsyncd/rsyncd.secrets


    #exclude =
    comment this is my log


    ##定义第二个同步目

    [weblog] 
    path = /var/www/log
    list=yes 
    ignore errors 
    auth users = apache     ##必须在服务器上存在的真实的系统用户,多个用户以,号隔开
    secrets file = /etc/rsyncd/rsyncd.secrets  ##指定上述账号密码文件 
    comment = web log
    exclude =   data/ data1/   ##排除log下的data目录和data1目录


    2.编辑密码文件
    [root@node1 ~]# vi /etc/rsyncd/rsyncd.secrets
    apache:123456

    注:1、将rsyncd.secrets这个密码文件的文件属性设为root拥有, 且权限要设为600, 否则无法备份成功!          
                       出于安全目的,文件的属性必需是只有属主可读。
             2、这里的密码值得注意,为了安全你不能把系统用户的密码写在这里。
                    比如你的系统用户easylife密码是 000000,为了安全你可以让rsync中的easylife为keer。
                    这和samba的用户认证的密码原理是差不多的。

    3.编辑服务器信息文件

    设定rsyncd.motd 文件;

    它是定义rysnc服务器信息的,也就是用户登录信息。比如让用户知道这个服务器是谁提供的等;
    类似ftp服务器登录时,我们所看到的 linuxsir.org ftp ……。 
    当然这在全局定义变量时,并不是必须的,你可以用#号注掉,或删除;
    我在这里写了一个 rsyncd.motd的内容为:

      ++++++++++++++++++++++++++++++++++++++++++++++
      Welcome to use the mike.org.cn rsync services!
               2017
      ++++++++++++++++++++++++++++++++++++++++++++++


    服务器端启动:

    usr/bin/rsync --daemon --config=/etc/rsyncd/rsyncd.conf
    可能需要root权限运行.
    /etc/rsyncd/rsyncd.conf 是你刚才编辑的rsyncd.conf的位置.
    也可以在/etc/rc.d/rc.local里加入让系统自动启动等.


    设置服务启动脚本:  service rsync start   
    参考这里      Shell 增加server rsync 控制脚本

    访问 rsync 服务器:
    当路径中包含 双引号::  时,启功该模式
    拉: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
    拉: rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
    rsync -a apache@10.0.7.211::hadoop /homeback
    rsync -a rsync://web/home 

    推: rsync [OPTION...] SRC... [USER@]HOST::DEST
    推: rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

    连接密码 是在rsyncd.secrets 中设定的
    user使用在rsyncd.secrets 中定义的用户
    这里的 SRC和DEST 是rsync.conf中 指定的模块
    客户端的rsyncd.secrets  文件中 只存入密码就可以
    请把客户端和服务端的  rsyncd.secrets 文件权限都设定为600 


    特殊设置

    从远程服务器 同步到本地  强制性一致

     # rsync -avzP --delete apache@110.0.7.211::hadoop /backup
             这回我们引入一个 --delete 选项,表示服务器上的数据要与客户端完全一致,

    如果 /backup目录中有服务器上不存在的文件,则删除
            最终目的是让 
    /backup 目录上的数据完全与服务器上保持一致;

             用的时候要小心点,最好不要把已经有重要数所据的目录,当做本地更新目录,否则会把你的数据全部删除;


    从远程服务器 同步到本地  自动脚本

    # rsync -avzP --delete --password-file=/tmp/rsync.password apache@110.0.7.211::hadoop /backup

              加了一个选项 –password-file=rsync.password ,这时当我们以apache用户登录rsync服务器同步数据时,密码将读取 /tmp/rsync.password 这个文件。这个文件内容只是apache用户的密码
    # touch /tmp/rsync.password
    # chmod 600 /tmp/rsync.password 
    # echo "123456"> /tmp/rsync.password 
    注: 这样就不需要密码了;其实这是比较重要的,因为服务器通过crond 计划任务还是有必要的;
    
    
    rsync 客户端自动与服务器同步数据:
    
    编辑crontab # crontab -e 加入如下代码:
    
    10 0 * * * rsync -avzP --delete --password-file=/tmp/rsync.password apache@10.0.7.211::hadoop  /tmp/hadoop/

     

     

     

    参数详解编辑
    -v, --verbose 详细模式输出
    -q, --quiet 精简输出模式
    -c, --checksum 打开校验开关,强制对文件传输进行校验
    -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
    -r, --recursive 对子目录以递归模式处理
    -R, --relative 使用相对路径信息
    -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
    --backup-dir 将备份文件(如~filename)存放在在目录下。
    -suffix=SUFFIX 定义备份文件前缀
    -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
    -l, --links 保留软链结
    -L, --copy-links 像对待常规文件一样处理软链接
    --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链接
    --safe-links 忽略指向SRC路径目录树以外的链接
    -H, --hard-links 保留硬链接
    -p, --perms 保持文件权限
    -o, --owner 保持文件属主信息
    -g, --group 保持文件属组信息
    -D, --devices 保持设备文件信息
    -t, --times 保持文件时间信息
    -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
    -n, --dry-run显示哪些文件将被传输
    -W, --whole-file 拷贝文件,不进行增量检测
    -x, --one-file-system 不要跨越文件系统边界
    -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节
    -e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
    --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
    -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
    --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
    --delete 删除那些DST中SRC没有的文件
    --delete-excluded 同样删除接收端那些被该选项指定排除的文件
    --delete-after 传输结束以后再删除
    --ignore-errors 即使出现IO错误也进行删除
    --max-delete=NUM 最多删除NUM个文件
    --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
    --force 强制删除目录,即使不为空
    --numeric-ids 不将数字的用户和组ID匹配为用户名和组名
    --timeout=TIME IP超时时间,单位为秒
    -I, --ignore-times 不跳过那些有同样的时间和长度的文件
    --size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
    --modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0
    -T --temp-dir=DIR 在DIR中创建临时文件
    --compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
    -P 等同于 --partial
    --progress 显示备份过程
    -z, --compress 对备份的文件在传输时进行压缩处理
    --exclude=PATTERN 指定排除不需要传输的文件模式
    --include=PATTERN 指定不排除而需要传输的文件模式
    --exclude-from=FILE 排除FILE中指定模式的文件
    --include-from=FILE 不排除FILE指定模式匹配的文件
    --version 打印版本信息
    --address 绑定到特定的地址
    --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
    --port=PORT 指定其他的rsync服务端口
    --blocking-io 对远程shell使用阻塞IO
    -stats 给出某些文件的传输状态
    --progress 在传输时现实传输过程
    --log-format=formAT 指定日志文件格式
    --password-file=FILE 从FILE中得到密码
    --bwlimit=KBPS 限制I/O带宽,KBytes per second
    -h, --help 显示帮助信息
  • 相关阅读:
    Spring解决循环依赖的三种方式
    MySQL深度分页
    MySQL大数据量分页查询方法及其优化
    java进程 cpu100%问题排查
    Java线程池如何合理配置核心线程数
    Btree和B+tree的区别
    Python3 for Linux 安装
    redis sentinel 相关参数及命令
    postman 连接mysql
    oracle-数据库的各种-锁-详解
  • 原文地址:https://www.cnblogs.com/centos2017/p/7896702.html
Copyright © 2011-2022 走看看