zoukankan      html  css  js  c++  java
  • HDFS的命令行使用

    ls

    格式: hdfs dfs -ls URI
    作用:类似于Linux的ls命令,显示文件列表
    hdfs dfs -ls /

    lsr

    格式 : hdfs dfs -lsr URI
    作用 : 在整个目录下递归执行ls, 与UNIX中的ls-R类似
    hdfs dfs -ls -R /

    mkdir

    格式 : hdfs dfs -mkdir [-p] <paths>
    作用 : 以<paths>中的URI作为参数,创建目录。使用-p参数可以递归创建目录
    hdfs dfs -mkdir -p /bigdata1801/aa/bb/cc

    put(上传)

    格式 : hdfs dfs -put <localsrc > ... <dst>
    作用 : 将单个的源文件src或者多个源文件srcs从本地文件系统拷贝到目标文件系统中(<dst>对应的
    路径)。也可以从标准输入中读取输入,写入目标文件系统中
    hdfs dfs -put README.html /bigdata1801/rm.txt

    moveFromLocal

    格式: hdfs dfs -moveFromLocal <localsrc> <dst>
    作用: 和put命令类似,但是源文件localsrc拷贝之后自身被删除
    hdfs dfs -moveFromLocal hallo /bigdata1801/aa
    #将本地文件当前文件 hallo 剪切到 hdfs 的/bigdata1801/aa目录下

    #注意,没有moveToLocal!

    get(下载)

    格式 hdfs dfs -get [-ignorecrc ] [-crc] <src> <localdst>
    作用:将文件拷贝到本地文件系统。 CRC 校验失败的文件通过-ignorecrc选项拷贝。 文件和CRC校验和可以通过-CRC选项拷贝
    hdfs dfs -get /install.log /export/servers

    mv

    格式 : hdfs dfs -mv URI <dest>
    作用: 将hdfs上的文件从原路径移动到目标路径(移动之后文件删除),该命令不能跨文件系统
    hdfs dfs -mv /dir1/a.txt /dir2

    rm

    格式: hdfs dfs -rm [-r] 【-skipTrash】 URI 【URI 。。。】
    作用: 删除参数指定的文件,参数可以有多个。 此命令只删除文件和非空目录。
    如果指定-skipTrash选项,那么在回收站可用的情况下,该选项将跳过回收站而直接删除文件;
    否则,在回收站可用时,在HDFS Shell 中执行此命令,会将文件暂时放到回收站中。
    hdfs dfs -rm -r /dir1

    cp

    格式: hdfs dfs -cp URI [URI ...] <dest>
    作用: 将文件从hdfs上拷贝到hdfs上的目标路径中。如果<dest> 为目录的话,可以将多个文件拷贝到该目录下。
    -f
    选项将覆盖目标,如果它已经存在。
    -p
    选项将保留文件属性(时间戳、所有权、许可、ACL、XAttr)。
    hdfs dfs -cp /dir1/a.txt /dir2/b.txt
    #只能从hdfs拷贝到hdfs,不是从本地拷贝到hdfs

    cat

    hdfs dfs -cat URI [uri ...]
    作用:将参数所指示的文件内容输出到stdout
    hdfs dfs -cat /install.log

    chmod

    关于权限:Permission
    共10个空,第一个空为文件类型
    后三个为文件所属者权限、
    4-6空为所属者同组所拥有权限
    7-9为其他用户可拥有的权限
    分为三种:r 可读 w:可写   x:可执行
    所属:分为创建者、
    格式: hdfs dfs -chmod [-R] URI[URI ...]
    作用: 改变文件权限。如果使用 -R 选项,则对整个目录有效递归执行。使用这一命令的用户必须
    是文件的所属用户,或者超级用户。
    hdfs dfs -chmod -R 777 /install.log

    chown

    格式: hdfs dfs -chmod [-R] URI[URI ...]
    作用: 改变文件的所属用户和用户组。如果使用 -R 选项,则对整个目录有效递归执行。使用这一
    命令的用户必须是文件的所属用户,或者超级用户。
    hdfs dfs -chown -R hadoop:hadoop /install.log

    appendToFile

    格式: hdfs dfs -appendToFile <localsrc> ... <dst>
    作用: 追加一个或者多个文件到hdfs指定文件中(将两个或多个本地文件合并为一个文件上传到hdfs).也可以从命令行读取输入.
    hdfs dfs -appendToFile a.xml b.xml /big.xml



  • 相关阅读:
    阿里云如何打破Oracle迁移上云的壁垒
    第三代DRDS分布式SQL引擎全新发布
    玩转MaxCompute studio SQL编辑器
    如何在阿里云上安全的存放您的配置
    阿里云E-HPC联合安世亚太、联科集团共建云超算生态
    阿里云弹性裸金属服务器-神龙架构(X-Dragon)揭秘
    从保障淘宝到全球市场“第一阵营”,阿里云的DDoS防护之路走了多远?
    飞天技术汇“2018云栖大会·上海峰会”专场,等你加入
    Yeoman:Web 应用开发流程与工具—AngularJS—Bootstrap—js
    【codeforces 550A】Two Substrings
  • 原文地址:https://www.cnblogs.com/destiny-2015/p/14891405.html
Copyright © 2011-2022 走看看