zoukankan      html  css  js  c++  java
  • HDFS文件操作命令

    Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

    1.  查看文件列表

    查看hdfs中/user/admin/hdfs目录下的文件。

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -ls /user/admin/hdfs

    查看hdfs中/user/admin/hdfs目录下的所有文件(包括子目录下的文件)。

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -lsr /user/admin/hdfs

    2.  创建文件目录

    查看hdfs中/user/admin/hdfs目录下再新建一个叫做newDir的新目录。

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -mkdir /user/admin/hdfs/newDir

    3.  删除文件

    删除hdfs中/user/admin/hdfs目录下一个名叫needDelete的文件

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -rm /user/admin/hdfs/needDelete

          删除hdfs中/user/admin/hdfs目录以及该目录下的所有文件

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -rmr /user/admin/hdfs

     4. 上传文件

    上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/hdfs目录下

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs –put /home/…… /user/……

    也可以用hadoop fs -copyFromLocal /home/…… hdfs://namenode:9000/user/……复制到HDFS

    5. 下载文件

    下载hdfs中/user/admin/hdfs目录下的newFile文件到本机/home/admin/newFile中

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs –get /user/admin/hdfs/newFile /home/admin/newFile

    也可以用hadoop fs -copyToLocal hdfs://namenode:9000/user/ubuntu/a.txt /home/ubuntu/a.copy.txt复制到本地

    6. 查看文件内容

    查看hdfs中/user/admin/hdfs目录下的newFile文件

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs –cat /home/admin/newFile

    7.与磁盘文件系统类似,HDFS中fsck指令可以显示块信息

    hadoop fsck / -files -blocks

  • 相关阅读:
    Luogu P4002 [清华集训2017]生成树计数
    Luogu P3978 [TJOI2015]概率论
    Codechef JADUGAR2 Chef and Same Old Recurrence 2
    Codechef TREDEG Trees and Degrees
    一些有趣的数
    有向图上Euler回路计数
    P5105 不强制在线的动态快速排序
    二分图小结
    BZOJ2648: SJY摆棋子
    P3231 [HNOI2013]消毒
  • 原文地址:https://www.cnblogs.com/java20130722/p/3206971.html
Copyright © 2011-2022 走看看