zoukankan      html  css  js  c++  java
  • HDFS文件操作命令

    Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

    1.  查看文件列表

    查看hdfs中/user/admin/hdfs目录下的文件。

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -ls /user/admin/hdfs

    查看hdfs中/user/admin/hdfs目录下的所有文件(包括子目录下的文件)。

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -lsr /user/admin/hdfs

    2.  创建文件目录

    查看hdfs中/user/admin/hdfs目录下再新建一个叫做newDir的新目录。

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -mkdir /user/admin/hdfs/newDir

    3.  删除文件

    删除hdfs中/user/admin/hdfs目录下一个名叫needDelete的文件

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -rm /user/admin/hdfs/needDelete

          删除hdfs中/user/admin/hdfs目录以及该目录下的所有文件

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs -rmr /user/admin/hdfs

     4. 上传文件

    上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/hdfs目录下

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs –put /home/…… /user/……

    也可以用hadoop fs -copyFromLocal /home/…… hdfs://namenode:9000/user/……复制到HDFS

    5. 下载文件

    下载hdfs中/user/admin/hdfs目录下的newFile文件到本机/home/admin/newFile中

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs –get /user/admin/hdfs/newFile /home/admin/newFile

    也可以用hadoop fs -copyToLocal hdfs://namenode:9000/user/ubuntu/a.txt /home/ubuntu/a.copy.txt复制到本地

    6. 查看文件内容

    查看hdfs中/user/admin/hdfs目录下的newFile文件

    a. 进入HADOOP_HOME目录。

    b. 执行sh bin/hadoop fs –cat /home/admin/newFile

    7.与磁盘文件系统类似,HDFS中fsck指令可以显示块信息

    hadoop fsck / -files -blocks

  • 相关阅读:
    下载安装ActiveMQ(消息队列)
    互联网项目架构之基于服务的分布式架构
    Shell报错bash^M /bin/bash^M: bad interpreter: No such file or directory
    rpm参数
    zabbix3.4+grafana5.0.1数据可视化
    Linux下目录栈操作详解
    有惊无险,拯救zabbix网页端
    tomcat7 开启gzip压缩
    欢迎使用CSDN-markdown基本语法
    新项目平台后台测试环境搭建
  • 原文地址:https://www.cnblogs.com/java20130722/p/3206971.html
Copyright © 2011-2022 走看看