zoukankan      html  css  js  c++  java
  • hadoop基本命令 悟寰轩

    1.start-all.sh开启线程

    hadoop fs -ls hdfs://cloud4:9000/user (cloud4表示主机名 9000代表端口号 /就代表根目录 /user就是user文件夹)

    hadoop fs -ls /user(hdfs://cloud4:9000可省略)

    2. -ls/-lsr 查看目录下的文件信息

      hadoop fs -ls /  查看根目录下文件与文件夹

      hadoop fs -lsr /    递归查看根目录下所有文件与文件夹

      hadoop fs -ls    默认查看hdfs下的/user/<当前用户>  例如:/user/root  (很方便的)

    3. –touchz 创建文件

    可以创建一个文件

      hadoop fs -touchz /hello  (创建一个hello文件)

    4. –mkdir 创建文件夹

    (linux中创建多级目录 mkdir –p   p表示parents)

    可以创建一个或者多个文件夹(hadoop则不需要-p)

      hadoop fs -mkdir /user  (创建一个user文件夹 )

    5. -text/-cat查看文件内容

      hadoop fs -text /hello

      hadoop fs -cat /hello

    6. -mv 移动/重命名

    该命令选项表示移动 hdfs 的文件到指定的 hdfs 目录中。后面跟两个路径,第一个表示源文件,第二个表示目的目录

      hadoop fs -mv /hello /user(文件到文件夹:是移动)

    hadoop fs -mv /hello /user/hello(文件到文件:是重命名)

    7. -cp 复制

    该命令选项表示复制 hdfs 指定的文件到指定的 hdfs 目录中。后面跟两个路径,第

    一个是被复制的文件,第二个是目的地

      hadoop fs -cp /user/hello /user/root

    8. -rm/-rmr 删除文件

    -rm:删除文件/空白文件夹

    该命令选项表示删除指定的文件或者空目录

      hadoop fs -rm /user/hello

    -rmr:递归删除

    该命令选项表示递归删除指定目录下的所有子目录和文件

     hadoop fs -rm /user

    9. -put 上传文件

    该命令选项表示把 linux 上的文件复制到 hdfs 中

      hadoop fs -put hadoop-env.sh /user 

    将当前linux目录下的hadoop-env.sh文件,上传到/user(hdfs服务器上的user目录下)

    hadoop fs -put hadoop-env.sh  /你叫起的名字(hello—文件名)

    例如:hadoop fs -put hadoop-env.sh /hello

    10.-copyFromLocal 从本地复制

    用法与-put一样

      hadoop fs -copyFromLocal hadoop-env.sh /user

    11 -moveFromLocal从本地移动

    该命令表示把文件从 linux 上移动到 hdfs 中

    hadoop fs -moveFromLocal /home/repine/hehe.txt /user

    12. -getmerge 合并下载到本地

    该命令选项的含义是把 hdfs 指定目录下的所有文件内容合并到本地 linux 的文件中

      hadoop fs -getmerge /user /home/repine/abc.txt     表示把user目录下所有文件内容复制到linux下 /home/repine/abc.txt中

    13. -setrep/-setrep -R/-setrep -R -w 设置副本数量

    该命令选项是修改已保存文件的副本数量,后面跟副本数量,再跟文件路径

      hadoop fs -setrep 2 /user/hehe.txt   设置/user/hehe.txt副本数量为2

    如果最后的路径表示文件夹,那么需要跟选项-R,表示对文件夹中的所有文件都修改副本

      hadoop fs -setrep -R 2 /user   设置/user下所有文件(不是文件夹)的副本数量为2

    还有一个选项是-w,表示等待副本操作结束才退出命令

      hadoop fs -setrep -R -w 1 /user/hehe.txt

                                                  

    14. -du统计目录下个文件大小

      hadoop fs -du /    查看根目录下的各个文件的大小

      hadoop fs -dus /   汇总统计目录下所有文件的总大小(也就是当前文件夹的大小)

    15.-count统计文件(夹)数量

      hadoop fs -count /usr  递归统计当前文件下的所有信息:数字代表(文件夹总数量、文件总数量、文件总大小信息)

      hadoop fs -lsr /usr    验证信息

    16. –chmod/-chmod -R 修改文件权限

    该命令选项的使用类似于 linux 的 shell 中的 chmod 用法,作用是修改文件的权限

      hadoop fs - chmod 777 /user/hehe.txt  修改该文件的权限

    如果加上选项-R,可以对文件夹中的所有文件修改权限

      hadoop fs – chmod -R 777 /user  修改该文件夹下所有文件的权限

    17. hadoop jar 导jar在命令行运行

    //打包运行程序必备宝典

    job.setJarByClass(WordCountApp.class);

    在linux下 :

    hadoop jar    /linux下路径/XXX.jar     /hadoop执行jar的文件或者文件夹   /hadoop下存放目录

    18、报告HDFS的基本统计信息

    bin/hadoop dfsadmin -report

    19、安全模式

    bin/hadoop dfsadmin -safemode leave/enter/get/wait

    20、将HDFS中的文件复制到本地系统中

    bin/hadoop dfs -get in getin

    将HDFS中的in文件复制到本地系统并命名为getin


    来自:http://my.oschina.net/repine/blog/268278
  • 相关阅读:
    Android音频(7)——项目实战——耳麦插拔
    Android音频(6)——音频系统分析
    Android音频(5)——框架中的概念和涉及的文件
    Android音频(4)——音频驱动实战
    Android音频(3)——ALSA声卡驱动——DAPM
    Android音频(2)——ALSA声卡驱动——ASoC
    Mvc中Session导致action不异步的问题
    RabbitMQ 声明Queue时的参数们的Power
    RabbitMQ 实现RPC
    RabbitMQ Topic exchange
  • 原文地址:https://www.cnblogs.com/sunxucool/p/3077898.html
Copyright © 2011-2022 走看看