zoukankan      html  css  js  c++  java
  • hadoop学习2----HDFS操作

    运行结果附图

    课程内容为HDFS的基本操作和HUE页面的使用主要是HDFS的基本命令。

    对于文件的操作,命令与linux的类似,但是要在前面加上hadoop fs

    其基本的格式为 hadoop fs <agrs>

    1. 查看文件 hadoop fs -ls

      ls

      可以看到data文件夹下只有一个文件夹test

    2. 建立路径 hadoop fs -mkdir

      现在再在data下建立一个文件夹 test1

      需要先解除安全模式,再建立文件夹

      2015-03-29 11:30:21 的屏幕截图

      继续在test1下建立文件夹 test11

      2015-03-29 11:29:51 的屏幕截图

    3. 删除文件夹 hadoop fs -rm -r

      -r参数代表将此文件夹连同此文件夹下的所有文件删除

      2015-03-29 11:27:09 的屏幕截图

    4. 将本地文件放到HDFS上 hadoop fs -put [dir1][dir2]

      参数dir1代表本地路径,dir2代表HDFS路径

      本地的home下的两个文件 text1 和 wordcount 放到HDFS中的/data/test中

      2015-03-29 11:38:08 的屏幕截图

    5. 将HDFS上的文件下载到本地 hadoop fs -get [dir1][dir2]

      参数dir1代表HDFS路径,dir2代表本地路径

      2015-03-29 11:43:44 的屏幕截图

    6. 查看文件 hadoop fs -cat

      text1和wordcount的内容

      2015-03-29 11:40:09 的屏幕截图

    7. 合并HDFS中的文件并下载到本地 hadoop fs -getmerge [dir] [file]

      参数dir代表HDFS存储要合并的文件所在的路径,file代表将合并结果存储的本地文件名

      text1和wordcount合并后的内容

      2015-03-29 12:26:50 的屏幕截图

    8. 使用HUE,service hue start

      端口为8888,用户名密码都是hdfs

      2015-03-29 11:48:05 的屏幕截图

    9. 打开FileBrowser 界面 上面基本的对文件夹的操作都有按钮选项,如新建文件,文件夹,删除文件

      进入刚刚操作的目录 /data/test下

      2015-03-29 11:52:34 的屏幕截图

    10. 点击文件wordcount 在左边栏有对该文件的基本操作选项

      2015-03-29 11:53:45 的屏幕截图

    问题、心得与体会记录

    HDFS的命令操作较为简单基本,多加练习即可熟练操作,HUE的界面功能丰富,在web页面上直接操作更加直观。
  • 相关阅读:
    gcc开启C99或C11标准支持
    数组作为参数的四种声明方式
    [BZOJ 2654]tree(陈立杰)
    [HNOI 2014]道路堵塞
    [ZJOI 2006]书架
    [NOI 2010]超级钢琴
    汇编语言语法
    [洛谷P1714]切蛋糕
    [洛谷P1440]求m区间内的最小值
    [NOIP2016 TG D2T3]愤怒的小鸟
  • 原文地址:https://www.cnblogs.com/ivywenyuan/p/4579363.html
Copyright © 2011-2022 走看看