zoukankan      html  css  js  c++  java
  • hdfs基本操作

    hdfs基本操作

    1、查询命令

      hadoop dfs -ls /   查询/目录下的所有文件和文件夹

      hadoop dfs -ls -R 以递归的方式查询/目录下的所有文件

    2、创建文件夹

      hadoop dfs -mkdir /test    创建test文件夹

    3、创建新的空文件

      hadoop dfs -touchz /aa.txt   在/目录下创建一个空文件aa.txt

    4、增加文件

      hadoop dfs -put aa.txt /test  将当前目录下的aa.txt文件复制到/test目录下(把-put换成-copyFromLocal效果一样-moveFromLocal会移除本地文件)

    5、查看文件内容

      hadoop dfs -cat /test/aa.txt     查看/test目录下文件aa.txt的内容(将-cat 换成-text效果一样)

    6、复制文件 

      hadoop dfs -copyToLocal /test/aa.txt .       将/test/aa.txt文件复制到当前目录(.是指当前目录,也可指定其他的目录)

    7、删除文件或文件夹

      hadoop dfs -rm -r /test/aa.txt   删除/test/aa.txt文件(/test/aa.txt可以替换成文件夹就是删除文件夹)

    8、重命名文件

      hadoop dfs -mv /aa.txt /bb.txt   将/aa.txt文件重命名为/bb.txt

    9、将源目录中的所有文件排序合并到一个本地文件

      hadoop dfs -getmerge /   local-file  将/目录下的所有文件合并到本地文件local-file中

    hdfsWeb查看文件

    1、通过命令行:

      hadoop dfs -ls /mydir/testdir

    2、通过web界面

      1)、概述:

        在本地的浏览器输入namenode节点服务器的ip或域名+端口(例如:我namenode几点机器ip是10.9.1.101:9870),就可以看到hdfs集群的概述:

      2)、查看文件:

        点击导航栏的Utilities按钮,选择查看文件或者日志,选择查看文件之后,然后再输入栏输入文件的路径就可以查看文件了。

      3)、查看数据节点信息:

        点击导航栏的Datanodes按钮,然后出现以下页面:

        此时假如点击查看具体的数据节点的时候会报错,因为你windows操作系统不能识别node101~node103,此时需要配置下widows的hosts文件,配置完了就好了。

        hdfs的web操作就说这么多了,剩下的大家有兴趣可以去慢慢的看了

    注:hadoop 为用户名如果你的名字不是这个就相应的修改下(如:hadoop dfs -cat /test/aa.txt  ---->  myname dfs -cat /test/aa.txt  )。

  • 相关阅读:
    笨方法学python(本文为阅读时从此书摘录的笔记) 第一天
    关于C++中的虚拟继承的一些总结
    用提高效率的暴力法求3000以内的素数
    DAY 155 python中parse模块
    DAY 154 python自带的hmac模块
    DAY 153 Python中使用pymongo操作mongodb
    DAY 152 hmac模块
    DAY 151 parse模块
    DAY 150 setter&getter&@property
    DAY 149 property和setter装饰器
  • 原文地址:https://www.cnblogs.com/51python/p/10462660.html
Copyright © 2011-2022 走看看