Hadoop之HDFS的Shell脚本命令总结

https://www.cppentry.com/bencandy.php?fid=115&id=223457

一、HDFS的Shell的基本概念

1.调用文件系统(FS)Shell命令应使用 bin/hadoop fs 命令或 bin/hdfs dfs 命令的形式。[为了简便，一般将bin目录添加到path中]
2.所有的FS shell命令使用URI路径作为参数。
　 URI格式是scheme://authority/path。HDFS的scheme是hdfs，对本地文件系统，scheme是file。其中scheme和authority参数都是可选的，如果未加指定，就会使用配置中指定的默认scheme。例如：hdfs://namenode:namenodePort/parent/child，可以表示成/parent/child（假设配置文件是namenode:namenodePort）
3.大多数FS Shell命令的行为和对应的LINUX Shell命令类似。

二、HDFS的Shell命令

-help [cmd] //显示命令的帮助信息

-ls(r) <path> //显示当前目录下所有文件

-du(s) <path> //显示目录中所有文件大小

-count[-q] <path> //显示目录中文件数量

-mv <src> <dst> //移动多个文件到目标目录

-cp <src> <dst> //复制多个文件到目标目录

-rm(r) //删除文件(夹)

-put <localsrc> <dst> //本地文件复制到hdfs

-copyFromLocal //同put

-moveFromLocal //从本地文件移动到hdfs

-get [-ignoreCrc] <src> <localdst> //复制文件到本地，可以忽略crc校验

-getmerge <src> <localdst> //将源目录中的所有文件排序合并到一个文件中

-cat <src> //在终端显示文件内容

-text <src> //在终端显示文件内容

-copyToLocal [-ignoreCrc] <src> <localdst> //复制到本地

-moveToLocal <src> <localdst>

-mkdir <path> //创建文件夹

-touchz <path> //创建一个空文件

三、HDFS的Shell命令(练习)

#hadoop fs -ls / 查看HDFS根目录
#hadoop fs -mkdir /test 在根目录创建一个目录test
#hadoop fs -put ./test.txt /test 或 #hadoop fs -copyFromLocal /test.txt /test 上传文件
#hadoop fs -get /test/test.txt 或 #hadoop fs -getToLocal /test/test.txt 下载文件
#hadoop fs -rm /test1/test.txt 删除文件
#hadoop fs -rmr /test1 删除文件夹
#hadoop fs -mv /test/test.txt /test1 移动文件