【实验目的】
1)熟练hdfs shell命令操作
2)理解hdfs shell和linux shell命令
【实验原理】
安装好hadoop环境之后,可以执行hdfs shell命令对hdfs 的空间进行操作。我们通过命令行和HDFS打交道,进一步增加对HDFS的认识,HDFS命令行接口是一种最直接,也比较简单的一种方式。
调用文件系统(FS)Shell命令应使用bin/hadoop fs 的形式。也可以使用其他形式:
hadoop dfs {args}
hdfs dfs {args}
所有的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。HDFS的scheme是hdfs,对本地文件系统,scheme是file。其中scheme和authority参数都是可选的,如果未加指定,就会使用配置中指定的默认scheme。
【实验环境】
本次环境是:centos6.5 + jdk1.7.0_79 + hadoop2.4.1
工具包在/simple/soft目录下
【实验步骤】
一、hdfs shell命令
1.1 在任意目录下(需要配置hadoop环境变量),执行命令:start-dfs.sh 启动hdfs服务。如图1所示
图1
1.2启动hdfs之后,通过jps查看hdfs服务是否启动,执行命令:jps 。如图2所示
图2
1.3 在任意目录下执行如下命令(配置hadoop环境变量):hdfs dfs -help,查看到所有hdfs shell命令解释。如图3所示
图3
1.4 在simple下执行touch words.txt新建words.txt文本,并对文本进行编译(通过vim words.txt命令对文本进行编辑,之后按esc与:wq对文本进行保存)。上传本地(/simple/words.txt)到hdfs文件命令。执行命令:hdfs dfs -put /simple/words.txt / 。如图4所示
图4
1.5 查看hdfs指定目录下的文件内容命令。执行命令:hdfs dfs -cat /words.txt。如图5所示
图5
1.6 把hdfs根目录下的words.txt文件下载到本地/simple目录下。执行命令:hdfs dfs -get /words.txt /simple/word.txt。如图6所示
图6
1.7 把hdfs上指定的文件移动到指定的hdfs位置,执行命令:hdfs dfs -mv /words.txt /wordscp.txt。如图7所示
图7
1.8 查看hdfs上指定目录下的文件,本示例时查看hdfs根目录下所有文件和文件夹,执行命令:hdfs dfs -ls / 。如图8所示
图8
二、查看所有管理命令
2.1 在任意目录下执行命令:hadoop dfsadmin -help,查看dfs管理命令注释。如图9所示
图9