zoukankan      html  css  js  c++  java
  • 强-大数据第六讲

    HDFS的基本操作

    第一节:HDFS的相关命令
    -mkdir 在HDFS创建目录 hdfs dfs -mkdir /data
    -ls 查看当前目录 hdfs dfs -ls /
    -ls -R 查看目录与子目录
    -put 上传一个文件 hdfs dfs -put data.txt /data/input
    -moveFromLocal 上传一个文件,会删除本地文件:ctrl + X
    -copyFromLocal 上传一个文件,与put一样
    -copyToLocal 下载文件 hdfs dfs -copyToLocal /data/input/data.txt
    -get 下载文件 hdfs dfs -get /data/input/data.txt
    -rm 删除文件 hdfs dfs -rm /data/input/data.txt
    -getmerge 将目录所有的文件先合并,再下载
    -cp 拷贝: hdfs dfs -cp /data/input/data.txt /data/input/data01.txt
    -mv 移动: hdfs dfs -mv /data/input/data.txt /data/input/data02.txt
    -count 统计目录下的文件个数
    -text、-cat 查看文件的内容 hdfs dfs -cat /data/input/data.txt
    -balancer 平衡操作

    第二节:HDFS的Java API
    (*)在HDFS上创建一个目录:
    依赖的jar包:
    /root/training/hadoop-2.4.1/share/hadoop/common/lib
    /root/training/hadoop-2.4.1/share/hadoop/common/

    /root/training/hadoop-2.4.1/share/hadoop/hdfs/lib
    /root/training/hadoop-2.4.1/share/hadoop/hdfs/

    源代码示例:

    import java.io.IOException;

    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;

    public class TestMain {

    public static void main(String[] args) throws Exception {
    // 使用HDFS的API创建目录
    //设置NameNode地址
    Configuration conf = new Configuration();
    conf.set("fs.defaultFS", "hdfs://192.168.88.11:9000");

    //得到HDFS的文件系统
    FileSystem fs = FileSystem.get(conf);
    fs.mkdirs(new Path("/folder1"));
    }

    }

  • 相关阅读:
    转载:Background Worker in .NET 2.0
    转载:WPF 3.5 SP1 Feature: BindingGroups with Itemlevel Validation
    转载:NonLive Scrolling延时滚动数据
    俺的机器上VS的MenuBar的名称列表
    动态控件的状态问题的分析 概括
    基于插件的权限系统构想
    《ASP.NET组件设计》没提到的一个类
    有关集中用户的问题
    SQL Server日志清空方法
    ADO事务处理方式运行正常
  • 原文地址:https://www.cnblogs.com/Zac1010/p/11175084.html
Copyright © 2011-2022 走看看