zoukankan      html  css  js  c++  java
  • Hadoop Api 基本操作

     hadoop环境配置好后,直接可以在window上进行调试。话不多说,直接上源码。

    package cn.terry;

    import java.io.FileInputStream;
    import java.io.FileNotFoundException;
    import java.io.FileOutputStream;
    import java.io.IOException;
    import java.io.InputStream;
    import java.io.OutputStream;
    import java.net.URI;
    import java.net.URISyntaxException;
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.io.IOUtils;
    import org.junit.Before;
    import org.junit.Test;
    public class hdfsdemo {
      FileSystem fs=null;
      
      @Before
      public void init() throws IOException, InterruptedException, URISyntaxException
      {
    fs = FileSystem.get(new URI("hdfs://master:9000"), new Configuration(), "root");
      }
      //upload
      @Test
      public void upload() throws IllegalArgumentException, IOException
      {
      InputStream in= new FileInputStream("c:/ab.txt");
      OutputStream out= fs.create(new Path("/ab.txt"));
      IOUtils.copyBytes(in, out, 4096,true);
      }
      
      @Test
      public void makeDirectory() throws IllegalArgumentException, IOException
      {
    boolean ret=  fs.mkdirs(new Path("/code/a"));
      System.out.print(ret);
      }
      
      @Test
      public void testDelete() throws IOException
      {
    @SuppressWarnings("deprecation")
    boolean ret=  fs.delete(new Path("/code/a"),true);
    System.out.print(ret);
      }
    /**
    * @param args
    * @throws URISyntaxException 
    * @throws IOException 
    */
    public static void main(String[] args) throws IOException, URISyntaxException {
    // TODO Auto-generated method stub
    //download
      FileSystem fs=FileSystem.get(new URI("hdfs://master:9000"),new Configuration());
      InputStream in= fs.open(new Path("/input/a.txt"));
      OutputStream out =new FileOutputStream("c:/ab.txt");
      IOUtils.copyBytes(in, out, 4096,true);
      
      
    }
    }
  • 相关阅读:
    power designer 绘制E-R 图
    git 的证书重新设置,以及如何让git 记住提交的用户名和密码
    weblogic的安装和注意的问题以及在idea怎么用weblogic启动一个web服务
    java的URI和URL到底是什么
    怎么把centos虚拟机zip文件导入vm虚拟机中
    gogole调试请求体的数据怎么知道
    Javascript数据类型——number类型
    Javascript类型——boolean类型
    Javascript数据类型——undefined和null的异同
    第3章,基本概念
  • 原文地址:https://www.cnblogs.com/abcdwxc/p/7800141.html
Copyright © 2011-2022 走看看