zoukankan      html  css  js  c++  java
  • Hadoop Api 基本操作

     hadoop环境配置好后,直接可以在window上进行调试。话不多说,直接上源码。

    package cn.terry;

    import java.io.FileInputStream;
    import java.io.FileNotFoundException;
    import java.io.FileOutputStream;
    import java.io.IOException;
    import java.io.InputStream;
    import java.io.OutputStream;
    import java.net.URI;
    import java.net.URISyntaxException;
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.io.IOUtils;
    import org.junit.Before;
    import org.junit.Test;
    public class hdfsdemo {
      FileSystem fs=null;
      
      @Before
      public void init() throws IOException, InterruptedException, URISyntaxException
      {
    fs = FileSystem.get(new URI("hdfs://master:9000"), new Configuration(), "root");
      }
      //upload
      @Test
      public void upload() throws IllegalArgumentException, IOException
      {
      InputStream in= new FileInputStream("c:/ab.txt");
      OutputStream out= fs.create(new Path("/ab.txt"));
      IOUtils.copyBytes(in, out, 4096,true);
      }
      
      @Test
      public void makeDirectory() throws IllegalArgumentException, IOException
      {
    boolean ret=  fs.mkdirs(new Path("/code/a"));
      System.out.print(ret);
      }
      
      @Test
      public void testDelete() throws IOException
      {
    @SuppressWarnings("deprecation")
    boolean ret=  fs.delete(new Path("/code/a"),true);
    System.out.print(ret);
      }
    /**
    * @param args
    * @throws URISyntaxException 
    * @throws IOException 
    */
    public static void main(String[] args) throws IOException, URISyntaxException {
    // TODO Auto-generated method stub
    //download
      FileSystem fs=FileSystem.get(new URI("hdfs://master:9000"),new Configuration());
      InputStream in= fs.open(new Path("/input/a.txt"));
      OutputStream out =new FileOutputStream("c:/ab.txt");
      IOUtils.copyBytes(in, out, 4096,true);
      
      
    }
    }
  • 相关阅读:
    MySQL中如何使用布尔类型【转】
    你所不知道的Android Studio调试技巧【转】
    设计模式之工厂模式(factory pattern)【转】
    layuiadmin+tp5后台内容管理系统【转】
    PHPStorm怎么修改选中的背景颜色呢?【转】
    PHP保留两位小数的几种方法【转】
    jquery的css()函数同时设置多个css属性值
    Flutter text设置行间距【转】
    Flutter入门-布局Container、Padding、Align、Center【转】
    redis下载地址
  • 原文地址:https://www.cnblogs.com/abcdwxc/p/7800141.html
Copyright © 2011-2022 走看看