zoukankan      html  css  js  c++  java
  • 大数据学习——上传本地文件到集群根目录下

    TestHDFS.java

    package cn.itcast.hdfs;
    
    import java.io.IOException;
    
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;
    
    public class TestHDFS {
        public static void main(String[] args) throws IOException {
            Configuration conf = new Configuration();
            //1首先需要一个hdfs的客户端对象
            conf.set("fs.defaultFS", "hdfs://mini1:9000");
            FileSystem fs = FileSystem.get(conf);
            fs.copyFromLocalFile(new Path("E://he.txt"), new Path("/"));
            fs.close();
        }
    }

    此时报错,权限不足:

    修改后的代码(伪造一个root身份):

    package cn.itcast.hdfs;
    
    import java.io.IOException;
    
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;
    
    public class TestHDFS {
        public static void main(String[] args) throws IOException {
            Configuration conf = new Configuration();
    
            //伪造root用户身份
            System.setProperty("HADOOP_USER_NAME","root");
    
            //1首先需要一个hdfs的客户端对象
            conf.set("fs.defaultFS", "hdfs://mini1:9000");
            FileSystem fs = FileSystem.get(conf);
            fs.copyFromLocalFile(new Path("E://he.txt"), new Path("/"));
            fs.close();
        }
    }

    或者是运行时加一个参数:

    VM-arguements:

    -DHADOOP——USER_NAME=root

  • 相关阅读:
    [HNOI2014]江南乐
    烦人的数学作业(数位dp)
    http2.0请求springboot接口
    01背包动态规划
    坑点总结
    [机房测试] 堆石子
    [机房测试] 出租车
    [机房测试] 下棋
    [机房测试] number
    [CSP-S2019] 树的重心
  • 原文地址:https://www.cnblogs.com/feifeicui/p/10216317.html
Copyright © 2011-2022 走看看