zoukankan      html  css  js  c++  java
  • Java搭建MapReduce具体步骤

    一、使用Configuration

      1、构建新的作业

    Configuration conf=new Configuration();
    Job job=Job.getInstance(conf);
    job.setJarByClass(MyWordCount.class);

      2、设置输入输出目录

    FileInputFormat.addInputPath(job, new Path("/wordcount"));
    FileOutputFormat.setOutputPath(job, new Path("/wordcount_result_2"));  //  加/在根目录,不加/在家目录

      3、设置Mapper+Reducer类

    job.setMapperClass(MyMapper.class);
    job.setReducerClass(MyReduce.class);

      4、设置输出格式

    job.setOutputKeyClass(Text.class);
    job.setOutputValueClass(IntWritable.class);

      5、提交执行作业

    System.exit(job.waitForCompletion(true)?0:1);

    二、使用Configured + Tool

      1、构建新的作业

    Configuration conf=getConf();
    Job job=Job.getInstance(conf);
    job.setJarByClass(MaxTemp.class);

      2、使用-Dinpath,-Doutpath输入输入输出路径

    Path inpath=new Path(conf.get("inpath"));
    Path outpath=new Path(conf.get("outpath"));
    FileInputFormat.addInputPath(job, inpath);
    FileOutputFormat.setOutputPath(job, outpath);

      3、设置Mapper+Reducer类

    job.setMapperClass(MaxTempMapper.class);
    job.setReducerClass(MaxTempReducer.class);

      4、设置Mapper Reducer输出类型

    job.setOutputValueClass(IntWritable.class);
    job.setOutputKeyClass(IntWritable.class);

      5、等待程序运行结束退出JVM

    return job.waitForCompletion(true)?0:1;
  • 相关阅读:
    C#面向对象编程
    WPF Storyboard的启动
    WPF中的窗体Show()和ShowDialog()区别。
    四元数
    小学生四则运算
    小学生四则运算
    javascript ===与==的区别
    a标签的href与onclick中使用js的区别
    10步让你成为更优秀的程序员
    检查SQL Server被哪个进程占用,且杀进程。
  • 原文地址:https://www.cnblogs.com/qiangang/p/13680784.html
Copyright © 2011-2022 走看看