zoukankan      html  css  js  c++  java
  • 理解MapReduce计算构架 2

    用Python编写WordCount程序任务

    程序

    WordCount

    输入

    一个包含大量单词的文本文件

    输出

    文件中每个单词及其出现次数(频数),并按照单词字母顺序排序,每个单词和其频数占一行,单词和频数之间有间隔

    1. 编写map函数,reduce函数

      (1)首先创建一个文件夹

        mkdir wc

           (2)编写两个mapper函数

    2、将其权限作出相应修改

    3、本机上测试运行代码

    4.放到HDFS上运行

    5.下载并上传文件到hdfs上

    6.用Hadoop Streaming命令提交任务

    (1)找到Streaming的Jar包

    (2)配置默认环境变量

    运行结果

  • 相关阅读:
    BZOJ 3522 Hotel
    BZOJ 1864 三色二叉树
    396595
    CodeForces
    CodeForces
    CodeForces
    E. 数字串
    算术基本定理总结
    Cyclic Nacklace 杭电3746
    Period
  • 原文地址:https://www.cnblogs.com/lmq757036131/p/9026604.html
Copyright © 2011-2022 走看看