zoukankan      html  css  js  c++  java
  • Hadoop综合大作业

     要求:

    1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)进行词频统计。

    网上下载经典长篇英文小说The Old Man and Sea,保存到wc文件中,命名为sea.txt。

      启动hadoop集群

    将wc文件夹的sea.txt上传文件至hdfs的data文件夹

    启动hive,创建数据库和文档表,

      

      导入文件内容并查看

      

      用HQL进行词频统计,结果放在表sea_count里

      

      查看统计结果的前30个

      

    2.用Hive对爬虫大作业产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

    对虎扑网关于巴塞罗那的新闻进行爬取数据分析,并根据新闻进行词频统计,产生的csv如下:

     

    创建表bas并将csv数据导入到表中

    显示前20个数据

    结果分析:梅西作为巴萨的头号球星,在新闻中基本会被提及,C罗、皇马是梅西和巴萨的竞争对手,巴萨每年都是西甲冠军的热门,最近格列兹曼与巴萨转会绯闻。 

  • 相关阅读:
    mobile app 的总结
    ie和火狐javascript区别
    zepto源码注释
    ie6bug
    html5游戏网站
    jquery作者封装函数
    vue element 动态表格
    uniapp 对 系统的控制,全屏,系统虚拟键盘,手机导航,强制横屏
    环形图表记录
    清除所有的滚动条
  • 原文地址:https://www.cnblogs.com/ldg-01/p/9084763.html
Copyright © 2011-2022 走看看