zoukankan      html  css  js  c++  java
  • Hadoop综合大作业

    一、用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。

    1、启动hadoop

    2、hdfs上创建文件夹并查看

    3、上传英文词频统计文本至hdfs

    4、启动hive

    5、创建novel原始文档表

    6、导入文件内容到表novel并查看

    7、用HQL进行词频统计,结果放在表k_word_count里

    8、查看统计结果

    二、用Hive对产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

    1、产生CSV文件一览图

    2、删除文件的第一条数据并查看

    3、上传文件到hdfs

    4、启动hive

    5、导入文件内容到表到docs中并查看

    6、总结

    由于我爬的是学校的新闻,是一个新闻类网站,可以用来分析的数据并不多,所以只爬取了新闻标题、时间等信息。

    通过这个大作业,我对如何进行大数据分析有一定的了解,对使用hadoop,hive等也有一定的了解。

  • 相关阅读:
    MySql—修改权限
    linux apache Tomcat配置SSL(https)步骤
    spark-shell启动错误
    spark
    Ubuntu不能连接网络
    NSGA-II算法学习
    SpringBoot集成mybatis,同时读取一个数据库中多个数据表
    设置虚拟机ip地址
    发送邮件
    spring session
  • 原文地址:https://www.cnblogs.com/LauSir139/p/9087965.html
Copyright © 2011-2022 走看看