zoukankan      html  css  js  c++  java
  • 大数据应用期末总评

    作业要求来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3363

    本案例主要分析在豆瓣爬取的《三体》短评数据,数据字段包括地址、评论时间、评论内容、评价程度、用户名和投票数6个属性值,将数据上传到hdfs的hive数据仓库中进行简要分析。

    一、建立一个运行本案例的目录bigdatacase、dataset:



    将文本拷贝到dataset目录下并查看文件:

    二、预处理文件,将csv生成txt文件:

    1、删除第一行字段:

    2、预处理字段:

    每个字段用 隔开,这里有6个字段。

    三、将文本文件上传到hive:

    1、启动hdfs:

    2、在HDFS上建立/bigdatacase/dataset文件夹,将文件上传:



    3、启动mysql:

    4、在hive中创建数据库dblab:

    5、在把hdfs中的“/bigdatabase/dataset”目录下的数据加载到了数据仓库的hive中的:

    (在这里遇到了一个问题就是,如果出现以下情况,则修改下字段名称,这里我将date改成riqi就可以了):

    6、在hive中查看数据,查找表的前10条记录:

    四、Hive数据分析:

    (因为上面那张边st_table分析的时候有错误分析不正确,故删除重复上述步骤新建st3.txt文本文件,以下采用st3表,并且该文本文件因为事先已经排序好,故这里不进行排序)
    1、查询不重复的用户名:

    通过distinct username 查询出不重复的用户名有多少1871个,总数量2000左右,说明大部分还是比较真实的,但也有部分刷评论的。

    2、查询投票数前20的评价程度:

    查询结果显示大部分还是呈“推荐”趋势的。
    3、查询评价为“力荐”的数量:

    4、查询评价为“推荐”的数量:

    5、查询评价为“较差”的数量:

    6、查询评价为“很差”的数量:

    通过3、4、5、6的查询可以得出推荐和力荐的总数量达1442,占总比的72%,较差和很差的数量占总数的3.1%,说明大部分还是给了好评居多。
    7、查询前10的用户所在的城市:

    通过分组排序并且去除“关注此人”这个脏数据后,查询用户所在城市,大部分还是集中在一线城市,说明评论的还是有一定的可信度的,毕竟一线城市的用户平均阅读水平较高。
    8、查询投票数最高的前20的用户的评论时间:

    通过查询的到的评价时间可以的高票评价还是集中在2013、2014、2015,而该作品得奖时间是2015,说明评价有一定的参考性。

    9、查询北京的用户评价的内容:

    10、查询上海、的用户评价的内容:

    11、查询广州的用户评价的内容:

    通过9、10、11的分析得出一线城市用户的评价可看出高票评价观点鲜明,好评的居多,但是有部分不认同和反对,说明评价还有有一定的客观性的。

  • 相关阅读:
    现代软件工程 第一章 概论 第4题——邓琨
    现代软件工程 第一章 概论 第9题——邓琨
    现代软件工程 第一章 概论 第7题——张星星
    现代软件工程 第一章 概论 第5题——韩婧
    hdu 5821 Ball 贪心(多校)
    hdu 1074 Doing Homework 状压dp
    hdu 1074 Doing Homework 状压dp
    hdu 1069 Monkey and Banana LIS变形
    最长上升子序列的初步学习
    hdu 1024 Max Sum Plus Plus(m段最大子列和)
  • 原文地址:https://www.cnblogs.com/wt123/p/11045725.html
Copyright © 2011-2022 走看看