zoukankan      html  css  js  c++  java
  • hadoop综合大作业

    作业要求来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339

    本案例主要分析在豆瓣爬取的短评数据,数据字段包括地址、评论时间、评论内容、评价程度、用户名和投票数6个属性值,将数据上传到hdfs的hive数据仓库中进行简要分析。

    一、建立一个运行本案例的目录bigdatacase、dataset:

    上传并查看文件

    二、预处理文件,将csv生成txt文件:

    1、删除第一行字段:

    2、预处理字段:

    三、将文本文件上传到hive:

    1、启动hdfs:

    2、在HDFS上建立/bigdatacase/dataset文件夹,将文件上传:

    3、启动mysql:

    4、在hive中创建数据库dblab:

    5、在把hdfs中的“/bigdatabase/dataset”目录下的数据加载到了数据仓库的hive中的,在hive中查看数据,查找表的前10条记录:

    四、Hive数据分析:

    1、查询不重复的用户名:

     通过distinct username 查询出不重复的用户名有多少1871个,总数量2000左右,说明大部分还是比较真实的,但也有部分刷评论的。

    2、查询前10被点赞情况:

    3、查询评价:

    4、查询回复的数量:

    5、查询数据一共有多少条

    6、查询name属性是否相同

    五、总结

    通过本案例,了解hdfs和hive数据仓库的大数据分析基本的原理和操作,在大量数据处理方面,hadoop在数据容纳和分析方面有着先天的优势,步骤和分析的数据还要进一步熟悉,步骤出错很容易引起一大串问题,爬取的数据要有有意义。

  • 相关阅读:
    HelloWorld入门程序
    list的几种遍历方式
    遍历map的几种方法
    Java动态代理
    七月七日学习记录
    七月六日学习报告
    钢镚儿使用体验
    TD tree 使用体验
    学习笔记154—Matlab 如何写入txt?
    学习笔记153—matlab中小数如何取整?
  • 原文地址:https://www.cnblogs.com/mofan2233/p/11031744.html
Copyright © 2011-2022 走看看