zoukankan      html  css  js  c++  java
  • 大数据学习之路-简介

    1、什么是大数据

    基本概念

    《数据处理》

    在互联网技术发展到现今阶段,大量日常、工作等事务产生的数据都已经信息化,人类产生的数据量相比以前有了爆炸式的增长,以前的传统的数据处理技术已经无法胜任,需求催生技术,一套用来处理海量数据的软件工具应运而生,这就是大数据!

    处理海量数据的核心技术:

    海量数据存储:分布式

    海量数据运算:分布式

    这些核心技术的实现是不需要用户从零开始造轮子的

    存储和运算,都已经有大量的成熟的框架来用

    存储框架:

    HDFS——分布式文件存储系统(HADOOP中的存储框架)

    HBASE——分布式数据库系统

    KAFKA——分布式消息缓存系统(实时流式数据处理场景中应用广泛)

    运算框架:(要解决的核心问题就是帮用户将处理逻辑在很多机器上并行)

    MAPREDUCE—— 离线批处理/HADOOP中的运算框架

    SPARK —— 离线批处理/实时流式计算

    STORM —— 实时流式计算

    辅助类的工具(解放大数据工程师的一些繁琐工作):

        HIVE —— 数据仓库工具:可以接收sql,翻译成mapreduce或者spark程序运行

    FLUME——数据采集

    SQOOP——数据迁移

    ELASTIC SEARCH —— 分布式的搜索引擎

    .......

    换个角度说,大数据是:

    1、有海量的数据

    2、有对海量数据进行挖掘的需求

    3、有对海量数据进行挖掘的软件工具(hadoop、spark、storm、flink、tez、impala......)

    2.大数据在现实生活中的具体应用

    数据处理的最典型应用:公司的产品运营情况分析   友盟

    电商推荐系统:基于海量的浏览行为、购物行为数据,进行大量的算法模型的运算,得出各类推荐结论,以供电商网站页面来为用户进行商品推荐

    精准广告推送系统:基于海量的互联网用户的各类数据,统计分析,进行用户画像(得到用户的各种属性标签),然后可以为广告主进行有针对性的精准的广告投放

  • 相关阅读:
    python习题-用交集方式产生随机密码
    python习题-产生8位随机密码要包含大小写及数字
    python习题-替换敏感词
    python习题-注册用户程序
    Python习题-登录
    Python习题-统计日志中访问次数超过限制的IP
    PyCharm配置过程记录
    jmeter 多压力机并发测试过程
    Jmete基础使用
    Linux 中直接 I/O 机制的介绍
  • 原文地址:https://www.cnblogs.com/ggnbnb/p/9690738.html
Copyright © 2011-2022 走看看