zoukankan      html  css  js  c++  java
  • spark3

    Q:Spark和Hadoop的架构区别

    A:Hadoop:MapRedcue由Map和Reduce两个阶段,并通过shuffle将两个阶段连接起来的。但是套用MapReduce模型解决问题,不得不将问题分解为若干个有依赖关系的子问题,每个子问题对应一个MapReduce作业,最终所有这些作业形成一个DAG。

    Spark:是通用的DAG框架,可以将多个有依赖关系的作业转换为一个大的DAG。核心思想是将Map和Reduce两个操作进一步拆分为多个元操作,这些元操作可以灵活组合,产生新的操作,并经过一些控制程序组装后形成一个大的DAG作业。

    Q:Spark和Hadoop的中间计算结果处理区别

    A:Hadoop:在DAG中,由于有多个MapReduce作业组成,每个作业都会从HDFS上读取一次数据和写一次数据(默认写三份),即使这些MapReduce作业产生的数据是中间数据也需要写HDFS。这种表达作业依赖关系的方式比较低效,会浪费大量不必要的磁盘和网络IO,根本原因是作业之间产生的数据不是直接流动的,而是借助HDFS作为共享数据存储系统。

    Spark:在Spark中,使用内存(内存不够使用本地磁盘)替代了使用HDFS存储中间结果。对于迭代运算效率更高。

    Q:Spark和Hadoop的操作模型区别

    A:

    Hadoop:只提供了Map和Reduce两种操作所有的作业都得转换成Map和Reduce的操作。

    Spark:提供很多种的数据集操作类型比如Transformations包括map,filter,flatMap,sample,groupByKey,reduceByKey,union,join,cogroup,mapValues,sort,partionBy等多种操作类型,还提供actions操作包括Count,collect,reduce,lookup,save等多种。这些多种多样的数据集操作类型,给开发上层应用的用户提供了方便。

    Q:spark中的RDD是什么,有哪些特性?

    A:

    Alistofpartitions:一个分区列表,RDD中的数据都存储在一个分区列表中

    Afunctionforcomputingeachsplit:作用在每一个分区中的函数

    AlistofdependenciesonotherRDDs:一个RDD依赖于其他多个RDD,这个点很重要,RDD的容错机制就是依据这个特性而来的

    Optionally,aPartitionerforkey-valueRDDs(eg:tosaythattheRDDishash-partitioned):可选的,针对于kv类型的RDD才有这个特性,作用是决定了数据的来源以及数据处理后的去向

    可选项,数据本地性,数据位置***

    Q:概述一下spark中的常用算子区别(map,mapPartitions,foreach,foreachPatition)

    A:map:用于遍历RDD,将函数应用于每一个元素,返回新的RDD(transformation算子)

    foreach:用于遍历RDD,将函数应用于每一个元素,无返回值(action算子)

    mapPatitions:用于遍历操作RDD中的每一个分区,返回生成一个新的RDD(transformation算子)

    foreachPatition:用于遍历操作RDD中的每一个分区,无返回值(action算子)

    总结:一般使用mapPatitions和foreachPatition算子比map和foreach更加高效,推荐使用。

  • 相关阅读:
    Android学习笔记事件处理机制 希
    DIY我的博客皮肤 希
    CSS学习小札居中问题及解决方案 希
    Entity Framework 教程
    springcahce集成redis 设置过期时间 Hiro
    springboot集成springcache Hiro
    Geotools核心特点以及支持数据的格式和标准
    github使用
    一个jekyll使用大牛的博客
    在没有root权限情况下安装python
  • 原文地址:https://www.cnblogs.com/gkl20173667/p/12254177.html
Copyright © 2011-2022 走看看