zoukankan      html  css  js  c++  java
  • spark生态体系了解学习(二)

    Spark的处理速度要比Hadoop快100倍以上。

    Spark在批处理和流式处理上都具有极佳的性能。这是因为Spark使用了一种叫DAG的最佳调度,以及查询优化和物理执行引擎。

    可以使用Java,Scala,Python,R,SQL快速写一个Spark应用。

    Spark提供了超过80中操作使它更容易生成平行化的应用。它也可以使用Scala,Python,R,SQL shell 进行交互操作。

    结合SQL,流处理,复杂的分析。

    Spark提供了一栈式集应用:SQL,数据框架,机器学习框架,Graphx图像处理以及Spark流处理。你可以结合这些应用无缝地在同一个应用上使用。

    Spark可以运行在Hadoop,Mesos,Kubernets,standalone或者云上。它可以畜栏里多种数据源。

    Map Reduce有以下缺点:
        代码繁琐;
        只能够支持map和reduce方法;
        执行效率低下;
        不适合迭代多次、交互式、流式的处理

    而Spark的优点正好弥补了MapReduce的缺点:
        批处理(离线):MapReduce、Hive、Pig
        流式处理(实时): Storm、JStorm
        交互式计算:Impala

  • 相关阅读:
    CUDA[2] Hello,World
    mysql操作
    virsh 连接虚拟机 (vnc 或 控制台)
    ssh访问流程
    使用ceph-deploy进行ceph安装
    openstack 的horizon的结构
    django 后台格式化数据库查询出的日期
    web 应用的部署
    工具
    python性能优化
  • 原文地址:https://www.cnblogs.com/zhangzhongkun/p/12221468.html
Copyright © 2011-2022 走看看