zoukankan      html  css  js  c++  java
  • azkaban概述

    1. 什么是 Azkaban
    Azkaban 是由 Linkedin 公司推出的一个批量工作流任务调度器,主要用于在一个工作流内以一个特定的顺序运行一组工作和流程,它的配置是通过简单的 key:value 对的方式,通过配置中的 Dependencies 来设置依赖关系。Azkaban 使用 job 配置文件建立任务之间的依赖关系,并提供一个易于使用的 web 用户界面维护和跟踪你的工作流。
    英文学习文档:
    https://azkaban.readthedocs.io/en/latest/#

    2. 为什么需要工作流调度系统
    (1)一个完整的数据分析系统通常都是由大量任务单元组成:Shell 脚本程序,Java 程序,MapReduce 程序、Hive 脚本等
    (2)各任务单元之间存在时间先后及前后依赖关系
    (3)为了很好地组织起这样的复杂执行计划,需要一个工作流调度系统来调度执行;例如,我们可能有这样一个需求,某个业务系统每天产生 20G 原始数据,我们每天都要对其进行处理,处理步骤如下所示:

    • 通过 Hadoop 先将原始数据上传到 HDFS 上(HDFS 的操作);
    • 使用 MapReduce 对原始数据进行清洗(MapReduce 的操作);
    • 将清洗后的数据导入到 hive 表中(hive 的导入操作);
    • 对 Hive 中多个表的数据进行 JOIN 处理,得到一张 hive 的明细表(创建中间表);
    • 通过对明细表的统计和分析,得到结果报表信息(hive 的查询操作);

      3. Azkaban 特点
      (1)兼容任何版本的 hadoop
      (2)易于使用的 Web 用户界面
      (3)简单的工作流的上传
      (4)方便设置任务之间的关系
      (5)调度工作流
      (6)模块化和可插拔的插件机制
      (7)认证/授权(权限的工作)
      (8)能够杀死并重新启动工作流
      (9)有关失败和成功的电子邮件提醒

    4. Azkaban 的架构
    Azkaban 由三个关键组件构成:

    (1)AzkabanWebServer:AzkabanWebServer 是整个 Azkaban 工作流系统的主要管理者,它用户登录认证、负责 project 管理、定时执行工作流、跟踪工作流执行进度等一系列任务。
    (2)AzkabanExecutorServer:负责具体的工作流的提交、执行,它们通过 mysql 数据库来协调任务的执行。
    (3)关系型数据库(MySQL):存储大部分执行流状态,AzkabanWebServer 和AzkabanExecutorServer 都需要访问数据库。

    参考
    https://cloud.tencent.com/developer/article/1586234

  • 相关阅读:
    iOS 10适配知识点
    iOS中的【库】
    修改UISearchBar的Cancel按钮的颜色和文字
    UIScrollView 滑动手势与右滑返回冲突
    Sqoop使用手册
    Hbase常用操作CRUD(增删改查)
    HBase 常用Shell命令
    搭建HBase完全分布式集群
    Mac下安装HBase及详解
    使用brew安装软件
  • 原文地址:https://www.cnblogs.com/xl717/p/13277511.html
Copyright © 2011-2022 走看看