zoukankan      html  css  js  c++  java
  • Azkaban安装

    1Azkaban安装部署

    azkaban-web-server-2.5.0.tar.gz

    azkaban-executor-server-2.5.0.tar.gz

    azkaban-sql-script-2.5.0.tar.gz

    2、安装

    将安装文件上传到集群,最好上传到安装 sparkhivesqoop的机器上,方便命令的执行

      mkdir azkaban

    azkaban web服务器安装

    解压azkaban-web-server-2.5.0.tar.gz

      tar zxvf azkaban-web-server-2.5.0.tar.gz

    将解压后的azkaban-web-server-2.5.0 移动到 azkaban目录中,并重新命名 server

      mv azkaban-web-server-2.5.0 ../azkaban

         cd ../azkaban

         mv azkaban-web-server-2.5.0  server

    azkaban 执行服器安装

    解压azkaban-executor-server-2.5.0.tar.gz

      tar zxvf azkaban-executor-server-2.5.0.tar.gz

    将解压后的azkaban-executor-server-2.5.0 移动到 azkaban目录中,并重新命名 executor

      mv azkaban-executor-server-2.5.0  ../azkaban

      cd ../azkaban

      mv azkaban-executor-server-2.5.0  executor

    azkaban脚本导入

    解压: azkaban-sql-script-2.5.0.tar.gz

      tar zxvf azkaban-sql-script-2.5.0.tar.gz

    将解压后的mysql 脚本,导入到mysql:

    进入mysql

      mysql> create database azkaban;

      mysql> use azkaban;

        Database changed

      mysql> source /home/hadoop/azkaban-2.5.0/create-all-sql-2.5.0.sql;

    创建SSL配置(123456

      keytool -keystore keystore -alias jetty -genkey -keyalg RSA

    运行此命令后,会提示输入当前生成 keystor的密码及相应信息,输入的密码请劳记,信息如下:

    输入keystore密码:

    再次输入新密码:

    您的名字与姓氏是什么?

      [Unknown]

    您的组织单位名称是什么?

      [Unknown]

    您的组织名称是什么?

      [Unknown]

    您所在的城市或区域名称是什么?

      [Unknown]

    您所在的州或省份名称是什么?

      [Unknown]

    该单位的两字母国家代码是什么

      [Unknown]:  CN

    CN=Unknown, OU=Unknown, O=Unknown, L=Unknown, ST=Unknown, C=CN 正确吗?

      []:  y

    输入<jetty>的主密码

    (如果和 keystore 密码相同,按回车):

    再次输入新密码:

    完成上述工作后,将在当前目录生成 keystore 证书文件,keystore 考贝到 azkaban web服务器根目录中.

      cp keystore azkaban/server

    配置文件

    注:先配置好服务器节点上的时区

    1、先生成时区配置文件Asia/Shanghai,用交互式命令 tzselect 即可

    2、拷贝该时区文件,覆盖系统本地时区配置

      cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime  

    azkaban web服务器配置

    进入azkaban web服务器安装目录 conf目录

    修改azkaban.properties文件

      vi azkaban.properties

    内容说明如下:

    #Azkaban Personalization Settings

    azkaban.name=Test #服务器UI名称,用于服务器上方显示的名字

    azkaban.label=My Local Azkaban #描述

    azkaban.color=#FF3601  #UI颜色

    azkaban.default.servlet.path=/index   #

    web.resource.dir=web/    #默认根web目录

    default.timezone.id=Asia/Shanghai #默认时区,已改为亚洲/上海 默认为美国

    #Azkaban UserManager class

    user.manager.class=azkaban.user.XmlUserManager   #用户权限管理默认类

    user.manager.xml.file=conf/azkaban-users.xml      #用户配置,具体配置参加下文

    #Loader for projects

    executor.global.properties=conf/global.properties    # global配置文件所在位置

    azkaban.project.dir=projects    #

    database.type=mysql   #数据库类型

    mysql.port=3306       #端口号

    mysql.host=192.168.46.152   #数据库连接IP

    mysql.database=azkaban  #数据库实例名

    mysql.user=root         #数据库用户名

    mysql.password=root     #数据库密码

    mysql.numconnections=100 #最大连接数

    # Velocity dev mode

    velocity.dev.mode=false

    # Jetty服务器属性.

    jetty.maxThreads=25  #最大线程数

    jetty.ssl.port=8443  #Jetty SSL端口

    jetty.port=8081      #Jetty端口

    jetty.keystore=keystore #SSL文件名

    jetty.password=123456   #SSL文件密码

    jetty.keypassword=123456 #Jetty主密码 与 keystore文件相同

    jetty.truststore=keystore #SSL文件名

    jetty.trustpassword=123456 # SSL文件密码

    # 执行服务器属性

    executor.port=12321  #执行服务器端口

    # 邮件设置

    mail.sender=xxxxxxxx@163.com  #发送邮箱

    mail.host=smtp.163.com   #发送邮箱smtp地址

    mail.user=xxxxxxxx       #发送邮件时显示的名称

    mail.password=********** #邮箱密码

    job.failure.email=xxxxxxxx@163.com  #任务失败时发送邮件的地址

    job.success.email=xxxxxxxx@163.com  #任务成功时发送邮件的地址

    lockdown.create.projects=false      #

    cache.directory=cache               #缓存目录

    azkaban 执行服务器配置

    进入执行服务器安装目录conf,修改azkaban.properties

      vi azkaban.properties

    #Azkaban

    default.timezone.id=Asia/Shanghai   #时区  

    # Azkaban JobTypes 插件配置

    azkaban.jobtype.plugin.dir=plugins/jobtypes #jobtype 插件所在位置  

    #Loader for projects

    executor.global.properties=conf/global.properties

    azkaban.project.dir=projects

    #数据库设置

    database.type=mysql  #数据库类型(目前只支持mysql)

    mysql.port=3306      #数据库端口号

    mysql.host=192.168.46.152 #数据库IP地址

    mysql.database=azkaban    #数据库实例名

    mysql.user=root        #数据库用户名

    mysql.password=root     #数据库密码

    mysql.numconnections=100  #最大连接数

    # 执行服务器配置

    executor.maxThreads=50    #最大线程数

    executor.port=12321       #端口号(如修改,请与web服务中一致)

    executor.flow.threads=30  #线程数

    用户配置

    进入azkaban web服务器conf目录,修改azkaban-users.xml

    vi azkaban-users.xml

    <azkaban-users>

    <user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />

    <user username="metrics" password="metrics" roles="metrics"/>

    <user username="admin" password="admin" roles="admin,metrics" />

    <role name="admin" permissions="ADMIN" />

    <role name="metrics" permissions="METRICS"/>

    </azkaban-users>

    启动

    web服务器

    azkaban web服务器目录下执行启动命令

    bin/azkaban-web-start.sh

    :web服务器根目录运行

       nohup bin/azkaban-web-start.sh 1>~/tmp/stdout.log 2>~/tmp/stderr.log

      

    执行服务器

    在执行服务器目录下执行启动命令

    bin/azkaban-executor-start.sh 1>~/tmp/stdout.log 2>~/tmp/stderr.log

    :只能要执行服务器根目录运行

    启动完成后,在浏览器(建议使用谷歌浏览器)中输入https://服务器IP地址:8443 ,即可访问azkaban服务了.在登录中输入刚才新的户用名及密码,点击 login.

  • 相关阅读:
    Recommended Books for Algo Trading in 2020
    Market Making is simpler than you think!
    Top Crypto Market Makers of 2020
    Top Crypto Market Makers, Rated and Reviewed
    爬取伯乐在线文章(五)itemloader
    爬取伯乐在线文章(四)将爬取结果保存到MySQL
    爬取伯乐在线文章(三)爬取所有页面的文章
    爬取伯乐在线文章(二)通过xpath提取源文件中需要的内容
    爬取伯乐在线文章(一)
    爬虫去重策略
  • 原文地址:https://www.cnblogs.com/atomicbomb/p/6832283.html
Copyright © 2011-2022 走看看