zoukankan      html  css  js  c++  java
  • Azkaban

    1.Azkaban的安装部署

    azkaban的资源下载

    https://azkaban.github.io/azkaban/docs/latest/#ajax-api

    http://azkaban.github.io/downloads.html

    1.1.配置mysql

    1.1.1.修改mysql的编码

    (1)启动mysql

    service mysqld start

    (2) 登录mysql

    mysql -uroot -p

    (3)执行编码显示

    show variables like 'character%';

    (4)在linux下修改mysql配置文件my.conf

    vi /etc/my.conf

    找到客户端配置[client] 在下面添加 (没有的话创建)

    default-character-set=utf8 //默认字符集为utf8

    在找到[mysqld] 在下面添加

    character-set-server=utf8 //默认字符集为utf8 

    修改好后,重新启动mysql即可

    service mysqld restart

    登录MySQL查询一下

    show variables like 'character%';

    1.1.2.登录mysql执行脚本

    mysql –uroot –p

    #Azkaban创建数据库

    CREATE DATABASE azkaban;

    #授权

    set password=password('123456');
    
    update mysql.user set authentication_string=password('123456') where user='root';
    
    grant all on *.* to azkaban@'%'  identified by 'azkaban';
    
    grant all on *.* to azkaban@'hadoop01'  identified by 'azkaban';
    
    grant all on *.* to azkaban@'localhost'  identified by 'azkaban';

    #刷新权限

    flush privileges;

    #退出

    exit;

    #执行初始化脚本(Azkaban需要的数据表)

    在 /usr/local/ 下面创建了文件夹azkaban

    mkdir azkaban
    

     create-all-sql-2.5.0.sql是我自己的数据库表

     在mysql里面执行

    source  /usr/local/azkaban/create-all-sql-2.5.0.sql
    

     1.2.配置azkaban web server

    1.2.1.解压azkaban压缩包

    下载安装unzip

    yum -y install unzip

    上传压缩包azkaban-web-2.5.0.zip到 /usr/local/azkaban/下

    unzip azkaban-web-2.5.0.zip

    1.2.1.上传mysql驱动包(我们只需要mysql驱动包中的mysql-connector-java-5.1.46-bin.jar)

    (1)可以直接上传mysql-connector-java-5.1.46-bin.jar 至 azkaban-web-2.5.0/extlib/

    (2)或者

    解压MySQL驱动包
    [lan@master azkaban]$ tar  -xvf mysql-connector-java-5.1.46.tar.gz
    [[lan@masterazkaban]$cp mysql-connector-java-5.1.46/mysql-connector-java-5.1.46-bin.jar azkaban-web-2.5.0/extlib/

    1.3.配置jetty.ssl

    keytool -keystore keystore -alias jetty -genkey -keyalg RSA
    		执行完上面的命令之后显示如下信息:
    		Enter keystore password:  password
    		What is your first and last name? 您的名字与姓氏是什么?
    		[Unknown]:  jetty.mortbay.org
    		What is the name of your organizational unit?您的组织单位名称是什么?
    		[Unknown]:  Jetty
    		What is the name of your organization?您的组织名称是什么?
    		[Unknown]:  Mort Bay Consulting Pty. Ltd.
    		What is the name of your City or Locality?您所在的城市或区域名称是什么?
    		[Unknown]:
    		What is the name of your State or Province?您所在的州或省份名称是什么?
    		[Unknown]:
    		What is the two-letter country code for this unit?该单位的两字母国家代码是什么
    		[Unknown]:
    		Is CN=jetty.mortbay.org, OU=Jetty, O=Mort Bay Consulting Pty. Ltd.,
    		L=Unknown, ST=Unknown, C=Unknown correct?正确吗?
    		[no]:  是
    		Enter key password for <jetty>
    		(RETURN if same as keystore password):  password
    		注意:这里keystore的密码为password;key的密码为password可自行修改
    

    1.3.1.生成 keystore

    完成上述工作后,将在当前目录生成 keystore 证书文件,keystore 考贝到 azkaban web服务器根目录中,命令如下

    [lan@master ~]$ cp keystore azkaban/azkaban-web-2.5.0/

    1.4.修改配置文件

    1.4.1.进入azkaban web服务器安装目录 conf目录,修改azkaban.properties文件

    [lan@master azkaban]$ cd azkaban-web-2.5.0/conf/
    [lan@master conf]$ vi  azkaban.properties
    #Azkaban Personalization Settings
    #服务器UI名称,用于服务器上方显示的名字
    azkaban.name=Test      
    #描述                                                          
    azkaban.label=My Local Azkaban  
    #UI颜色                            
    azkaban.color=#FF3601     
    #默认servlet路径                                            
    azkaban.default.servlet.path=/index 
    #默认根web目录                        
    web.resource.dir=web/            
    #默认时区,已改为亚洲/上海默认为美国                                  
    default.timezone.id=Asia/Shanghai                           
     
    #Azkaban UserManager class
    #用户权限管理默认类
    user.manager.class=azkaban.user.XmlUserManager   
    #用户配置,具体配置参加下文
    user.manager.xml.file=conf/azkaban-users.xml              
    #Loader for projects
    # global配置文件所在位置
    executor.global.properties=conf/global.properties 
    #  
    azkaban.project.dir=projects                                                
    #数据库类型
    database.type=mysql
    #端口号                                                             
    mysql.port=3306
    #数据库连接IP                                                                      
    mysql.host=master    
    #数据库实例名                                              
    mysql.database=azkaban 
    #数据库用户名                                                   
    mysql.user=azkaban  
    #数据库密码                                                              
    mysql.password=azkaban 
    #最大连接数                                                         
    mysql.numconnections=100                                                  
    # Velocity dev mode
    velocity.dev.mode=false
    # Jetty服务器属性.
    #最大线程数
    jetty.maxThreads=25 
    #Jetty SSL端口                                                              
    jetty.ssl.port=8443 
    #Jetty端口                                                                 
    jetty.port=8081 
    #SSL文件名                                                                        
    jetty.keystore=keystore   
    #SSL文件密码                                                       
    jetty.password=password     
    #Jetty主密码 与 keystore文件相同                                                    
    jetty.keypassword=password     
    #SSL文件名                          
    jetty.truststore=keystore  
    # SSL文件密码                                                            
    jetty.trustpassword=password                                                  
    #执行服务器属性
    #执行服务器端口
    executor.port=12321                                                              
    #邮件设置  (可以不设置)
    #发送邮箱
    mail.sender=sunboyscf@163.com    
    #发送邮箱smtp地址                                  
    mail.host=smtp.163.com                                                       
    #发送邮件时显示的名称
    mail.user=sunboyscf   
    #邮箱密码                                                             
    mail.password=**********      
    #任务失败时发送邮件的地址                                          
    job.failure.email=sunboyscf@163.com 
    #任务成功时发送邮件的地址                             
    job.success.email=sunboyscf@163.com    
    #                      
    lockdown.create.projects=false  
    #缓存目录                                        
    cache.directory=cache
    

     1.4.2.修改文件权限

    chmod 755 /usr/local/azkaban/azkaban-web-2.5.0/bin/*

    1.5.配置Azkaban Executor Server

    1.5.1解压

    上传压缩包azkaban-executor-2.5.0.zip至/usr/local/azkaban/下

    unzip azkaban-executor-2.5.0.zip

    1.5.2.azkaban执行服务器配置

    (1)进入执行服务器安装目录修改配置文件

     cd azkaban-executor-2.5.0/conf/
    
     vi azkaban.properties
    #Azkaban
    #时区
    default.timezone.id=Asia/Shanghai                                            
    #Azkaban JobTypes 插件配置
    #jobtype 插件所在位置
    azkaban.jobtype.plugin.dir=plugins/jobtypes                 
    #Loader for projects
    executor.global.properties=conf/global.properties
    azkaban.project.dir=projects
    #数据库设置
    #数据库类型(目前只支持mysql)
    database.type=mysql   
    #数据库端口号                                                  
    mysql.port=3306  
    #数据库IP地址                                                                              
    mysql.host=master
    #数据库实例名                                                                 
    mysql.database=azkaban 
    #数据库用户名                                                              
    mysql.user=azkaban 
    #数据库密码                                                          
    mysql.password=azkaban 
    #最大连接数                                                                 
    mysql.numconnections=100                                                         
    #执行服务器配置
    #最大线程数
    executor.maxThreads=50        
    #端口号(如修改,请与web服务中致)                                                    
    executor.port=12321
    #线程数                                                              
    executor.flow.threads=30 
    

     1.5.3.修改文件权限

    chmod 755 /usr/local/azkaban/azkaban-executor-2.5.0/bin/*

    1.6.用户配置

    进入azkaban web服务器conf目录,修改azkaban-users.xml

    增加管理员用户

     cd azkaban-web-2.5.0/conf/
    
     vi azkaban-users.xml
    
    增加红色字体部分
    <azkaban-users>
    <user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
            		<user username="metrics" password="metrics" roles="metrics"/>
            		<user username="admin" password="admin" roles="admin,metrics" />
            		<role name="admin" permissions="ADMIN" />
            		<role name="metrics" permissions="METRICS"/>
    </azkaban-users>
    

    1.6.启动

    1.6.1web服务器

    azkaban web服务器目录下执行启动命令

    [lan@master azkaban-web-2.5.0]$ bin/azkaban-web-start.sh

    :只能要web服务器根目录运行

    1.6.1.执行服务器

    在执行服务器目录下执行启动命令

    [lan@master azkaban-executor-2.5.0]$ bin/azkaban-executor-start.sh

    :只能要执行服务器根目录运行

     

  • 相关阅读:
    django中使用celery
    django中使用Redis
    Nginx编译和安装(超简单版)
    cookie和session
    forms组件
    反向解析(reverse())
    QuerySet对象
    models.py里的字段以及参数详解
    Q查询和F查询
    JgrId 无数据返回设置
  • 原文地址:https://www.cnblogs.com/wangshuang123/p/10996987.html
Copyright © 2011-2022 走看看