zoukankan      html  css  js  c++  java
  • Oozie 实战之 Hive

    1.编辑job.propertiers

    nameNode=hdfs://cen-ubuntu.cenzhongman.com:8020
    jobTracker=localhost:8032
    queueName=default
    oozieAppsRoot=oozie-apps

    oozie.use.system.libpath=true

    oozie.wf.application.path=({nameNode}/user/cen/){oozieAppsRoot}/hive-select/
    outputDir=hive-select/output

    2.添加lib文件夹

    3.复制MySQL的API到lib下

    4.复制hive-site.xml文件到目录下

    5.编辑workflow

      <action name="hive-node">
          <hive xmlns="uri:oozie:hive-action:0.5">
              <job-tracker>${jobTracker}</job-tracker>
              <name-node>${nameNode}</name-node>
              <prepare>
                  <delete path="${nameNode}/user/cen/${oozieAppsRoot}/${outputDir}"/>
              </prepare>
              <job-xml>${nameNode}/user/cen/${oozieAppsRoot}/hive-select/hive-site</job-xml>
              <configuration>
                  <property>
                      <name>mapred.job.queue.name</name>
                      <value>${queueName}</value>
                  </property>
              </configuration>
              <script>select.sql</script>
              <param>OUTPUT=/user/cen/${oozieAppsRoot}/${outputDir}</param>
          </hive>
          <ok to="end"/>
          <error to="fail"/>
      </action>
    
      <kill name="fail">
          <message>Hive failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
      </kill>
      <end name="end"/>
    

    注意事项(对比example文件)

    • 更新版本两个
    • 无需使用新api
    • 添加({nameNode}/user/cen/){oozieAppsRoot}/hive-select/hive-site用以说明配置文件位置
    • 添加指明SQL文件
    • 添加OUTPUT=/user/cen/({oozieAppsRoot}/){outputDir}说明输出目录[可选]

    6.上传文件

    7.执行文件

    export OOZIE_URL=http://cen-ubuntu:11000/oozie/
    bin/oozie job -config oozie-apps/hive-select/job.properties -run
  • 相关阅读:
    nginx,php for window 7(64bit) install
    ret.concat.apply([],ret)
    JavaScript:constructor属性
    jquery 插件address
    学习笔记(C++)
    关于网站缓存设计的几点思考
    Ubuntu20.04 换源 Learner
    什么叫程序集
    c# 中堆和栈的区别
    命名空间和类的概念
  • 原文地址:https://www.cnblogs.com/cenzhongman/p/7248067.html
Copyright © 2011-2022 走看看