zoukankan      html  css  js  c++  java
  • MapReduce历史服务器

    作用

    保存执行job任务节点的执行日志

    将多个节点执行map任务的日志和最终reduce日志聚合在一起

    在mapred-site.xml中添加配置

    1 <property>
    2     <name>mapreduce.jobhistory.address</name>
    3     <value>hostname:10020</value>
    4  </property>
    5 <property>
    6     <name>mapreduce.jobhistory.webapp.address</name>
    7     <value>hostname:19888</value>
    8  </property>
    View Code

    在yarn-site.xml中添加配置

    1 <property>
    2     <name>yarn.log-aggregation-enable</name>
    3     <value>true</value>
    4  </property>
    5 <property>
    6     <name>yarn.log-aggregation.retain-seconds</name> #日志保存时间
    7     <value>604800</value> #默认7天
    8  </property>
    View Code

     启动历史服务器

    mr-jobhistory-daemon.sh start historyserver

    必须在yarn集群启动之前启动历史服务器才能够记录日志。

  • 相关阅读:
    周末总结
    大数据开源框架技术汇总
    oracle迁移mysql总结
    梯度下降
    BFC的概念
    元素类型
    window10安装tensorflow
    学习使用git
    设计模式中的关系
    拟合圆
  • 原文地址:https://www.cnblogs.com/zqzhen/p/12725954.html
Copyright © 2011-2022 走看看