zoukankan      html  css  js  c++  java
  • hadoop集群搭建--mapreduce on yarn--yarn-HA模式

    不需要停掉HDFS的进程,可以直接修改配置文件,启动YARN

    1. cp mapred-site.xml.template mapred-site.xml

     vi mapred-site.xml  

    <!--指定mapreduce程序运行在yarn平台上-->
    <property>
      <name>mapreduce.framework.name</name>
      <value>yarn</value>
    </property>

    2. vi  yarn-site.xml

    <!--指定启动运行mapreduce上的nodemanager的运行服务-->
    <property>
      <name>yarn.nodemanager.aux-services</name>
      <value>mapreduce_shuffle</value>
    </property>

    <property>
      <name>yarn.resourcemanager.ha.enabled</name>
      <value>true</value>
    </property>

    <property>
      <name>yarn.resourcemanager.zk-address</name>
      <value>bd27-server2.rabbit.com:2181,bd27-server3.rabbit.com:2181,bd27-server.rabbit.com:2181</value>
    </property>

    <property>
      <name>yarn.resourcemanager.cluster-id</name>
      <value>yarncluster</value>
    </property>

    <property>
      <name>yarn.resourcemanager.ha.rm-ids</name>
      <value>rm1,rm2</value>
    </property>

    <property>
      <name>yarn.resourcemanager.hostname.rm1</name>
      <value>bd27-server.rabbit.com</value>
    </property>

    <property>
      <name>yarn.resourcemanager.hostname.rm2</name>
      <value>bd27-server2.rabbit.com</value>
    </property>

     

    在两个被选为resourcemanager的节点上执行:

      yarn-daemon.sh start resourcemanager

    执行:start-yarn.sh  启动nodemanager

    到zk的客户端看一下哪台节点的resourcemanager是active的:

    zkCli.sh

    get /yarn-leader-election/yarncluster/ActiveStandbyElectorLock

  • 相关阅读:
    Java Web idea Filter配置(过滤器配置)
    JAVA中一些定时器的使用
    数据库事务的四大特性
    SQL语句中----删除表数据drop、truncate和delete的用法
    什么是索引?Mysql目前主要的几种索引类型
    MySQL练习题
    测试6--模拟两人在对话1000次
    实验室每日一题WP-12月7日
    实验室每日一题WP-12月5日
    实验室每日一题WP-12月4日
  • 原文地址:https://www.cnblogs.com/rabbit624/p/14495278.html
Copyright © 2011-2022 走看看