zoukankan      html  css  js  c++  java
  • hadoop集群搭建--mapreduce on yarn--yarn-HA模式

    不需要停掉HDFS的进程,可以直接修改配置文件,启动YARN

    1. cp mapred-site.xml.template mapred-site.xml

     vi mapred-site.xml  

    <!--指定mapreduce程序运行在yarn平台上-->
    <property>
      <name>mapreduce.framework.name</name>
      <value>yarn</value>
    </property>

    2. vi  yarn-site.xml

    <!--指定启动运行mapreduce上的nodemanager的运行服务-->
    <property>
      <name>yarn.nodemanager.aux-services</name>
      <value>mapreduce_shuffle</value>
    </property>

    <property>
      <name>yarn.resourcemanager.ha.enabled</name>
      <value>true</value>
    </property>

    <property>
      <name>yarn.resourcemanager.zk-address</name>
      <value>bd27-server2.rabbit.com:2181,bd27-server3.rabbit.com:2181,bd27-server.rabbit.com:2181</value>
    </property>

    <property>
      <name>yarn.resourcemanager.cluster-id</name>
      <value>yarncluster</value>
    </property>

    <property>
      <name>yarn.resourcemanager.ha.rm-ids</name>
      <value>rm1,rm2</value>
    </property>

    <property>
      <name>yarn.resourcemanager.hostname.rm1</name>
      <value>bd27-server.rabbit.com</value>
    </property>

    <property>
      <name>yarn.resourcemanager.hostname.rm2</name>
      <value>bd27-server2.rabbit.com</value>
    </property>

     

    在两个被选为resourcemanager的节点上执行:

      yarn-daemon.sh start resourcemanager

    执行:start-yarn.sh  启动nodemanager

    到zk的客户端看一下哪台节点的resourcemanager是active的:

    zkCli.sh

    get /yarn-leader-election/yarncluster/ActiveStandbyElectorLock

  • 相关阅读:
    git线上操作
    IDEA快捷方式
    Java 四种线程池
    java 获取当前天之后或之前7天日期
    如何理解AWS 网络,如何创建一个多层安全网络架构
    申请 Let's Encrypt 通配符 HTTPS 证书
    GCE 部署 ELK 7.1可视化分析 nginx
    使用 bash 脚本把 AWS EC2 数据备份到 S3
    使用 bash 脚本把 GCE 的数据备份到 GCS
    nginx 配置 https 并强制跳转(lnmp一键安装包)
  • 原文地址:https://www.cnblogs.com/rabbit624/p/14495278.html
Copyright © 2011-2022 走看看