zoukankan      html  css  js  c++  java
  • Hadoop yarn配置参数

    参照site:http://hadoop.apache.org/docs/r2.6.0/hadoop-yarn/hadoop-yarn-common/yarn-default.xml

    我们在配置yarn的时候只有充分了解各参数的含义,才能避免隐患。这些参数均在yarn-site.xml中配置

      以下涉及的简写:

      RM :ResourceManager

      AM :ApplicationMaster

      NM :NodeManager

     

    参数 默认值  描述
    yarn.resourcemanager.hostname   RM的hostname
    yarn.resourcemanager.address ${yarn.resourcemanager.hostname}:8032 RM对客户端暴露的地址,客户端通过该地址向RM提交应用程序等
    yarn.resourcemanager.scheduler.address ${yarn.resourcemanager.hostname}:8030 RM对AM暴露的地址,AM通过地址想RM申请资源,释放资源等
    yarn.resourcemanager.webapp.address ${yarn.resourcemanager.hostname}:8088 RM对外暴露的web  http地址,用户可通过该地址在浏览器中查看集群信息
    yarn.resourcemanager.webapp.https.address ${yarn.resourcemanager.hostname}:8090 web https 地址
    yarn.resourcemanager.resource-tracker.address ${yarn.resourcemanager.hostname}:8031 RM对NM暴露地址,NM通过该地址向RM汇报心跳,领取任务等
    yarn.resourcemanager.resource-tracker.client.thread-count 50 处理来自NM的RPC请求的handler数
    yarn.resourcemanager.admin.address ${yarn.resourcemanager.hostname}:8033 管理员可以通过该地址向RM发送管理命令等
    yarn.resourcemanager.scheduler.class

    org.apache.hadoop.yarn.server.resourcemanager

    .scheduler.capacity.CapacityScheduler

    资源调度器主类
    yarn.resourcemanager.scheduler.client.thread-count 50 处理来自AM的RPC请求的handler数
    yarn.scheduler.minimum-allocation-mb 1024 可申请的最少内存资源,以MB为单位
    yarn.scheduler.maximum-allocation-mb 8192 可申请的最大内存资源,以MB为单位
    yarn.scheduler.minimum-allocation-vcores 1 可申请的最小虚拟CPU个数
    yarn.scheduler.maximum-allocation-vcores 32 可申请的最 大虚拟CPU个数
    yarn.nodemanager.local-dirs ${hadoop.tmp.dir}/nm-local-dir 中间结果存放位置,可配置多目录
    yarn.log-aggregation-enable false 是否启用日志聚合
    yarn.nodemanager.remote-app-log-dir /tmp/logs 日志聚合目录
    yarn.nodemanager.resource.memory-mb 8192 NM总的可用物理内存,以MB为单位。一旦设置,不可动态修改
    yarn.nodemanager.resource.cpu-vcores 8 可分配的CPU个数
    yarn.nodemanager.aux-services   NodeManager上运行的附属服务。需配置成mapreduce_shuffle,才可运行MapReduce程序

     

    转自:https://www.cnblogs.com/yinchengzhe/p/5142659.html

     

     
  • 相关阅读:
    单细胞分析实录(8): 展示marker基因的4种图形(一)
    单细胞分析实录(7): 差异表达分析/细胞类型注释
    单细胞分析实录(6): 去除批次效应/整合数据
    单细胞分析实录(5): Seurat标准流程
    R绘图(2): 离散/分类变量如何画热图/方块图
    R绘图(1): 在散点图边缘加上直方图/密度图/箱型图
    单细胞分析实录(4): doublet检测
    单细胞分析实录(3): Cell Hashing数据拆分
    单细胞分析实录(2): 使用Cell Ranger得到表达矩阵
    单细胞分析实录(1): 认识Cell Hashing
  • 原文地址:https://www.cnblogs.com/javalinux/p/15048082.html
Copyright © 2011-2022 走看看