zoukankan      html  css  js  c++  java
  • mapreduce作业状态一直是ACCEPTED

    搭建yarn环境后,执行 hadoop/bin/hadoop jar hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.4.1.jar wordcount /host1 /out1

    执行一直停留在Running job:



     

    打开yarn web 页面http://crxy1:8088/cluster

    app的作业state停留在Accepted上



     

    点击ID列的作业链接进去

     

    英文翻译大概如下:

    stucks at accepted state

    Yarn job stuck with no application master being assigned

     MapReduce jobs get stuck in Accepted state 

    刚开始想到可能是内存问题,英文google查的资料提到的解决方法和设置资源的内存有关系

    后来把节点的虚拟机内存从512M到1G还是不能解决问题

    后来,想到下一步骤应该是作业提交后RM应与NN之间关于分配资源执行的事情了,于是查看了下nodeManager的日志

    tail -f yarn-root-nodemanager-crxy6.log

    提示:

    Retrying connect to server: 0.0.0.0/0.0.0.0:8031

    查了下这是因为node节点上没有配置RM的原因,

    把crxy1 yarn-site.xml

    <property>

        <name>yarn.resourcemanager.hostname</name>

        <value>crxy1</value>

     </property>

    复制到nodeManager上,重启集群,执行hadoop jar,的mr任务执行成功!!!

  • 相关阅读:
    Linux ps 查看进程
    Linux free命令
    Linux sar命令
    php 上传文件
    sql 计算周围公里语句
    mysql sum 和 count 函数 合并使用
    php函数 ceil floor round和 intval
    linux sort 命令
    Sicily 2711. 模板与STL 解题报告
    堆排序
  • 原文地址:https://www.cnblogs.com/hyl8218/p/5179901.html
Copyright © 2011-2022 走看看