zoukankan      html  css  js  c++  java
  • HDFS 2.7.4中hdfs-site.xml参数未配置引发的一些异常

    生产上部署了HDFS 2.7.4,最近遇到了一些异常,记录下来备忘:

    一、dfs.datanode.directoryscan.throttle.limit.ms.per.sec

    DataNode运行一段时间后,报如下异常:

    ERROR org.apache.hadoop.hdfs.server.datanode.DirectoryScanner: dfs.datanode.directoryscan.throttle.limit.ms.per.sec set to value below 1 ms/sec. Assuming default value of 1000
    

    谷歌了一下,发现是一个Bug:

    https://issues.apache.org/jira/browse/HDFS-9274

    解决方案:

    编辑hdfs-site.xml,增加如下配置

    <property>
      <name>dfs.datanode.directoryscan.throttle.limit.ms.per.sec</name>
      <value>1000</value>
    </property>
    

    重启HDFS后,问题解决。

    二、DataXceiver error processing WRITE_BLOCK operation

    DataNode运行一段时间后,报如下异常:

    ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: xxxxxx:50010:DataXceiver error processing WRITE_BLOCK operation  src: /aaaaaa:58294 dst: /bbbbbb:50010
    

    谷歌了一下,发现需要修改数据传输线程个数。

    解决方案:

    编辑hdfs-site.xml,增加如下配置

    <property>
      <name>dfs.datanode.max.transfer.threads</name>
      <value>8192</value>
    </property>
    

    重启HDFS后,问题解决。

  • 相关阅读:
    VS2013
    有了门面,程序会更加体面!- pos软件基于三层架构 -09
    无熟人难办事?- 闲聊设计模式-迪米特法则
    三层架构,分层开发
    Filezilla 错误
    归档和压缩
    在Linux系统下用dd命令制作ISO镜像U盘启动盘
    脚本语言
    node.js知识点提取
    npm cnpm
  • 原文地址:https://www.cnblogs.com/liugh/p/9016576.html
Copyright © 2011-2022 走看看