zoukankan      html  css  js  c++  java
  • Hadoop_10_HDFS 的 DataNode工作机制

    1.DataNode的工作机制:

      1、DataNode工作职责:存储管理用户的文件块数据

                  定期向namenode汇报自身所持有的block信息(通过心跳信息上报)

      (这点很重要,因为,当集群中发生某些block副本失效时,集群如何恢复block初始副本数量的问题)

       2.配置文件:

    <property>
        <name>dfs.blockreport.intervalMsec</name>
        <value>3600000</value>
        <description>Determines block reporting interval in milliseconds.</description>
    </property>

    2.DataNode掉线判定时限:

      datanode进程死亡或者网络故障造成datanode无法与namenode通信,namenode不会立即把该节点判定为

    死亡,要经过一段时间,这段时间暂称作超时时长。HDFS默认的超时时长为10分钟+30秒。如果定义超时时间

    为timeout,则超时时长的计算公式为:

      timeout  = 2 * heartbeat.recheck.interval + 10 * dfs.heartbeat.interval 

      而默认的heartbeat.recheck.interval 大小为5分钟,dfs.heartbeat.interval默认为3秒

      需要注意的是hdfs-site.xml 配置文件中的heartbeat.recheck.interval的单位为毫秒,dfs.heartbeat.

    interval的单位为秒

      举例,如果heartbeat.recheck.interval设置为5000(毫秒),dfs.heartbeat.interval设置为3(秒,默认)

    ,则总的超时时间为40秒

    <property>
            <name>heartbeat.recheck.interval</name>
            <value>2000</value>
    </property>
    <property>
            <name>dfs.heartbeat.interval</name>
            <value>1</value>
    </property>

    3.总结:

      datanode不是一下线就会被namenode认定为下线的,有一个超时时间

     

  • 相关阅读:
    Codeforces Round #183 (Div. 2) B. Calendar
    FZU Problem 2030 括号问题
    NEU(1262: ASCII Sequence II)动态规划
    ZOJ(1711)Sum It Up (DFS+剪枝+去重复)
    ZOJ(1004)Anagrams by Stack (DFS+stack)
    HDU(3374) (KMP + 最小表示法)
    FZU Problem 1926 填空(KMP好题一枚,确实好)
    POJ(2481)Cows 树状数组
    HOJ (1042) 整数划分
    LeetCode: Two Sum
  • 原文地址:https://www.cnblogs.com/yaboya/p/9195845.html
Copyright © 2011-2022 走看看