3、namenode启动过程中的资源检查，以及如何退出安全模式

 代码流程：

NameNode.main() // 入口函数
   　　　　|——createNameNode(); // 通过new NameNode()进行实例化
   　　　　　　|——initialize(); // 方法进行初始化操作
   　　　　　　　　|——startHttpServer(); // 启动HttpServer
   　　　　　　　　|——loadNamesystem(); // 加载元数据
   　　　　　　　　|——createRpcServer(); // 创建并初始化rpc server实例
   　　　　　　　　|——startCommonServices();
   　　　　　　　　　　|——namesystem.startCommonServices(); // 启动一些磁盘检查、安全模式等一些后台服务及线程
   　　　　　　　　　　　　|——new NameNodeResourceChecker(); // 实例化一个NameNodeResourceChecker并准备出所有需要检查的磁盘路径
   　　　　　　　　　　　　|——checkAvailableResources(); // 开始磁盘空间检查
   　　　　　　　　　　　　|——NameNode.getStartupProgress(); // 获取StartupProgress实例用来获取NameNode各任务的启动信息
   　　　　　　　　　　　　|——setBlockTotal(); // 设置所有的block，用于后面判断是否进入安全模式
   　　　　　　　　　　　　|——blockManager.activate(); // 启动BlockManager里面的一堆关于block副本处理的后台线程
   　　　　　　　　　　|——rpcServer.start(); // 启动rpcServer
   　　　　|——join()

所以直接查看startCommonServices代码：

 1、总体介绍

1、 检查资源情况、判断是否进入安全状态、激活BlockManager
2、启动RPC服务

/**
   * 1、 namesystem.startCommonServices(conf, haContext);
   * 检查资源情况、判断是否进入安全状态、激活BlockManager
   * 2、启动RPC服务
   * */
  private void startCommonServices(Configuration conf) throws IOException {
    //FSNamesystem是NameNode核心成员变量用来管理元数据（实现对DataNode、Block的管理以及读写日志）
    //创建NameNodeResourceChecker、激活BlockManager等
    namesystem.startCommonServices(conf, haContext);
    registerNNSMXBean();//注册一个namenode的状态类
    // 角色非`NamenodeRole.NAMENODE`的在此处启动HttpServer
    if (NamenodeRole.NAMENODE != role) {
      startHttpServer(conf);
      httpServer.setNameNodeAddress(getNameNodeAddress());
      httpServer.setFSImage(getFSImage());
    }
    //启动服务
    rpcServer.start();//
    plugins = conf.getInstances(DFS_NAMENODE_PLUGINS_KEY,
        ServicePlugin.class);
    for (ServicePlugin p: plugins) {
      try {
        p.start(this);
      } catch (Throwable t) {
        LOG.warn("ServicePlugin " + p + " could not be started", t);
      }
    }
    LOG.info(getRole() + " RPC up at: " + rpcServer.getRpcAddress());
    if (rpcServer.getServiceRpcAddress() != null) {
      LOG.info(getRole() + " service RPC up at: "
          + rpcServer.getServiceRpcAddress());
    }
  }

2、namesystem.startCommonServices(conf, haContext);检查资源

 整体大致逻辑：

1、将需要检查的URL添加到volumes中 ， 后台有线程会一直执行hasAvailableDiskSpace来检查
2、checkAvailableResources(); 进行资源检查
3、NameNode启动，进入到safemode阶段，处于一个等待汇报blocks的状态
4、汇报所有的block，用于后面判断是否进入安全模式
5、激活BlockManager

/** 
   * 1、将需要检查的URL添加到volumes中 ， 后台有线程会一直执行hasAvailableDiskSpace来检查
   * 2、checkAvailableResources(); 进行资源检查
   * 3、NameNode启动，进入到safemode阶段，处于一个等待汇报blocks的状态
   * 4、汇报所有的block，用于后面判断是否进入安全模式
   * 5、激活BlockManager
   */
  void startCommonServices(Configuration conf, HAContext haContext) throws IOException {
      this.registerMBean(); // register the MBean for the FSNamesystemState
      writeLock();
      this.haContext = haContext;
      try {
          //NameNodeResourceChecker负责检查磁盘资源。
        // active状态的namenod会启动一个监控线程NameNodeResourceMonitor，
          // 定期执行NameNodeResourceChecker#hasAvailableDiskSpace()检查可用的磁盘资源。
          /**需要检查3个涉及到元数据的目录：
           * Namenode2个目录：fsimage、editlog（默认情况下这两个是在同一个目录）
           * 高可用模式下的journalNode里面也有存储袁术的目录
           * */
          nnResourceChecker = new NameNodeResourceChecker(conf);
          //检查可用资源是否足够：如果不够，日志打印警告信息，然后进入安全模式
          checkAvailableResources();
          // 判断是否进入安全模式，并且副本队列是否应该被同步/复制
          /**
           * 磁盘资源不足的情况下，任何对元数据修改所产生的日志都无法确保能够写入到磁盘，
           * 即新产生的edits log和fsimage都无法确保写入磁盘。所以要进入安全模式，
           * 来禁止元数据的变动以避免往磁盘写入新的日志数据
           * */
          assert safeMode != null && !isPopulatingReplQueues();
          //获取StartupProgress实例用来获取NameNode各任务的启动信息
          StartupProgress prog = NameNode.getStartupProgress();
          // 目前NameNode启动，进入到safemode阶段，处于一个等待汇报blocks的状态
          prog.beginPhase(Phase.SAFEMODE);
          //处于一个等待汇报blocks的状态
          prog.setTotal(Phase.SAFEMODE, STEP_AWAITING_REPORTED_BLOCKS, getCompleteBlocksTotal());
          //设置所有的block，用于后面判断是否进入安全模式
          setBlockTotal();
          //TODO 启动BlockManager里面关于block副本处理的后台线程
          //激活BlockManager
          blockManager.activate(conf);
      } finally {
          writeUnlock();
      }
    
    registerMXBean();
    DefaultMetricsSystem.instance().register(this);
    if (inodeAttributeProvider != null) {
      inodeAttributeProvider.start();
      dir.setINodeAttributeProvider(inodeAttributeProvider);
    }
    snapshotManager.registerMXBean();
  }

3、NameNodeResourceChecker检查资源类

 

 addDirToCheck方法：

 还有就是，在NameNodeResourceChecker构造方法中，我们得到了duReserved是100M，那么他在哪里使用的？

1）：

 2）：

 3）：

 

 

 

 最后就是areResourcesAvailable这个方法，主要对volumns里面的url进行检查,看看这些url路径是否可用，是否满足继续运行的最小资源数

 其中的isResourceAvailable方法就是检查磁盘空间的：

 最后在计算是否满足继续运行需要的最少数量

 然后程序返回到NameNodeResourceMonitor这个监控线程地方：

所以说这个NameNodeResourceChecker（磁盘资源检查类），主要是干了3件事：

1、声明namenode容忍的磁盘大小的阈值（100M）

2、封装好需要检查的磁盘路径

3、将需要检查的磁盘路径通过addDirToCheck方法添加到volumes这个map集合里面， 然后在FSNameSystem中有一个NameNodeResourceMonitor线程，不断的调用checkAvailableResources方法 来检查volumes（磁盘的资源情况）

 4）：checkAvailableResources

这个checkAvailableResources就是刚刚讲解的；

只不过在初始化nameNode的时候会主动检查一次，启动后就会通过NameNodeResourceMonitor这个线程不断的去检查（每隔1秒去检查一遍）

ok，这个关于磁盘资源检查的部分说完了，接下来就是看看startCommonServices方法里面剩余部分

5）：剩下的部分

通过StartUpPrpcess（NameNode任务的启动信息）来指示namenode的运行状态，namenode启动后，首先是进入安全模式，然后等待blocks状态汇报，只有blocks满足了最低指标需求（0.999f），才会退出安全模式

6）：getCompleteBlocksTotal

这里面有个关键点就是，通过prog.setTotal来汇报blocks的状态，那么blocks的状态怎么拿到？

答案就是通过：getCompleteBlocksTotal这个方法拿到

然后拿到总数据块 - 无法读取的数据块 = 目前可用的数据块

紧接着就是getNumUnderConstructionBlocks

这段代码就是获取非Complete

 此处处理完毕之后，返回看setBlockTotal()方法

7）：setBlockTotal()

设置所有的block，用于后面判断是否进入安全模式

 

 注意其中的blockSafe：是datanode向namenode进行汇报的块个数，通过incrementSafeBlockCount方法，不断的叠加起来的

 当datanode向namenode汇报删除数据块的时候，此处就对blockSafe减小

8）：checkMode

其中还有一个关键点就是checkMode

用于检查安全模式的状态：
1、判断阈值系数是否满足进入安全模式:needEnter
对于离开安全模式，有两个条件判断：
1、判断系数是否满足离开安全模式
2、启动SafeModeMonitor线程，每隔1秒去查看下，是否可以退出安全模式

 如果要是进入了安全模式，那么这个enter()方法里面会把this.reached = 0;

 看下needEnter（）方法

9）：needEnter()

所以需要看一下，是否需要进入安全模式的条件：needEnter()

 

 其次就是在checkMode中，除了进入安全模式以外，还有退出安全模式的逻辑

 10）：后台线程：SafeModeMonitor的代码

这个SafeModeMonitor里面这个 判断是否能够退出安全模式的依据就是：

canLeave代码

11）：canLeave

然后在看下canLeave的代码逻辑：

 ok。这样我们整体的startCommonServices代码就完事了；

总体namenode的启动流程：