zoukankan      html  css  js  c++  java
  • 大数据之hadoop集群安全模式

    集群安全模式
    1.概述
    (1)NameNode启动
    NameNode启动时,首先将镜像文件(Fsimage)载入内存,并执行编辑日志(Edits)中的各项操作。-旦在内存中成功建立文件系统元数据的影像,则创建一个新的Fsimage文件和一个空的编辑日志。此时,NameNode开始监听DataNode请求。这个过程期间,NameNode一直运行在安全模式,即NameNode的文件系统对于客户端来说是只读的
    (2)DataNode启动
    系统中的数据块的位置并不是由NameNode维护的,而是以块列表的形式存储在DataNode中,在系统的正常操作期间,NameNode会在内存中保留所有块位置的映射信息。在安全模式下,各个DataNode会向NameNode发送最新的块列表信息,NameNode了解到足够多的块位置信息之后,即可高效运行文件系统。
    (3)安全模式退出判断
    如果满足“最小副本条件”,NameNode会在30秒钟之后就退出安全模式。所谓的最小副本条件指的是在整个文件系统99.9%的块满足最小副本级别(默认值:dfs.replication=1)。在启动一个刚刚格式化的HDFS集群时,因为系统中还没有任何块,所以NameNode不会进入安全模式。
    2.基本语法
    集群处于安全模式,不能执行重要操作(写操作)。集群启动完成后,自动退出安全模式。

    1)bin/hdfs dfsadmin -safemode get    (功能描述:查看安全模式状态)
    (2)bin/hdfs dfsadmin -safemode enter (功能描述:进入安全模式状态)
    (3)bin/hdfs dfsadmin -safemode leave    (功能描述:离开安全模式状态)
    (4)bin/hdfs dfsadmin -safemode wait    (功能描述:等待安全模式状态)

    3.案例
    模拟等待安全模式
    (1)查看当前模式

    [linyouyi@hadoop01 hadoop-2.7.7]$ hdfs dfsadmin -safemode get
    Safe mode is OFF

    (2)先进入安全模式

    [linyouyi@hadoop01 hadoop-2.7.7]$ bin/hdfs dfsadmin -safemode enter

    (3)创建并执行下面的脚本
    在/hadoop/module/hadoop-2.7.7路径上,编辑一个脚本safemode.sh

    [linyouyi@hadoop01 hadoop-2.7.7]$ touch safemode.sh
    [linyouyi@hadoop01 hadoop-2.7.7]$ vim safemode.sh
    #!/bin/bash
    hdfs dfsadmin -safemode wait
    hdfs dfs -put /hadoop/module/hadoop-2.7.7/README.txt /
    
    [linyouyi@hadoop01 hadoop-2.7.7]$ chmod 777 safemode.sh
    [linyouyi@hadoop01 hadoop-2.7.7]$ ./safemode.sh 

    (4)再打开一个窗口,执行

    [linyouyi@hadoop01 hadoop-2.7.7]$ bin/hdfs dfsadmin -safemode leave

    (5)观察
    (a)再观察上一个窗口

    [linyouyi@hadoop01 hadoop-2.7.7]$ bin/hdfs dfsadmin -safemode get
    Safe mode is OFF

    (b)HDFS集群上已经有上传的数据了。

  • 相关阅读:
    Js实现继承的几种方式
    ES6-promise实现异步请求
    CSS重排和重绘
    jq在元素的后面插入内容
    yii2 Query Builder 查询打印sql语句
    js replace(a,b)替换指定字符
    linux 打印当前工作目录
    linux 查看磁盘空间
    linux查看大文件
    js-Cannot read property 'innerHTML' of null
  • 原文地址:https://www.cnblogs.com/linyouyi/p/11309413.html
Copyright © 2011-2022 走看看