zoukankan      html  css  js  c++  java
  • 自问自答-hadoop在安全模式下究竟干了什么见不得人的事


     本来想自己从网上搜集整理的,但是发现吴超写的刚刚好,不多不少,所以直接转载(图片失效了,用自己的图片)

    http://www.superwu.cn/2013/08/23/548/


    在hadoop集群的时候,集群的运行会进入到安全模式(safeMode)下。在安全模式下运行一段时间后,自动退出。

    那么,系统在安全模式下干什么了?

    当集群启动的时候,会首先进入到安全模式。系统在安全模式下,会检查数据块的完整性。假设我们设置的副本数(即参数dfs.replication)是5,那么在dataNode上就应该有5个副本存在,假设只存在3个副本,那么比率就是3/5=0.6。在配置文件hdfs-default.xml中定义了一个最小的副本率

    我们的副本率0.6明显小于0.999,因此系统会自动的复制副本到其他dataNode,争取是的最小副本率>=0.999。如果系统中有8个副本,超过我们设定的5个副本,那么系统也会删除多于的3个副本。

    安全模式对我们有什么影响哪?

    这时,不允许客户端进行任何修改文件的操作,包括上传文件、删除文件、重命名、创建文件夹等操作。比如,创建文件时,在源代码中就有对安全模式的判断

    当我们在安全模式下进行修改文件操作时,会报错误

    正常情况下,安全模式会运行一段时间自动退出的。只需要我们稍等一会就可以了。到底等多长时间哪,我们可以通过50070端口查看安全模式退出的剩余时间

    虽然不能进行修改文件的操作,但是可以浏览目录结构、查看文件内容的。

    我们可以控制是否进入或者退出安全模式吗?

    在命令行下是可以控制安全模式的进入、退出和查看的,

    命令hadoop fs –safemode get 查看安全模式状态

    命令hadoop fs –safemode enter 进入安全模式状态

    命令hadoop fs –safemode leave 离开安全模式状态

    安全模式,是hadoop集群的一种保护机制,在启动时,最好是等待集群自动退出,然后再进行文件操作。


    欲为大树,何与草争;心若不动,风又奈何。
  • 相关阅读:
    Linux用户管理
    chattr&lsattr
    repo 回退当前分支下所有仓库到指定日期前的最新代码版本
    grep
    awk
    vscode sftp插件的使用
    程序的链接
    ZJOI2015 诸神眷顾的幻想乡
    BZOJ3756 Pty的字符串
    HDU1506 Largest Rectangle in a Histogram
  • 原文地址:https://www.cnblogs.com/admln/p/myQuestionMyAnswer-hadoopInSafemode.html
Copyright © 2011-2022 走看看