zoukankan      html  css  js  c++  java
  • HDFS 安全模式的理解

    安全模式是hadoop的一种保护机制,用于保证集群中的数据块的安全性。

    当集群启动的时候,会首先进入安全模式。当系统处于安全模式时会检查数据块的完整性。假设我们设置的副本数(即参数dfs.replication)是5,那么在datanode上就应该有5个副本存在,假设只存在3个副本,那么比例就是3/5=0.6。在配置文件hdfs-default.xml中定义了一个最小的副本的副本率0.999,如图

    我们的副本率0.6明显小于0.99,因此系统会自动的复制副本到其他的dataNode,使得副本率不小于0.999.如果系统中有8个副本,超过我们设定的5个副本,那么系统也会删除多余的3个副本。

    安全模式对我们有什么影响呢?

    这时,不允许客户端进行任何修改文件的操作,包括上传文件,删除文件,重命名,创建文件夹等操作。比如创建文件时,在源代码中就有对安全模式的判断,如图所示

    当我们在安全模式下进行修改文件操作时,会报如下错误,如图

    正常情况下,安全模式会运行一段时间自动退出的,只需要我们稍等一会就行了,到底等多长时间呢,我们可以通过50070端口查看安全模式退出的剩余时间,如图

    虽然不能进行修改文件的操作,但是可以浏览目录结构、查看文件内容的。

    在命令行下是可以控制安全模式的进入、退出和查看的。

    命令 hadoop fs -safemode get 查看安全模式状态

    命令 hadoop fs -safemode enter  进入安全模式状态

    命令 hadoop fs -safemode leave 离开安全模式

    操作如图所示

     安全模式是hadoop的一种保护机制,在启动时,最好是等待集群自动退出,然后进行文件操作。

  • 相关阅读:
    winform窗口打开特效及窗口位置居中
    C# Installer Projects 打包工具
    C#
    MVVM模式开发WinForm-ReactiveUI
    C#实现类似百度网盘、育网校园云盘在“我的电脑”磁盘驱动器
    MVVM框架
    自制2048小游戏
    一个无限循环轮播图 HCCycleView
    Xcode插件及cocoapods不能正常使用的解决方法
    Runtime — 运行时机制
  • 原文地址:https://www.cnblogs.com/beiyi888/p/9647098.html
Copyright © 2011-2022 走看看