zoukankan      html  css  js  c++  java
  • hadoop safemode error

    http://www.cnblogs.com/hustcat/archive/2010/06/30/1768506.html

     

    1、safemode

    bin/hadoop fs -put ./input input
    put
    : org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot create directory /user/root/input. Name node is in safe mode.

     

    解决方法:

    NameNode在启动的时候首先进入安全模式,如果datanode丢失的block达到一定的比例(1-dfs.safemode.threshold.pct),则系统会一直处于安全模式状态即只读状态。

    dfs.safemode.threshold.pct(缺省值0.999f)表示HDFS启动的时候,如果DataNode上报的block个数达到了元数据记录的block个数的0.999倍才可以离开安全模式,否则一直是这种只读模式。如果设为1则HDFS永远是处于SafeMode。

    下面这行摘录自NameNode启动时的日志(block上报比例1达到了阀值0.9990)

    The ratio of reported blocks 1.0000 has reached the threshold 0.9990. Safe mode will be turned off automatically in 18 seconds.
    hadoop dfsadmin -safemode leave

    有两个方法离开这种安全模式
    (1)修改dfs.safemode.threshold.pct为一个比较小的值,缺省是0.999。
    (2)hadoop dfsadmin -safemode leave命令强制离开

    用户可以通过dfsadmin -safemode value  来操作安全模式,参数value的说明如下:

    enter - 进入安全模式
    leave - 强制NameNode离开安全模式
    get -  返回安全模式是否开启的信息
    wait - 等待,一直到安全模式结束。

     

    2、could only be replicated to 0 nodes, instead of 1

    #执行 fs -put时,出现如下问题
    hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop
    .ipc.RemoteException: java.io.IOException: ... could only be replicated to 0 nodes, instead of 1 ...

     

    解决方法:
    (1)防火墙原因
    (2)磁盘空间原因
    df –ah  #查看磁盘空间
    如果是磁盘空间不够,则调整磁盘空间(我就是该原因,折腾了很久),推荐一个强大的分区工具GParted 

    3、DataNode error

     

    2010-06-25 11:40:12,473 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode:
    java
    .io.IOException: Incompatible namespaceIDs in /tmp/hadoop-root/dfs/data:
    namenode namespaceID 
    = 647870650; datanode namespaceID = 466015089

     解决方法:

    删除 /tmp/hadoop-root/dfs目录下的所有目录,
    执行hadoop namenode -format

  • 相关阅读:
    Scala 插入排序
    win10下安装使用mysql-8.0.18
    Autofac注入多数据库(DbContext)
    缓存一致性问题以及方案(一) Redis
    Java编程中,一些好的习惯从一开始就值得坚持
    IDEA项目无法引用本地Class类,引用路径正确但报错标红
    git怎么撤销已经push到远端的commit?
    git的命令大全及如何修改git账号和提交的邮箱和用户名
    renren-fast-vue无法运行相关问题解决办法n ./src/assets/scss/index.scss Module build failed: Error: ENOENT: no su
    VsCode系列(一):下载安装及汉化
  • 原文地址:https://www.cnblogs.com/sunxucool/p/3625899.html
Copyright © 2011-2022 走看看