zoukankan      html  css  js  c++  java
  • 大数据学习总结10

    一、hdfs的高级使用命令

    hdfs dfs -count -q -h /user/root/dir1  #查看配额信息

     

    1、数量限额

    hdfs dfs -mkdir -p /user/root/dir    #创建hdfs文件夹

    hdfs dfsadmin -setQuota 2 dir      # 给该文件夹下面设置多上传两个文件,发现只能 上传一个文件

    hdfs dfsadmin -clrQuota /user/root/dir  # 清除文件数量限制

     

    2、空间大小限额
    在设置空间配额时,设置的空间至少是block_size * 3大小  1个block_size 分配128M

    hdfs dfsadmin -setSpaceQuota 4k /user/root/dir   # 限制空间大小4KB

    hdfs dfs -put  /root/a.txt  /user/root/dir 

    hdfs dfsadmin -clrSpaceQuota /user/root/dir   #清除空间配额限制

    dd if=/dev/zero of=1.txt  bs=1M count=2     #生成2M的文件

     

    3、hdfs的安全模式

    安全模式是hadoop的一种保护机制,用于保证集群中的数据块的安全性。当集群启动的时 候,会首先进入安全模式。当系统处于安全模式时会检查数据块的完整性。
    假设我们设置的副本数(即参数dfs.replication)是3,那么在datanode上就应该有3个副本存 在,假设只存在2个副本,那么比例就是2/3=0.666。hdfs默认的副本率0.999。我们的副本率 0.666明显小于0.999,因此系统会自动的复制副本到其他dataNode,使得副本率不小于0.999。 如果系统中有5个副本,超过我们设定的3个副本,那么系统也会删除多于的2个副本。在安全模式状态下,文件系统只接受读数据请求,而不接受删除、修改等变更请求。在,当 整个系统达到安全标准时,HDFS自动离开安全模式。

    hdfs  dfsadmin  -safemode  get #查看安全模式状态

    hdfs  dfsadmin  -safemode  enter #进入安全模式

    hdfs  dfsadmin  -safemode  leave #离开安全模式

     

    4、 HDFS基准测试 

    ①测试写入速度

    hadoop jar /export/servers/hadoop-2.7.5/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.7.5.jar TestDFSIO -write -nrFiles 10 -fileSize 10MB

    ② 测试读取速度 

    hadoop jar /export/servers/hadoop-2.7.5/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.7.5.jar TestDFSIO -read -nrFiles 10 -fileSize 10MB

    ③清除测试数据

    hadoop jar /export/servers/hadoop-2.7.5/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.7.5.jar TestDFSIO -clean

     

  • 相关阅读:
    mapreduce 函数入门 三
    *hiho 1475
    hiho 1571
    hiho 1620
    hiho 1613
    centos下nginx配置
    hiho 1617
    hiho 172周
    uva 11584
    hiho1605
  • 原文地址:https://www.cnblogs.com/MoooJL/p/13547636.html
Copyright © 2011-2022 走看看