zoukankan      html  css  js  c++  java
  • DataNode上的block以及meta文件的结构

    package org.apache.hadoop.atest.datanade;

    import java.io.BufferedInputStream;
    import java.io.DataInputStream;
    import java.io.FileInputStream;
    import java.io.FileNotFoundException;
    import java.io.IOException;

    import org.apache.hadoop.util.DataChecksum;
    /**

    *程序的主要目的是读取一个block文件和相应的meta文件,然后多相应的data数据进行校验 。

    **/
    public class BlockDataCheckTest {

        /**
         * @param args
         * @throws IOException
         */
        public static void main(String[] args) throws IOException {
            // TODO Auto-generated method stub
            //meta文件
            DataInputStream checksumIn= new DataInputStream(new BufferedInputStream(new FileInputStream("D:/hdfs/blk_-8834172473825889857_1040.meta"), 1024));
            //block文件,数据格式:bytesPerChecksum的数据,bytesPerChecksum的数据,bytesPerChecksum的数据,bytesPerChecksum的数据,bytesPerChecksum的数据。。。。。。。。。
            DataInputStream dataIn=new DataInputStream(new BufferedInputStream(new FileInputStream("D:/hdfs/blk_-8834172473825889857"), 1024));
            //meta文件数据:数据version(shot),checkType(byte,0--无校验,1--CRC32校验),bytesPerChecksum(每多少数据做一次校验),bytesPerChecksum个byte数据的校验码,bytesPerChecksum个byte数据的校验码,bytesPerChecksum个byte数据的校验码。。。。。。。
            //其中数据version是一静态变量:FSDataset.METADATA_VERSION = 1;
            short version=checksumIn.readShort();
            byte checkType=checksumIn.readByte();
            int bytesPerChecksum=checksumIn.readInt();
            System.out.println(version+"   "+checkType+"   "+bytesPerChecksum);
            DataChecksum dataChecksum=DataChecksum.newDataChecksum(checkType, bytesPerChecksum);
            byte[]  dataBytes=new byte[bytesPerChecksum];
            byte[]  checkBytes=new byte[dataChecksum.getChecksumSize()];
            while(dataIn.read(dataBytes)>0){
                checksumIn.read(checkBytes);
                dataChecksum.reset();
                dataChecksum.update(dataBytes, 0, dataBytes.length);
                if(dataChecksum.compare(checkBytes, 0)){
                    System.out.println("right !!");
                }else{
                    System.err.println("wrong !!");
                    throw new RuntimeException("-------------------");
                }
            }
            dataIn.close();
            checksumIn.close();
        }
    }

  • 相关阅读:
    jmeter压测学习12-设置持续压测时间(调度器的使用)
    jmeter压测学习11-模拟浏览器访问web页面
    pytest文档73-pytest+yaml实现接口自动化框架之用例参数关联
    selenium+python自动化101-使用execute_script() 方法获取 JavaScript 返回值
    pytest文档72- 使用 template 替换 yaml 文件的变量
    pytest文档71-pytest+yaml实现接口自动化框架
    容器一直处于Create状态
    CAS原理与协议
    Linux route命令详解和使用示例(查看和操作IP路由表)
    Linux reboot全过程
  • 原文地址:https://www.cnblogs.com/serendipity/p/2396095.html
Copyright © 2011-2022 走看看