zoukankan      html  css  js  c++  java
  • hbase写数据 和 读数据过程

    一:获取region存储位置信息

    写数据和读数据一般都会获取hbase的region的位置信息。大概步骤为:

    1- 从zookeeper中获取.ROOT.表的位置信息,在zookeeper的存储位置为/hbase/root-region-server;

    2- 根据.ROOT.表中信息,获取.META.表的位置信息;

    3- .META.表中存储的数据为每一个region存储位置;

    二: 向hbase表中插入数据

    hbase中缓存分为两层:memstore和blockcache。

    1- 首先写入到WAL文件中,目的是为了数据不丢失;

    2- 再把数据插入到memstore缓存中,当memstore达到设置大小阈值时,会进行flush进程;

    3- flush过程中,需要获取每一个region存储的位置。

    三:从hbase中读取数据

     blockcache主要提供给读使用。读请求先到memstore中查数据,查不到就到blockcache中查,再查不到就会到磁盘上读,并把读的结果放入blockcache。

    blockcache采用的算法为LRU(最近最少使用算法),因此当blockcache达到上限后,会启动淘汰机制,淘汰掉最老的一批数据。

       一个regionserver上有一个blockcache和N个memstore,它们的大小之和不能大于等于heapsize * 0.8,否则hbase不能启动。默认blockcache为0.2,而memstore为0.4。对于注重读响应时间的系统,应该将blockcache设大些,比如设置blockcache=0.4,memstore=0.39。这会加大缓存命中率。

  • 相关阅读:
    工厂模式
    dubbo
    WebSocket WebService
    消息中间
    原型模式
    ApiPost Apifox
    Future 的使用与源码解析
    JUC 线程池的使用与源码解析
    ReentrantLock 源码解析
    CountDownLatch 的使用与源码解析
  • 原文地址:https://www.cnblogs.com/parent-absent-son/p/10895365.html
Copyright © 2011-2022 走看看