zoukankan      html  css  js  c++  java
  • hbase添加大文件

    一直使用hbase作大容量存储,因为hbase易于存取。

    今天,在录入数据的时候,突然报出一个KeyValue size too large。很是奇怪。

    后来发现,该数据特别大,经查源码

    Java代码  收藏代码
    1. private void validatePut(final Put put) throws IllegalArgumentException{  
    2.     if (put.isEmpty()) {  
    3.       throw new IllegalArgumentException("No columns to insert");  
    4.     }  
    5.     if (maxKeyValueSize > 0) {  
    6.       for (List<KeyValue> list : put.getFamilyMap().values()) {  
    7.         for (KeyValue kv : list) {  
    8.          if (kv.getLength() > maxKeyValueSize) {
    9.             throw new IllegalArgumentException("KeyValue size too large");  
    10.           }  
    11.         }  
    12.       }  
    13.     }  
    14.   }  

     说明当某一列的值大于该值的时候,将会抛出该异常,又查看maxKeyValueSize,发现它调用的是hbase配置里的hbase.client.keyvalue.maxsize,默认大小为10M,即 10485760 。将它改大即可。

    但是,当我修改完以后,启动hbase总是出问题,后来又将hbase-env.sh里的HBASE_HEAPSIZE改大。

    后来又将mapred-site.xml中的mapred.tasktracker.indexcache.mb改大,至于大于hbase.client.keyvalue.maxsize,不知道有没有影响,以防万一吧,我觉得hbase的执行应该是跟job有关系的吧。

    请大家多多指教

  • 相关阅读:
    第二代:晶体管计算机
    第一代计算机
    Android应用在不同版本间兼容性处理
    eventBus
    realm
    ijkplayer详解AAA
    USB 3.0规范中译本 第3章 USB 3.0体系结构概览
    ES6 学习笔记
    07_通过上下文获取常见目录
    06_登陆案例保存信息完成
  • 原文地址:https://www.cnblogs.com/exmyth/p/7400517.html
Copyright © 2011-2022 走看看