zoukankan      html  css  js  c++  java

  • HBase协处理器同步二级索引到Solr

    一、 背景
    二、 什么是HBase的协处理器
    三、 HBase协处理器同步数据到Solr
    四、 添加协处理器
    五、 测试
    六、 协处理器动态加载

    一、 背景

    在实际生产中，HBase往往不能满足多维度分析，我们能想到的办法就是通过创建HBase数据的二级索引来快速获取rowkey，从而得到想要的数据。目前比较流行的二级索引解决方案有Lily HBase Indexer，Phoenix自带的二级索引，华为Indexer，以及360的二级索引方案。上面的目前使用比较广泛的应该是Lily HBase Indexer，但是我们有时候只想实现一些简单的功能或者比较特殊的功能的时候，需要自己写协处理器进行处理。学习HBase的协处理器对于了解HBase架构是有帮助的。

    二、 什么是HBase的协处理器

    协处理器分两种类型，系统协处理器可以全局导入region server上的所有数据表，表协处理器即是用户可以指定一张表使用协处理器。

    Hbase的coprocessor分为两类，Observer和EndPoint。其中Observer相当于触发器，EndPoint相当于存储过程。其中Observer的代码部署在服务端，相当于对API调用的代理。

    另一个是终端(endpoint)，动态的终端有点像存储过程。
    Observer

    观察者的设计意图是允许用户通过插入代码来重载协处理器框架的upcall方法，而具体的事件触发的callback方法由HBase的核心代码来执行。协处理器框架处理所有的callback调用细节，协处理器自身只需要插入添加或者改变的功能。以HBase0.92版本为例，它提供了三种观察者接口：

    • RegionObserver：提供客户端的数据操纵事件钩子：Get、Put、Delete、Scan等。
    • WALObserver：提供WAL相关操作钩子。
    • MasterObserver：提供DDL-类型的操作钩子。如创建、删除、修改数据表等。

    这些接口可以同时使用在同一个地方，按照不同优先级顺序执行.用户可以任意基于协处理器实现复杂的HBase功能层。HBase有很多种事件可以触发观察者方法，这些事件与方法从HBase0.92版本起，都会集成在HBase API中。不过这些API可能会由于各种原因有所改动，不同版本的接口改动比较大。

    三、 HBase协处理器同步数据到Solr

    实时更新数据需要获取到HBase的插入、更新和删除操作。由于HBase中的插入和更新都是对应RegionServer的Put操作，因此我们需要使用RegionObserver中的"postPut"和"postDelete函数"。至于Truncate操作则需要使用MasterObserver。
    我们需要做的就是拦截put和delete操作，将里面的内容获取出来，写入Solr。 对应的协处理器代码如下：

    1. package com.bqjr.bigdata.HBaseObserver.server;
    3. import com.bqjr.bigdata.HBaseObserver.entity.SolrServerManager;
    4. import org.apache.hadoop.hbase.CellUtil;
    5. import org.apache.hadoop.hbase.client.Delete;
    6. import org.apache.hadoop.hbase.client.Durability;
    7. import org.apache.hadoop.hbase.client.Put;
    8. import org.apache.hadoop.hbase.coprocessor.BaseRegionObserver;
    9. import org.apache.hadoop.hbase.coprocessor.ObserverContext;
    10. import org.apache.hadoop.hbase.coprocessor.RegionCoprocessorEnvironment;
    11. import org.apache.hadoop.hbase.regionserver.wal.WALEdit;
    12. import org.apache.hadoop.hbase.util.Bytes;
    13. import org.apache.solr.client.solrj.SolrServerException;
    14. import org.apache.solr.common.SolrInputDocument;
    15. import java.io.IOException;
    16. /**
    17.  * Created by hp on 2017-02-15. */
    18.  public class HBaseIndexerToSolrObserver extends BaseRegionObserver{
    19.     String[] columns = {"test_age","test_name"};
    20.   String collection = "bqjr";
    21.   SolrServerManager solrManager = new SolrServerManager(collection);
    23.   @Override
    24.   public void postPut(ObserverContext<RegionCoprocessorEnvironment> e,
    25.   Put put, WALEdit edit, Durability durability) throws IOException {
    26.         String rowkey= Bytes.toString(put.getRow());
    28.   SolrInputDocument doc = new SolrInputDocument();
    29.  for(String column : columns){
    30.  if(put.has(Bytes.toBytes("cf1"),Bytes.toBytes(column))){
    31.  doc.addField(column,Bytes.toString(CellUtil.cloneValue(put.get(Bytes.toBytes("cf1"),Bytes.toBytes(column)).get(0))));
    32. }
    33.   }
    34.         try {
    35.             solrManager.addDocToCache(doc);
    36.   } catch (SolrServerException e1) {
    37.             e1.printStackTrace();
    38.   }
    40.     }
    42.     @Override
    43.   public void postDelete(ObserverContext<RegionCoprocessorEnvironment> e,
    44.   Delete delete,
    45.   WALEdit edit,
    46.   Durability durability) throws IOException{
    47.         String rowkey= Bytes.toString(delete.getRow());
    48.  try {
    49.             solrManager.delete(rowkey);
    50.   } catch (SolrServerException e1) {
    51.             e1.printStackTrace();
    52.   }
    53.     }
    55. }

    大体的写入流程我们已经完成了，接下来就是Solr的写入实现了。由于Solr需要使用Zookeeper等信息，我们可以直接通过HBase的conf中获取Zookeeper相关信息来构造所需要的SolrCloudServer。
    另一方面，我们不能来了一条数据就马上写入，这样非常消耗资源。因此我们需要做一个缓存，将这些Solr数据暂时保存在里面，定时 + 定量的发送。代码如下

    1. package com.bqjr.bigdata.HBaseObserver.entity;
    3. import org.apache.hadoop.conf.Configuration;
    4. import org.apache.hadoop.hbase.HBaseConfiguration;
    5. import org.apache.solr.client.solrj.SolrServerException;
    6. import org.apache.solr.client.solrj.impl.CloudSolrServer;
    7. import org.apache.solr.client.solrj.response.UpdateResponse;
    8. import org.apache.solr.common.SolrInputDocument;
    10. import java.io.IOException;
    11. import java.util.*;
    13. /**
    14.  * Created by hp on 2017-02-15. */public class SolrServerManager {
    15.     public static String ZKHost = "";
    16.  public static String ZKPort = "";
    17.  int zkClientTimeout = 1800000;// 心跳
    18.   int zkConnectTimeout = 1800000;// 连接时间
    19.   CloudSolrServer solrServer;
    20.  private static String defaultCollection;
    21.  int maxCache = 10000;
    22.  public static List<SolrInputDocument> cache = new LinkedList<SolrInputDocument>();
    23.  private static int maxCommitTime = 60; //最大提交时间，s
    25.   public SolrServerManager(String collection) {
    26.         defaultCollection = collection;
    27.   Configuration conf = HBaseConfiguration.create();
    28.   ZKHost = conf.get("hbase.zookeeper.quorum", "bqdpm1,bqdpm2,bqdps2");
    29.   ZKPort = conf.get("hbase.zookeeper.property.clientPort", "2181");
    30.   String SolrUrl = ZKHost + ":" + ZKPort + "/" + "solr";
    31.   solrServer = new CloudSolrServer(SolrUrl);
    32.   solrServer.setDefaultCollection(defaultCollection);
    33.   solrServer.setZkClientTimeout(zkClientTimeout);
    34.   solrServer.setZkConnectTimeout(zkConnectTimeout);
    35.   //启动定时任务，第一次延迟10执行,之后每隔指定时间执行一次
    36.   Timer timer = new Timer();
    37.   timer.schedule(new CommitTimer(), 10 * 1000L, maxCommitTime * 1000L);
    38.   }
    40.     public UpdateResponse put(SolrInputDocument doc) throws IOException, SolrServerException {
    41.         solrServer.add(doc);
    42.  return solrServer.commit(false, false);
    43.   }
    45.     public UpdateResponse put(List<SolrInputDocument> docs) throws IOException, SolrServerException {
    46.         solrServer.add(docs);
    47.  return solrServer.commit(false, false);
    48.   }
    50.     public void addDocToCache(SolrInputDocument doc) throws IOException, SolrServerException {
    51.         synchronized (cache) {
    52.             cache.add(doc);
    53.  if (cache.size() >= maxCache) {
    54.                 this.put(cache);
    55.   cache.clear();
    56.   }
    57.         }
    58.     }
    60.     public UpdateResponse delete(String rowkey) throws IOException, SolrServerException {
    61.         solrServer.deleteById(rowkey);
    62.  return solrServer.commit(false, false);
    63.   }
    65.     /**
    66.  * 提交定时器 */  static class CommitTimer extends TimerTask {
    67.         @Override
    68.   public void run() {
    69.             synchronized (cache) {
    70.                 try {
    71.                     new SolrServerManager(defaultCollection).put(cache);
    72.   cache.clear();
    73.   } catch (IOException e) {
    74.                     e.printStackTrace();
    75.   } catch (SolrServerException e) {
    76.                     e.printStackTrace();
    77.   }
    78.                 cache.clear();
    79.   }
    80.         }
    81.     }
    82. }

    四、 添加协处理器

    1. #先禁用这张表
    2. disable 'HBASE_OBSERVER_TEST'
    3. #为这张表添加协处理器,设置的参数具体为： jar文件路径|类名|优先级（SYSTEM或者USER）
    4. alter 'HBASE_OBSERVER_TEST','coprocessor'=>'hdfs://bqdpm1:8020/ext_lib/HBaseObserver-1.0.0.jar|com.bqjr.bigdata.HBaseObserver.server.HBaseIndexerToSolrObserver||'
    5. #启用这张表
    6. enable 'HBASE_OBSERVER_TEST'
    7. #删除某个协处理器，"$<bumber>"后面跟的ID号与desc里面的ID号相同
    8. alter 'HBASE_OBSERVER_TEST',METHOD=>'table_att_unset',NAME => 'coprocessor$1'

    五、 测试

    尝试插入一条数据put 'HBASE_OBSERVER_TEST','001','cf1:test_age','18'
    结果Solr中一条数据都没有

    然后查看了regionserver的日志发现，没有找到SolrJ的类

    然后我们将所有的依赖加到Jar包里面之后，再次运行。就可以看到数据了。

    测试Delete功能

    测试进行到这里就完了吗？当然不是
    我们尝试再插入一条put 'HBASE_OBSERVER_TEST','001','cf1:test_name','Bob'

    理论上我们需要在Solr中看到 test_age = 18,test_name = Bob。
    但是在Solr中只有一条数据

    于是我们需要使用到Solr的原子更新功能。将postPut改成下面这样的代码即可

    1. public void postPut(ObserverContext<RegionCoprocessorEnvironment> e,
    2.   Put put, WALEdit edit, Durability durability) throws IOException {
    3.         String rowkey= Bytes.toString(put.getRow());
    4.   Long version = 1L;
    5.   SolrInputDocument doc = new SolrInputDocument();
    6.  for(String column : columns){
    7.             if(put.has(Bytes.toBytes("cf1"),Bytes.toBytes(column))){
    8.                 Cell cell = put.get(Bytes.toBytes("cf1"),Bytes.toBytes(column)).get(0);
    9.   Map<String, String > operation = new HashMap<String,String>();
    10.   operation.put("set",Bytes.toString(CellUtil.cloneValue(cell)));
    11.   doc.setField(column,operation);
    12.   }
    13.         }
    14.         doc.addField("id",rowkey);
    15. //        doc.addField("_version_",version);
    16.   try {
    17.             solrManager.addDocToCache(doc);
    18.   } catch (SolrServerException e1) {
    19.             e1.printStackTrace();
    20.   }
    22.     }

    再次插入数据

    查看Solr结果

    六、 协处理器动态加载

    hbase的官方文档指出动态级别的协处理器，可以做到不重启hbase，更新协处理，做法就是
    禁用表，卸载协处理器，重新指定协处理器， 激活表，即可，但实际测试发现
    动态加载无效，是hbase的一个bug，看这个链接：
    https://issues.apache.org/jira/browse/HBASE-8445
    因为协处理器，已经被JVM加载，即使删除jar也不能重新load的jar，因为cache里面的hdfs的jar路径，没有变化，所以动态更新无效
    ，除非重启JVM，那样就意味着，需要重启RegionServer，
    里面的小伙伴们指出了两种办法，使协处理器加载生效：
    （1）滚动重启regionserver，避免停掉所有的节点
    （2）改变协处理器的jar的类名字或者hdfs加载路径，以方便有新的ClassLoad去加载它

    但总体来看，第2种方法，比较安全，第一种风险太大，一般情况下没有人会随便滚动重启线上的服务器的，这只在hbase升级的时候使用
  • 相关阅读:
    注册时正则验证及提示demo
    密码的修改（首先获取该用户的id,原密码判断是否一致，新密码和再次输入密码判断是否一样）
    变量和常量
    python入门基础
    python2设计一个用户登录
    python2与python3中input的区别
    python日记----2017.7.26
    python日记----2017.7.25
    python日记----2017.7.24
    python日记----2017.7.20
  • 原文地址：https://www.cnblogs.com/kekukekro/p/6409480.html
Copyright © 2011-2022 走看看