zoukankan      html  css  js  c++  java
  • 「从零单排HBase 11」HBase二级索引解决方案

    HBase一个令人惋惜的地方,就是不支持二级索引。因此,社区有了很多补充方案来填补HBase的二级索引能力的缺陷。

    今天,我们就来看看有哪些二级索引方案,通过对比各个方案的优缺点,并结合我们的具体场景做出二级索引方案选型。

    1.为什么需要二级索引

    HBase系统单纯从解决大数据实时读写问题角度出发,重点关注于分布式存储的扩展性、容错性、读写性能等方面,为此也牺牲了很多传统关系型数据库的功能,比如事务,SQL表达与分析等。

    实际上,这是NoSQL最初的含义,以解决大数据的实时存取为首要目标,提供简单的Get,Put,Scan接口,解决用户的大数据量存储的需求。因此,HBase完全是一个非常优秀的大数据实时存取引擎,解决了传统数据库的容量问题。

    就目前官方的HBase系统来说,并不支持二级索引,只有rowkey作为一级索引, 如果要对库里的非rowkey字段进行数据检索和查询, 往往要通过MapReduce/Spark等分布式计算框架进行,硬件资源消耗和时间延迟都会比较高。

    为了HBase的数据查询更高效、适应更多的场景, 诸如使用非rowkey字段检索也能做到秒级响应,或者支持各个字段进行模糊查询和多字段组合查询等, 因此需要在原生HBase基础上构建二级索引, 以满足现实中更复杂多样的业务需求。一般有以下三类方案:

    • 基于HBase的Coprocessor的方案(典型代表phoenix)
    • 云厂商自研的二级索引(阿里云目前有自研增强版二级索引)
    • 基于搜索平台的索引方案(如solr、ES等)。

    2.如何选择二级索引方案

    我们从读写性能、使用限制、学习成本、社区活跃等角度,对三类方案做对比。

    基于HBase的Coprocessor的方案(典型代表phoenix)

    • 官方文档:http://phoenix.apache.org/secondary_indexing.html
    • 读写性能:有一定读写性能损害,索引越多,写入性能影响越大
    • TTL功能:支持比较好
    • 索引的使用限制:一个表的索引数不要超过10个
    • 索引类型:全局索引、本地索引、覆盖索引
    • 学习成本:类JDBC的sql语法,多参考官方的语法(http://phoenix.apache.org/language/index.html)
    • 开源/社区活跃程度:开源,目前社区不太活跃
    • 优点:社区文档多、使用简单、实时查询无延迟
    • 缺点:非商业化方案,没有专门的技术支持

    云厂商自研的二级索引(典型代表阿里云自研增强版二级索引)

    • 官方文档:https://help.aliyun.com/document_detail/144577.html?spm=a2c4g.11174283.6.576.4999363f2uZWt0
    • 读写性能:二级索引内置于HBase,官方的性能评测文档说比Phoenix好
    • TTL功能:只能在单列索引上生效
    • 索引的使用限制:一个表的索引个数最多不超过5个、组合索引的列最多不要超过3个
    • 索引类型:全局索引、本地索引、覆盖索引
    • 学习成本:内部封装的很简单,在使用上就是HBase的原生用法
    • 开源/社区活跃程度:非开源、阿里云私有
    • 优点:性能好、实时查询无延迟
    • 缺点:被云厂商锁定

    基于搜索平台的二级索引方案(以Solr为例)

    • 官方文档:http://phoenix.apache.org/secondary_indexing.html
    • 读写性能:有一定读写性能损害、数据同步的延迟需要考虑
    • TTL功能:HBase是单个KV过期,而Solr中只能按照Document(对应HBase的一行)过期,过期的时间不完全一致
    • 索引的使用限制:没有限制,完全取决于solr
    • 索引类型:非常灵活
    • 学习成本:需要熟悉solr语法
    • 开源/社区活跃程度:开源 社区活跃
    • 优点:查询方式更加灵活
    • 缺点:引入搜索引擎组件、太重了,而且有明显的延迟问题

    总结一下(特别重要的技术选型策略):

    • 为了不被云厂商锁定,所以不采用云厂商独有的二级索引方案
    • 对于实时性要求高、索引数量少的场景,完全可以使用phoenix,简单而又丝滑
    • 对于实时性要求不高、搜索场景比较复杂的,需要引入搜索引擎,如solr或者es进行索引构建

    一般来说,为了满足实时需求,我们会使用phoenix。

    3.简单了解下phoenix

    为了让HBase更强大,更好用,门槛更低,让HBase帮助更多的用户解决他们遇到的实际问题。于是,phoenix带着SQL诞生了。众所周知,SQL是数据处理领域的语言标准,简单,好用,表达力强,用户使用广泛。当然,HBase SQL的实现和发展跟传统单机数据库有很多不同,便于区别,我们称之为NewSQL。这也是社区尝试HBase二级索引的初衷,如果说HBase是功能强大的存储引擎,那么支持NewSQL之后,就变成了新一代的大飞机。

    Phoenix作为应用层和HBASE之间的中间件,以下特性使它在大数据量的简单查询场景有着独有的优势

    • 二级索引支持(global index + local index)
    • 编译SQL成为原生HBASE的可并行执行的scan
    • 在数据层完成计算,server端的coprocessor执行聚合
    • 下推where过滤条件到server端的scan filter上
    • skip scan功能提高扫描速度

    下一期,我们将结合实践,来说明phoenix的原理和最佳实践,敬请期待!

    看到这里了,原创不易,点个关注、点个赞吧,你最好看了~

    知识碎片重新梳理,构建Java知识图谱:https://github.com/saigu/JavaKnowledgeGraph(历史文章查阅非常方便)

  • 相关阅读:
    使用SignTool对软件安装包进行数字签名(二)--进行数字签名
    使用SignTool对软件安装包进行数字签名(一)--制作证书
    三角形相关算法--求解三角形顶点坐标
    子网掩码与子网个数、主机地址个数的关系
    pgsql中的lateral使用小结
    Git中rebase失败了如何进行恢复
    灰度发布
    go 中的WaitGroup
    pgsql中json格式数组查询结果变成了字符串
    Go中的unsafe
  • 原文地址:https://www.cnblogs.com/awan-note/p/12892890.html
Copyright © 2011-2022 走看看