zoukankan      html  css  js  c++  java
  • Phoenix 简单介绍

    转载自:https://blog.csdn.net/carolzhang8406/article/details/79455684

    1. Phoenix定义

    Phoenix最早是saleforce的一个开源项目,后来成为Apache基金的顶级项目。

    Phoenix是构建在HBase上的一个SQL层,能让我们用标准的JDBC APIs而不是HBase客户端APIs来创建表,插入数据和对HBase数据进行查询。

    put the SQL back in NoSQL

    Phoenix完全使用Java编写,作为HBase内嵌的JDBC驱动。Phoenix查询引擎会将SQL查询转换为一个或多个HBase扫描,并编排执行以生成标准的JDBC结果集。直接使用HBase API、协同处理器与自定义过滤器,对于简单查询来说,其性能量级是毫秒,对于百万级别的行数来说,其性能量级是秒。

    HBase的查询工具有很多,如:Hive、Tez、Impala、Spark SQL、Phoenix等。

    Phoenix通过以下方式使我们可以少写代码,并且性能比我们自己写代码更好:

    • 将SQL编译成原生的HBase scans。
    • 确定scan关键字的最佳开始和结束
    • 让scan并行执行
    • ...

    2. Phoenix架构

    Phoenix Architecture.png
    • Phoenix在Hadoop生态系统中的位置
     
    位置.png

    特性

    3.1 Transactions (beta) 事务

    该特性还处于beta版,并非正式版。通过集成Tephra,Phoenix可以支持ACID特性。Tephra也是Apache的一个项目,是事务管理器,它在像HBase这样的分布式数据存储上提供全局一致事务。HBase本身在行层次和区层次上支持强一致性,Tephra额外提供交叉区、交叉表的一致性来支持可扩展性。

    3.2 User-defined functions(UDFs) 用户定义函数

    3.2.1 概述

    Phoenix从4.4.0版本开始支持用户自定义函数。

    用户可以创建临时或永久的用户自定义函数。这些用户自定义函数可以像内置的create、upsert、delete一样被调用。临时函数是针对特定的会话或连接,对其他会话或连接不可见。永久函数的元信息会被存储在一张叫做SYSTEM.FUNCTION的系统表中,对任何会话或连接均可见。

    3.3 Secondary Indexing 二级索引

    在HBase中,只有一个单一的按照字典序排序的rowKey索引,当使用rowKey来进行数据查询的时候速度较快,但是如果不使用rowKey来查询的话就会使用filter来对全表进行扫描,很大程度上降低了检索性能。而Phoenix提供了二级索引技术来应对这种使用rowKey之外的条件进行检索的场景。

    • Covered Indexes

    只需要通过索引就能返回所要查询的数据,所以索引的列必须包含所需查询的列(SELECT的列和WHRER的列)

    • Functional Indexes

    从Phoeinx4.3以上就支持函数索引,其索引不局限于列,可以合适任意的表达式来创建索引,当在查询时用到了这些表达式时就直接返回表达式结果

    • Global Indexes

    Global indexing适用于多读少写的业务场景。
    使用Global indexing的话在写数据的时候会消耗大量开销,因为所有对数据表的更新操作(DELETE, UPSERT VALUES and UPSERT SELECT),会引起索引表的更新,而索引表是分布在不同的数据节点上的,跨节点的数据传输带来了较大的性能消耗。在读数据的时候Phoenix会选择索引表来降低查询消耗的时间。在默认情况下如果想查询的字段不是索引字段的话索引表不会被使用,也就是说不会带来查询速度的提升。

    • Local Indexes

    Local indexing适用于写操作频繁的场景。
    与Global indexing一样,Phoenix会自动判定在进行查询的时候是否使用索引。使用Local indexing时,索引数据和数据表的数据是存放在相同的服务器中的避免了在写操作的时候往不同服务器的索引表中写索引带来的额外开销。使用Local indexing的时候即使查询的字段不是索引字段索引表也会被使用,这会带来查询速度的提升,这点跟Global indexing不同。一个数据表的所有索引数据都存储在一个单一的独立的可共享的表中。

    3.4 Statistics Collection 统计信息收集

    UPDATE STATISTICS可以更新某张表的统计信息,以提高查询性能

    3.5 Row timestamp 时间戳

    从4.6版本开始,Phoenix提供了一种将HBase原生的row timestamp映射到Phoenix列的方法。这样有利于充分利用HBase提供的针对存储文件的时间范围的各种优化,以及Phoenix内置的各种查询优化。

    3.6 Paged Queries 分页查询

    Phoenix支持分页查询:

    • Row Value Constructors (RVC)
    • OFFSET with limit

    3.7 Salted Tables 散步表

    如果row key是自动增长的,那么HBase的顺序写会导致region server产生数据热点的问题,Phoenix的Salted Tables技术可以解决region server的热点问题

    3.8 Skip Scan 跳跃扫描

    可以在范围扫描的时候提高性能

    3.9 Views 视图

    标准的SQL视图语法现在在Phoenix上也支持了。这使得能在同一张底层HBase物理表上创建多个虚拟表。

    3.10 Multi tenancy 多租户

    通过指定不同的租户连接实现数据访问的隔离

    3.11 Dynamic Columns 动态列

    Phoenix 1.2, specifying columns dynamically is now supported by allowing column definitions to included in parenthesis after the table in the FROM clause on a SELECT statement. Although this is not standard SQL, it is useful to surface this type of functionality to leverage the late binding ability of HBase.

    3.12 Bulk CSV Data Loading 大量CSV数据加载

    加载CSV数据到Phoenix表有两种方式:1. 通过psql命令以单线程的方式加载,数据量少的情况下适用。 2. 基于MapReduce的bulk load工具,适用于数据量大的情况

    3.13 Query Server 查询服务器

    Phoenix4.4引入的一个单独的服务器来提供thin客户端的连接

    3.14 Tracing 追踪

    从4.1版本开始Phoenix增加这个特性来追踪每条查询的踪迹,这使用户能够看到每一条查询或插入操作背后从客户端到HBase端执行的每一步。

    3.15 Metrics 指标

    Phoenix提供各种各样的指标使我们能够知道Phoenix客户端在执行不同SQL语句的时候其内部发生了什么。这些指标在客户端JVM中通过两种方式来收集:

    • Request level metrics - collected at an individual SQL statement
      level
    • Global metrics - collected at the client JVM level
  • 相关阅读:
    SQl语句学习笔记(二)
    Adaboost 算法
    降维PCA技术
    scanf 格式化字符串详解
    大小端模式和位域详解(转载)
    推荐系统开源软件列表汇总和点评(转载)
    遗传算法入门(转载)
    大白话解析模拟退火算法(转载)
    机器学习相关——协同过滤(转载)
    python面向对象之单例模式
  • 原文地址:https://www.cnblogs.com/xibuhaohao/p/11855389.html
Copyright © 2011-2022 走看看