zoukankan      html  css  js  c++  java
  • Hive学习之路 (六)Hive SQL之数据类型和存储格式

    正文


    一、数据类型

    1、基本数据类型

    Hive 支持关系型数据中大多数基本数据类型

    类型描述示例
    boolean true/false TRUE
    tinyint 1字节的有符号整数 -128~127 1Y
    smallint 2个字节的有符号整数,-32768~32767 1S
    int 4个字节的带符号整数 1
    bigint 8字节带符号整数 1L
    float 4字节单精度浮点数 1.0
    double 8字节双精度浮点数 1.0
    deicimal 任意精度的带符号小数 1.0
    String 字符串,变长 “a”,’b’
    varchar 变长字符串 “a”,’b’
    char 固定长度字符串 “a”,’b’
    binary 字节数组 无法表示
    timestamp 时间戳,纳秒精度 122327493795
    date 日期 ‘2018-04-07’

    和其他的SQL语言一样,这些都是保留字。需要注意的是所有的这些数据类型都是对Java中接口的实现,因此这些类型的具体行为细节和Java中对应的类型是完全一致的。例如,string类型实现的是Java中的String,float实现的是Java中的float,等等。

    2、复杂类型

    类型描述示例
    array 有序的的同类型的集合 array(1,2)
    map key-value,key必须为原始类型,value可以任意类型 map(‘a’,1,’b’,2)
    struct 字段集合,类型可以不同 struct(‘1’,1,1.0), named_stract(‘col1’,’1’,’col2’,1,’clo3’,1.0)

    二、存储格式

    Hive会为每个创建的数据库在HDFS上创建一个目录,该数据库的表会以子目录形式存储,表中的数据会以表目录下的文件形式存储。对于default数据库,默认的缺省数据库没有自己的目录,default数据库下的表默认存放在/user/hive/warehouse目录下。

    (1)textfile 

    textfile为默认格式,存储方式为行存储。数据不做压缩,磁盘开销大,数据解析开销大。 

    (2)SequenceFile 

    SequenceFile是Hadoop API提供的一种二进制文件支持,其具有使用方便、可分割、可压缩的特点。 

    SequenceFile支持三种压缩选择:NONE, RECORD, BLOCK。 Record压缩率低,一般建议使用BLOCK压缩。 

    (3)RCFile 

    一种行列存储相结合的存储方式。 

    (4)ORCFile 

    数据按照行分块,每个块按照列存储,其中每个块都存储有一个索引。hive给出的新格式,属于RCFILE的升级版,性能有大幅度提升,而且数据可以压缩存储,压缩快 快速列存取。 

    (5)Parquet 

    Parquet也是一种行式存储,同时具有很好的压缩性能;同时可以减少大量的表扫描和反序列化的时间。


    三、数据格式

    当数据存储在文本文件中,必须按照一定格式区别行和列,并且在Hive中指明这些区分符。Hive默认使用了几个平时很少出现的字符,这些字符一般不会作为内容出现在记录中。

    Hive默认的行和列分隔符如下表所示。

    分隔符描述
    对于文本文件来说,每行是一条记录,所以 来分割记录
    ^A (Ctrl+A) 分割字段,也可以用01 来表示
    ^B (Ctrl+B) 用于分割 Arrary 或者 Struct 中的元素,或者用于 map 中键值之间的分割,也可以用02 分割。
    ^C 用于 map 中键和值自己分割,也可以用03 表示。
     
     
  • 相关阅读:
    DataTable 类(二)处理表中的数据
    .NET中的正则表达式
    DataTable 类(一)表结果操作
    DataGridView(2)数据操作
    DataGridView(一)
    VS2008中配置 Windows SDK v7
    TabControl
    .NET中的正则表达式 (一)Regex 类
    db2的count()函数和sum()函数的用法
    显示原始字符串
  • 原文地址:https://www.cnblogs.com/makeryan/p/11359026.html
Copyright © 2011-2022 走看看