zoukankan      html  css  js  c++  java
  • Hive的基本介绍以及常用函数

    一、Hive的简介:

      Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。

    优点:

    1) 操作接口采用类SQL语法,提供快速开发的能力(简单、容易上手)。
    
    2) 避免了去写MapReduce,减少开发人员的学习成本。
    
    3) Hive的执行延迟比较高,因此Hive常用于数据分析,对实时性要求不高的场合。
    
    4) Hive优势在于处理大数据,对于处理小数据没有优势,因为Hive的执行延迟比较高。
    
    5) Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数。

    缺点:

    1)Hive的HQL表达能力有限
    2)Hive的效率比较低

    二、Hive的架构图

              

    三、Hive的数据类型

    基本数据类型:
      Hive数据类型    Java数据类型 
      TINYINT       byte    
      SMALINT       short    
      INT            int    
      BIGINT       long    
      BOOLEAN       boolean  
      FLOAT        float    
      DOUBLE        double    
      STRING         string   
      TIMESTAMP      时间类型    
      BINARY         字节数组    
    集合
      STRUCT  和c语言中的struct类似,都可以通过“点”符号访问元素内容。例如,如果某个列的数据类型是STRUCT{first STRING, last STRING},那么第1个元素可以通过字段.first来引用。    
          struct() 例如struct<street:string, city:string>   MAP MAP是一组键-值对元组集合,使用数组表示法可以访问数据。例如,如果某个列的数据类型是MAP,其中键->值对是’first’->’John’和’last’->’Doe’,那么可以通过字段名[‘last’]获取最后一个元素
          map() 例如map
    <string, int>   ARRAY 数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素,每个数组元素都有一个编号,编号从零开始。例如,数组值为[‘John’, ‘Doe’],那么第2个元素可以通过数组名[1]进行引用。
          Array() 例如array
    <string>

    四、管理表和外部表

      默认创建的表为管理表,有时也被称为内部表。当我们删除一个管理表时,Hive也会删除这个表中数据。管理表不适合和其他工具共享数据。  

      添加关键字external创建的表是外部表,所以Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据,不过描述表的元数据信息会被删除掉。

    #查询表的类型
    desc formatted stu;
    #修改内部表stu为外部表
    alter table stuset tblproperties('EXTERNAL'='TRUE');
    #修改外部表stu为内部表
    alter table stuset tblproperties('EXTERNAL'='FALSE');
    注意:('EXTERNAL'='TRUE')和('EXTERNAL'='FALSE')为固定写法,区分大小写!

    清空表数据:

     管理表:truncate table stu;

     外部表:alter table stuset tblproperties('EXTERNAL'='FALSE'); 先改成内部表再执行清空:truncate table stu;

      场景:每天将收集到的网站日志定期流入HDFS文本文件。在外部表(原始日志表)的基础上做大量的统计分析,用到的中间表、结果表使用内部表存储,数据通过SELECT+INSERT进入内部表。

    五、查询常用函数

    1,空字段赋值

      NVL( value,default_value)

    2,when

      case 字段 when 值 then 替换值 else 替换值 end 同 if(boolean,值,另外值)

    3,行转列

    CONCAT(string A/col, string B/col…):返回输入字符串连接后的结果,支持任意个输入字符串; 
    CONCAT_WS(separator, str1, str2,...):它是一个特殊形式的 CONCAT()。第一个参数剩余参数间的分隔符。分隔符可以是与剩余参数一样的字符串。如果分隔符是 NULL,返回值也将为 NULL。这个函数会跳过分隔符参数后的任何 NULL 和空字符串。分隔符将被加到被连接的字符串之间;
    COLLECT_SET(col):函数只接受基本数据类型,它的主要作用是将某字段的值进行去重汇总,产生array类型字段。

    4,列转行

    EXPLODE(col):将hive一列中复杂的array或者map结构拆分成多行。
    LATERAL VIEW
    用法:LATERAL VIEW udtf(expression) tableAlias AS columnAlias
    解释:用于和split, explode等UDTF一起使用,它能够将一列数据拆成多行数据,在此基础上可以对拆分后的数据进行聚合。

    5,窗口函数

    OVER():指定分析函数工作的数据窗口大小,这个数据窗口大小可能会随着行的变而变化。
    CURRENT ROW:当前行
    n PRECEDING:往前n行数据
    n FOLLOWING:往后n行数据
    UNBOUNDED:起点,UNBOUNDED PRECEDING 表示从前面的起点, UNBOUNDED FOLLOWING表示到后面的终点
    LAG(col,n,default_val):往前第n行数据
    LEAD(col,n, default_val):往后第n行数据
    NTILE(n):把有序分区中的行分发到指定数据的组中,各个组有编号,编号从1开始,对于每一行,NTILE返回此行所属的组的编号。注意:n必须为int类型。

    6,Rank

    RANK() 排序相同时会重复,总数不会变
    DENSE_RANK() 排序相同时会重复,总数会减少
    ROW_NUMBER() 会根据顺序计算

    7,时间

    #均只适合yyyy-MM-dd HH:mm:ss格式的时间,当然时分秒可以省略
    date_format:格式化时间select date_format('2020-06-04','yyyy-MM');2020-06
    date_add:   时间跟天数相加select date_add('2020-06-04',5);2020-06-09
    date_sub:   时间跟天数相减select date_sub('2020-06-04',5);2020-05-30
    datediff:   两个时间相减select datediff('2020-06-04','2020-05-10');25
    year:       获取年select year('2020-06-04');2020
    month:      获取月份select month('2020-06-04');04
    day:        获取日select day('2020-06-04');04

    格式转换
    regexp_replace: 字段,原格式,替换的格式;select regexp_replace('2020/05/04','/','-');2020-05-04

     

     

  • 相关阅读:
    NOI AC#62 color(树上操作)
    fenbi
    bert 压缩优化方向的论文
    bert 编程入门| bert 瘦身技巧
    行政法+刑法+民法
    Bert原理 | Bert油管视频学习法
    vscode的使用以及快捷键总结
    NG课程笔记学习记录
    古典文学+古曲+四大文明古国
    中国地理+地球上的水和大气
  • 原文地址:https://www.cnblogs.com/bbgs-xc/p/13040600.html
Copyright © 2011-2022 走看看