zoukankan      html  css  js  c++  java
  • hive大表和小表MapJoin关联查询优化

    大表和小表关联查询可以采用mapjoin优化查询速度。
    那什么是mapjoin呢?
    理解MapJoin之前先介绍另一种Join方式,CommonJoin。
    我们知道Hive编写SQL语句,Hive会将SQL解析成MapReduce任务。
    对于一个简单的关联查询,CommonJoin任务设计Map阶段和Reduce阶段。
    Mapper 从连接表中读取数据并将连接的 key 和连接的 value 键值对输出到中间文件中。Hadoop 在所谓的 shuffle 阶段对这些键值对进行排序和合并。Reducer 将排序结果作为输入,并进行实Join。Shuffle 阶段代价非常昂贵,因为它需要排序和合并。
    因此减少 Shuffle 和 Reduce 阶段的代价可以提高任务性能。
    MapJoin 的目的是减少 Shuffle和 educer阶段的代价,并仅在 Map 阶段进行Join。

    MapJoin的工作机制如图:

    1)Task A,它是一个Local Task(在客户端本地执行的Task),负责扫描小表b的数据,将其转换成一个HashTable的数据结构,并写入本地的文件中,之后将该文件加载到分布式缓存DistributeCache中。
    2)Task B,该任务是一个没有Reduce的MR,启动MapReduce扫描大表。在Map阶段,根据a的每一条记录去和DistributeCache中的b对应的HashTable关联,并直接输出结果。
    3)由于MapJoin没有Reduce,所以Map直接输出结果文件,有多少MapTask,就有多少个结果文件。

    在命令行开启MapJoin功能:
    set hive.auto.convert.join=true;
    Hivev0.7之前,需要使用hint提示/*+mapjoin(table)*/才会执行MapJoin。
    0.7之后默认值为true,默认开启MapJoin。
    Hive能自动判断哪个表是小表,那么多小的表才是小表呢?
    由参数hive.mapjoin.smalltable.filesize=25000000决定,默认是25M。

    因此小表在jion的前面和后面,效果都是一样的,因为Hive自动判断谁是小表,将其加载到内存。
    select b.* from bigtable b join smalltable s on s.id = b.id;
    select b.* from smalltable s join bigtable b on s.id = b.id;

  • 相关阅读:
    Coursera Algorithm II PA2 Q2
    Coursera Algorithm Part II PA2
    实现 memcpy 函数
    超人
    Proxy 模式
    【6】锋利的 jQuery 笔记
    【3】Chrome 的一些常用操作
    HTML 待解决与已解决问题
    CSS 待解决问题
    JS 一些常用技巧
  • 原文地址:https://www.cnblogs.com/lucas-zhao/p/12025000.html
Copyright © 2011-2022 走看看