zoukankan      html  css  js  c++  java
  • hive中的一些参数

    动态分区

    设置如下参数开启动态分区:
    hive.exec.dynamic.partition=true
    默认值:false
    描述:是否允许动态分区
    hive.exec.dynamic.partition.mode=nonstrict
    默认值:strict
    描述:strict是避免全分区字段是动态的,必须有至少一个分区字段是指定有值的


    设置如下参数配置动态分区的使用环境:
    hive.exec.max.dynamic.partitions.pernode=100
    默认值:100
    描述:each mapper or reducer可以创建的最大动态分区数
    hive.exec.max.dynamic.partitions=1000
    默认值:1000
    描述:一个DML操作可以创建的最大动态分区数
    hive.exec.max.created.files=100000
    默认值:100000
    描述:一个DML操作可以创建的文件数

    设置如下参数取消一些限制(HIVE 0.7后没有此限制):
    hive.merge.mapfiles=false
    默认值:true
    描述:是否合并Map的输出文件
    hive.merge.mapredfiles=false
    默认值:false
    描述:是否合并Reduce的输出文件

    文件类型

    lzo文件类型
    set mapred.output.compress=true;
    set hive.exec.compress.output=true;
    set mapred.output.compression.codec=com.hadoop.compression.lzo.LzopCodec;


    parquet文件类型
    set mapred.output.compress=true;
    set hive.exec.compress.output=true;
    set mapred.output.compression.codec=org.apache.hadoop.hive.ql.io.parquet.MapredParquetOutputFormat

  • 相关阅读:
    jQuery选择器支持正则匹配
    js监听dom元素内容变化
    icon
    arclist 分页
    dede 手机模板 上一篇下一篇 链接错误问题解决办法
    css解决移动端 文字垂直居中问题
    网页即时QQ聊天
    apache ,ip访问的默认页
    swiper初始化
    JQ锚点,平滑滚动
  • 原文地址:https://www.cnblogs.com/wujin/p/6076784.html
Copyright © 2011-2022 走看看