zoukankan      html  css  js  c++  java
  • hive中的一些参数

    动态分区

    设置如下参数开启动态分区:
    hive.exec.dynamic.partition=true
    默认值:false
    描述:是否允许动态分区
    hive.exec.dynamic.partition.mode=nonstrict
    默认值:strict
    描述:strict是避免全分区字段是动态的,必须有至少一个分区字段是指定有值的


    设置如下参数配置动态分区的使用环境:
    hive.exec.max.dynamic.partitions.pernode=100
    默认值:100
    描述:each mapper or reducer可以创建的最大动态分区数
    hive.exec.max.dynamic.partitions=1000
    默认值:1000
    描述:一个DML操作可以创建的最大动态分区数
    hive.exec.max.created.files=100000
    默认值:100000
    描述:一个DML操作可以创建的文件数

    设置如下参数取消一些限制(HIVE 0.7后没有此限制):
    hive.merge.mapfiles=false
    默认值:true
    描述:是否合并Map的输出文件
    hive.merge.mapredfiles=false
    默认值:false
    描述:是否合并Reduce的输出文件

    文件类型

    lzo文件类型
    set mapred.output.compress=true;
    set hive.exec.compress.output=true;
    set mapred.output.compression.codec=com.hadoop.compression.lzo.LzopCodec;


    parquet文件类型
    set mapred.output.compress=true;
    set hive.exec.compress.output=true;
    set mapred.output.compression.codec=org.apache.hadoop.hive.ql.io.parquet.MapredParquetOutputFormat

  • 相关阅读:
    BOJ 85 Three Points On A Line
    BOJ 84 Single Number
    BOJ 83 A + B Problem
    【转载】运算符优先级
    匹配体重和为特定值的人,两两成对
    The Brand New Beginning!
    【失败】制作CentOS镜像
    【制作镜像】安装VMwareTool
    部署巡检脚本
    windows server 2008镜像重启后密码变为默认密码的问题的解决方案
  • 原文地址:https://www.cnblogs.com/wujin/p/6076784.html
Copyright © 2011-2022 走看看