zoukankan      html  css  js  c++  java
  • HIVE的Shell操作

    1、Hive支持的一些命令

    退出使用quit或exit离开交互式外壳。

    set key = value使用它来设置特定配置变量的值。 这里要注意的一件事是,如果您对变量名拼写错误,cli将不会显示错误。

    set这将打印由用户或配置单元覆盖的配置变量列表。

    set -v这将打印所有hadoop和hive配置变量。

    添加文件[文件] [文件] *将文件添加到资源列表

    添加jar jarname

    list FILE列出所有添加到分布式缓存的文件

    list FILE [file] *检查给定资源是否已经添加到分布式缓存中

    ! [cmd]从配置单元外壳执行外壳命令

    dfs [dfs cmd]从配置单元外壳执行dfs命令

    2、语法结构

    1、-i 从文件初始化 HQL

    2、-e 从命令行执行指定的 HQL

    3、-f 执行 HQL 脚本

    4、-v 输出执行的 HQL 语句到控制台

    5、-p connect to Hive Server on port number

    6、-hiveconf x=y(Use this to set hive/hadoop configuration variables)

    7、-S:表示以不打印日志的形式执行命名操作

    linux命令行下直接运行HQL:hive -e "select * from cookie.cookie1;"

    linux命令行下调用写好的HQL文件:hive -f hive.sql

    linux命令行下调用写好的Conf文件配置参数  hive -i initive.conf

    二、Hive的参数配置方式

    1、Hive的参数配置大全

    https://cwiki.apache.org/confluence/display/Hive/Configuration+Properties

    2、Hive的参数设置方式

    开发 Hive 应用时,不可避免地需要设定 Hive 的参数。设定 Hive 的参数可以调优 HQL 代码 的执行效率,或帮助定位问题。然而实践中经常遇到的一个问题是,为什么设定的参数没有 起作用?这通常是错误的设定方式导致的

    对于一般参数,有以下三种设定方式

    1、配置文件 (全局有效)

    Hive 的配置文件包括:

      A. 用户自定义配置文件:$HIVE_CONF_DIR/hive-site.xml

      B. 默认配置文件:$HIVE_CONF_DIR/hive-default.xml

    用户自定义配置会覆盖默认配置。

    另外,Hive 也会读入 Hadoop 的配置,因为 Hive 是作为 Hadoop 的客户端启动的,Hive 的配 置会覆盖 Hadoop 的配置。

    配置文件的设定对本机启动的所有 Hive 进程都有效。

    2、命令行参数(对 hive 启动实例有效)

    启动 Hive(客户端或 Server 方式)时,可以在命令行添加-hiveconf param=value 来设定参数,例如:

    hive    -hiveconf   hiveroot.logger=INFO,console

    这一设定对本次启动的 session(对于 server 方式启动,则是所有请求的 session)有效。

    3、参数声明 (对 hive 的连接 session 有效)

    这一设定的作用域也是 session 级的。

    set hive.exec.reducers.bytes.per.reducer= 每个 reduce task 的平均负载数据量 Hive 会估算总数据量,然后用该值除以上述参数值,就能得出需要运行的 reduceTask 数

    set hive.exec.reducers.max= 设置 reduce task 数量的上限

    set mapreduce.job.reduces= 指定固定的 reduce task 数量

    但是,这个参数在必要时<业务逻辑决定只能用一个 reduce task> hive 会忽略,比如在设置 了 set mapreduce.job.reduces = 3,但是 HQL 语句当中使用了 order by 的话,那么就会忽略该参数的设置。

    上述三种设定方式的优先级依次递增。即参数声明覆盖命令行参数,命令行参数覆盖配置 文件设定。注意某些系统级的参数,例如 log4j 相关的设定,必须用前两种方式设定,因为 那些参数的读取在 session 建立以前已经完成了。









  • 相关阅读:
    Android笔记——数据库升级与降级
    Android笔记——SQLiteOpenHelper类
    Android笔记——关于Cursor类的介绍
    Android笔记——permission权限大全
    Android笔记——Android中visibility属性VISIBLE、INVISIBLE、GONE的区别
    Android笔记——提升ListView的运行效率
    Android知识——ViewHolder的作用与用法
    Tween Animation----Rotate旋转动画
    Tween Animation----Translate位置移动动画
    Tween Animation---Scale渐变尺寸缩放动画
  • 原文地址:https://www.cnblogs.com/dll102/p/12093507.html
Copyright © 2011-2022 走看看