zoukankan      html  css  js  c++  java
  • Hive安装教程

    Hive的安装和使用

    我的版本:
    JAVA_HOME=/usr/local/soft/jdk1.8.0_171
    HADOOP_HOME=/usr/local/soft/hadoop-2.7.6
    HIVE_HOME=/usr/local/soft/hive-1.2.1

    一、离线安装mysql

    hive的元数据需要存储在mysql,没安装mysql的可以参考Linux安装MySQL详细步骤(CentOS6、CentOS7),安装过的直接跳过
    安装hive前需要先在MySQL中创建hive元数据库
    create database hive character set "latin1";

    二、安装hive

    1、解压hive的安装包:
    tar -zxvf apache-hive-1.2.1-bin.tar.gz
    我是安装到/usr/local/soft目录下
    image
    进入到自己的安装目录下修改目录名称(原来的名称太长):
    mv apache-hive-1.2.1-bin hive-1.2.1
    image
    2、进入hive-1.2.1/conf目录,复制备份文件并重命名

    cp hive-env.sh.template hive-env.sh
    cp hive-default.xml.template hive-site.xml
    

    3、配置hive的配置文件(hive的配置文件比较大,在linux中查找某项配置比较难,可以先将hive-site.xml文件复制到windows用文本编辑打开,然后ctrl+f查关键字修改,修改之后再放回到hive 的conf目录)
    3.1修改hive-env.sh
    vim hive-env.sh
    加入三行内容(大家根据自己的目录和实际情况来添加)

    HADOOP_HOME=/usr/local/soft/hadoop-2.7.6
    JAVA_HOME=/usr/local/soft/jdk1.8.0_171
    HIVE_HOME=/usr/local/soft/hive-1.2.1
    

    image
    3.2修改hive-site.xml
    修改时要细心一点别找错了
    文件中涉及到的主机名和路径要根据自己的修改

    <property>
    	<name>javax.jdo.option.ConnectionURL</name>
    	<value>jdbc:mysql://master:3306/hive?characterEncoding=utf-8</value>
    </property>
    <property>
    	<name>javax.jdo.option.ConnectionDriverName</name>
    	<value>com.mysql.jdbc.Driver</value>
    </property>
    <property>
    	<!-- 这里的用户名和下面的密码要根据自己的填写 -->
    	<name>javax.jdo.option.ConnectionUserName</name>
    	<value>root</value>
    </property>
    <property>
    	<name>javax.jdo.option.ConnectionPassword</name>
    	<value>123456</value>
    </property>
    <property>
    	<name>hive.querylog.location</name>
    	<value>/usr/local/soft/hive-1.2.1/tmp</value>
    </property>
    <property>
    	<name>hive.exec.local.scratchdir</name>
    	<value>/usr/local/soft/hive-1.2.1/tmp</value>
    </property>
    <property>
    	<name>hive.downloaded.resources.dir</name>
    	<value>/usr/local/soft/hive-1.2.1/tmp</value>
    </property>
    

    3.4拷贝mysql驱动到$HIVE_HOME/lib目录下
    cd /usr/local/soft/hive-1.2.1/lib进入到lib目录
    我的mysql驱动在/usr/local/soft/module/mysql-connector-java-5.1.49.jar
    cp /usr/local/module/mysql-connector-java-5.1.49.jar ./
    image
    3.5将hive的jline-2.12.jar拷贝到hadoop对应目录下,hive的 jline-2.12.jar 位置在 :
    /usr/local/soft/hive-1.2.1/lib/
    将hive的jar拷过去hadoop下(因为我的Hadoop版本里面不包含jline jar包直接拷过去即可,有的hadoop版本自带jar包,这时候需要删除版本低的,不然后面运行时会报错):
    cp /usr/local/soft/hive-1.2.1/lib/jline-2.12.jar /usr/local/soft/hadoop-2.7.6/share/hadoop/yarn/lib/
    image
    3.6配置环境变量,加上HIVE_HOME
    修改/etc/profile
    vim /etc/profile

    export HIVE_HOME=/usr/local/soft/hive-1.2.1
    export PATH=$PATH:$HIVE_HOME/bin
    

    重新加载环境变量
    source /etc/profile
    3.7启动hive:
    hive
    image
    3.8 修改mysql元数据库hive,让其hive支持utf-8编码以支持中文
    登录mysql(需要先退出hive或者再开一个会话窗口):
    mysql -u root -p123456
    切换到hive数据库:
    use hive;
    1).修改字段注释字符集
    alter table COLUMNS_V2 modify column COMMENT varchar(256) character set utf8;

    2).修改表注释字符集
    alter table TABLE_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;

    3).修改分区表参数,以支持分区键能够用中文表示

    alter table PARTITION_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;
    alter table PARTITION_KEYS modify column PKEY_COMMENT varchar(4000) character set utf8;
    

    4).修改索引注解(报错不用管)
    alter table INDEX_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;

    测试hive
    1、启动hive
    2、在hive中创建test1数据库
    create database test1;
    3、切换test1数据库:
    use test1;
    4、创建students表:

    create table students(
        id bigint comment '学生id',
        name string comment '学生姓名',
        age int comment '学生年龄',
        gender string comment '学生性别',
        clazz string comment '学生班级'
    ) comment '学生信息表' 
    ROW FORMAT DELIMITED FIELDS TERMINATED BY ','; 
    

    image
    5、创建score表:

    create table score(
        id bigint comment '学生id',
        score_id bigint  comment '科目id',
        score int comment '学生成绩'
    ) comment '学生成绩表'  
    ROW FORMAT DELIMITED FIELDS TERMINATED BY ',';  
    

    6、查看表信息:

    desc students;
    desc score;
    

    image

  • 相关阅读:
    执行 composer --version 命令的时候报 Your requirements could not be resolved to an installable set of packages. 错误
    Mac 解决每次新建终端 都要重新运行 source ~/.bash_profile问题
    mac 文件根据权限展示颜色
    Unable to negotiate with 180.101.**.*** port 22: no matching cipher found. Their offer: 3des-cbc,blowfish-cbc,arcfour,cast128-cbc,aes128-cbc,aes192-cbc,aes256-cbc
    带有git账户名称密码更改git推送拉取地址
    使用Java,实现图片与Base64编码互转的程序
    Spring事务管理:ACID的概念,Spring事务管理核心接口,基于XML方式的声明式事务、基于注解(Annotation)方式的声明式事务
    Spring,JDBC, JdbcTemplate的常用方法
    Spring,AOP,基于注解声明式ApsectJ
    养猫记
  • 原文地址:https://www.cnblogs.com/yy-yang/p/14679012.html
Copyright © 2011-2022 走看看