zoukankan      html  css  js  c++  java
  • Java使用JDBC连接Hive

      最近一段时间,处理过一个问题,那就是hive jdbc的连接问题,其实也不是大问题,就是url写的不对,导致无法连接。问题在于HiveServer2增加了别的安全验证,导致正常的情况下,传递的参数无法使用,hive连接返回用户为空的错误,具体错误不再详谈,今天就说说jdbc的url书写问题。

      正常情况下的url:

    jdbc:hive2://node1:10000/default

      这种情况下,都是默认的,没有权限限制。从这个示例而已看出,URL的基本格式为:

    jdbc:hive2://Host:Port[/Schema];Property1=Value;Property2=Value;…

      例如,使用用户名和密码连接的URL为:

    jdbc:hive2://localhost:10000;AuthMech=3;UID=UserName;PWD=Password

      其中,UID默认为hive,AuthMech默认为2。

      hive jdbc连接安全机制也分集中情况,分别为无权限、Kerberos、用户名与用户名和密码,安全机制属性为AuthMech,例如:

    jdbc:hive2://localhost:10000;AuthMech=0
    jdbc:hive2://localhost:10000;AuthMech=1;KrbRealm=EXAMPLE.COM;KrbHostFQDN=hs2.example.com;KrbServiceName=hive
    jdbc:hive2://localhost:10000;AuthMech=2;UID=hs2
    jdbc:hive2://localhost:10000;AuthMech=3;UID=hs2;PWD=*****
    jdbc:hive2://localhost:10000;AuthMech=3;SSL=1;SSLKeyStore=C:\Users\bsmith\Desktop\keystore.jks;SSLKeyStorePwd=*****;UID=hs2;PWD=*****

      以上均为hive jdbc url一般模式,但是,如果需要修改执行sql时的一些hive环境变量,改如何呢?请看:

    jdbc:hive2://<host>:<port>/dbName;sess_var_list?hive_conf_list#hive_var_list

    这个才是jdbc url完整的格式,其中:

    • sess_var_list参数列表:session参数,如principal,serviceDiscoveryMode等等;
    • hive_conf_list参数列表:hive的配置参数,hive-site.xml中的配置项;
    • hive_var_list参数列表:hive的变量参数;

    如果要指定hive执行sql时候的相关参数,即hive-site.xml中的某些变量,就需要增加在?后面,key=value形式,多个用分号分隔。例如:

    jdbc:hive2://ubuntu:11000/db2?hive.cli.conf.printheader=true;hive.exec.mode.local.auto.inputbytes.max=9999#stab=salesTable;icol=customerID
    
    jdbc:hive2://?hive.cli.conf.printheader=true;hive.exec.mode.local.auto.inputbytes.max=9999#stab=salesTable;icol=customerID
    
    jdbc:hive2://ubuntu:11000/db2;user=foo;password=bar
    
    jdbc:hive2://server:10001/db;user=foo;password=bar?hive.server2.transport.mode=http;hive.server2.thrift.http.path=hs2
    
    jdbc:hive2://zk01:2181,zk02:2181,zk03:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2

    具体的解析代码在hive-jdbc中,类文件为HiveConnection.java。解析大致流程为:

    // Now parse the connection uri with dummy authority
    URI jdbcURI = URI.create(uri.substring(URI_JDBC_PREFIX.length()));
    // dbname and session settings(获取第一部分参数)
    String sessVars = jdbcURI.getPath();
    // parse hive conf settings(获取第二部分参数)
    String confStr = jdbcURI.getQuery();
    // parse hive var settings(获取第三部分参数)
    String varStr = jdbcURI.getFragment();

    以上就是对Hive Jdbc URL中的各个部分进行说明。

    HveServer2官方说明文档:

    https://cwiki.apache.org/confluence/display/Hive/HiveServer2+Clients#HiveServer2Clients-JDBC

  • 相关阅读:
    IoC之Ninject
    C#中的扩展方法
    Office 2016 Pro Plus Project 专业版 Visio 专业版 64 位vol版本方便KMS小马oem
    Microsoft Office 2016 简体中文 Vol 版镜像下载
    svn 被锁住 冲突 Can't revert without reverting children
    定时检查服务批处理,发现服务停止立即启动服务
    C++中关于[]静态数组和new分配的动态数组的区别分析
    IP地址与无符号整数值相互转换
    算法:整数与ip地址转换
    将字符串表示的IP地址转变为整形表示
  • 原文地址:https://www.cnblogs.com/flowerbirds/p/11256432.html
Copyright © 2011-2022 走看看