zoukankan      html  css  js  c++  java
  • spark-sql-04-hive

    pom:
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-hive_2.11</artifactId>
    <version>2.3.4</version>
    </dependency>




    val ss = SparkSession.builder().master("local").appName("standalone_hive") .config("spark.sql.shuffle.partitions", 1) .config("spark.sql.warehouse.dir", "D:\code\tmp\scladata") .enableHiveSupport() // 开启hive支持, 自己会启动单机模式hive的metastore .getOrCreate() val sc: SparkContext = ss.sparkContext import ss.sql ss.catalog.listTables().show() //作用再current库 sql("create database ke") sql("create table table01(name string)") //作用再current库 ss.catalog.listTables().show() //作用再current库 println("--------------------------------") sql("use ke") ss.catalog.listTables().show() //作用再ke这个库 sql("create table table02(name string)") //作用再ke库 ss.catalog.listTables().show() //作用再ke这个库

    结果:

    1.项目目录下多了metastore_db文件夹,里面记录了元数据
    2.目录:D:code	mpscladata 下多了文件夹:1. ke.db	able02 2.table01
    
    3.
    +-------+--------+-----------+---------+-----------+
    |   name|database|description|tableType|isTemporary|
    +-------+--------+-----------+---------+-----------+
    |table01| default|       null|  MANAGED|      false|
    +-------+--------+-----------+---------+-----------+
    
    --------------------------------
    
    
    +----+--------+-----------+---------+-----------+
    |name|database|description|tableType|isTemporary|
    +----+--------+-----------+---------+-----------+
    +----+--------+-----------+---------+-----------+
    
    
    
    +-------+--------+-----------+---------+-----------+
    |   name|database|description|tableType|isTemporary|
    +-------+--------+-----------+---------+-----------+
    |table02|      ke|       null|  MANAGED|      false|
    +-------+--------+-----------+---------+-----------+

    元数据图:

    数据目录图:

  • 相关阅读:
    bfs入门 (HDU
    Codeforces Round #570 (Div. 3)B
    nyoj 277-车牌号 (map, pair, iterator)
    nyoj 276-比较字母大小 (顺序比较, 逆序输出)
    nyoj 275-队花的烦恼一 (stack, push, pop)
    nyoj 274-正三角形的外接圆面积 (R = PI * a * a / 3)
    nyoj 273-字母小游戏 (getline(cin, string))
    nyoj 268-荷兰国旗问题 (count)
    nyoj 266-字符串逆序输出 (isdigit(), geline(cin, my_string))
    nyoj 264-国王的魔镜 (string[-1:-int(str_len/2+1):-1])
  • 原文地址:https://www.cnblogs.com/bigdata-familyMeals/p/14493139.html
Copyright © 2011-2022 走看看