zoukankan      html  css  js  c++  java
  • spark-sql-04-hive

    pom:
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-hive_2.11</artifactId>
    <version>2.3.4</version>
    </dependency>




    val ss = SparkSession.builder().master("local").appName("standalone_hive") .config("spark.sql.shuffle.partitions", 1) .config("spark.sql.warehouse.dir", "D:\code\tmp\scladata") .enableHiveSupport() // 开启hive支持, 自己会启动单机模式hive的metastore .getOrCreate() val sc: SparkContext = ss.sparkContext import ss.sql ss.catalog.listTables().show() //作用再current库 sql("create database ke") sql("create table table01(name string)") //作用再current库 ss.catalog.listTables().show() //作用再current库 println("--------------------------------") sql("use ke") ss.catalog.listTables().show() //作用再ke这个库 sql("create table table02(name string)") //作用再ke库 ss.catalog.listTables().show() //作用再ke这个库

    结果:

    1.项目目录下多了metastore_db文件夹,里面记录了元数据
    2.目录:D:code	mpscladata 下多了文件夹:1. ke.db	able02 2.table01
    
    3.
    +-------+--------+-----------+---------+-----------+
    |   name|database|description|tableType|isTemporary|
    +-------+--------+-----------+---------+-----------+
    |table01| default|       null|  MANAGED|      false|
    +-------+--------+-----------+---------+-----------+
    
    --------------------------------
    
    
    +----+--------+-----------+---------+-----------+
    |name|database|description|tableType|isTemporary|
    +----+--------+-----------+---------+-----------+
    +----+--------+-----------+---------+-----------+
    
    
    
    +-------+--------+-----------+---------+-----------+
    |   name|database|description|tableType|isTemporary|
    +-------+--------+-----------+---------+-----------+
    |table02|      ke|       null|  MANAGED|      false|
    +-------+--------+-----------+---------+-----------+

    元数据图:

    数据目录图:

  • 相关阅读:
    【2020-04-14】吃一折,长一智吧
    对“沟通成本”模型的一个重新假设
    【2020-04-13】稀缺才能让人珍惜
    【2020-04-12】决策都是当前认知的反映
    hhhhh我进步啦!
    求后序遍历(信息学奥赛一本通 1339)
    数的划分(信息学奥赛一本通 1304 洛谷 1025)
    memset函数怎么用嘞↓↓↓
    stack函数怎么用嘞?↓↓↓
    终于开通博客啦!
  • 原文地址:https://www.cnblogs.com/bigdata-familyMeals/p/14493139.html
Copyright © 2011-2022 走看看