zoukankan      html  css  js  c++  java
  • spark-sql-04-hive

    pom:
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-hive_2.11</artifactId>
    <version>2.3.4</version>
    </dependency>




    val ss = SparkSession.builder().master("local").appName("standalone_hive") .config("spark.sql.shuffle.partitions", 1) .config("spark.sql.warehouse.dir", "D:\code\tmp\scladata") .enableHiveSupport() // 开启hive支持, 自己会启动单机模式hive的metastore .getOrCreate() val sc: SparkContext = ss.sparkContext import ss.sql ss.catalog.listTables().show() //作用再current库 sql("create database ke") sql("create table table01(name string)") //作用再current库 ss.catalog.listTables().show() //作用再current库 println("--------------------------------") sql("use ke") ss.catalog.listTables().show() //作用再ke这个库 sql("create table table02(name string)") //作用再ke库 ss.catalog.listTables().show() //作用再ke这个库

    结果:

    1.项目目录下多了metastore_db文件夹,里面记录了元数据
    2.目录:D:code	mpscladata 下多了文件夹:1. ke.db	able02 2.table01
    
    3.
    +-------+--------+-----------+---------+-----------+
    |   name|database|description|tableType|isTemporary|
    +-------+--------+-----------+---------+-----------+
    |table01| default|       null|  MANAGED|      false|
    +-------+--------+-----------+---------+-----------+
    
    --------------------------------
    
    
    +----+--------+-----------+---------+-----------+
    |name|database|description|tableType|isTemporary|
    +----+--------+-----------+---------+-----------+
    +----+--------+-----------+---------+-----------+
    
    
    
    +-------+--------+-----------+---------+-----------+
    |   name|database|description|tableType|isTemporary|
    +-------+--------+-----------+---------+-----------+
    |table02|      ke|       null|  MANAGED|      false|
    +-------+--------+-----------+---------+-----------+

    元数据图:

    数据目录图:

  • 相关阅读:
    对我影响最大的老师
    介绍自己
    JavaScript 时间特效 显示当前时间
    js 获取函数的所有参数名
    node.js 在函数内获取当前函数
    js 实现二叉排序树
    命令行下mysql的部分操作
    浅析js的函数的按值传递参数
    返回上一页时,保存恢复浏览记录(模拟返回不刷新)
    让mongodb执行js文件
  • 原文地址:https://www.cnblogs.com/bigdata-familyMeals/p/14493139.html
Copyright © 2011-2022 走看看