zoukankan      html  css  js  c++  java
  • sqoop各类命令示范

    /** 将mysql的表导入 hdfs **/
    bin/sqoop import
    --connect jdbc:mysql://hdp-04:3306/userdb
    --username root
    --password root
    --target-dir
    /sqooptest
    --fields-terminated-by ','
    --table emp
    --split-by id
    --m 2

    /** 将mysql的表导入 hive **/
    bin/sqoop import
    --connect jdbc:mysql://hdp-04:3306/userdb
    --username root
    --password root
    --hive-import
    --fields-terminated-by ','
    --table emp
    --split-by id
    --m 2

    /** 将mysql的表的增量数据导入 hdfs **/
    bin/sqoop import
    --connect jdbc:mysql://hdp-04:3306/userdb
    --target-dir /sqooptest
    --username root
    --password root
    --table emp
    --m 1
    --incremental append
    --check-column id
    --last-value 1205

    /** 将hdfs的文件数据导出到mysql **/
    bin/sqoop export
    --connect jdbc:mysql://hdp-04:3306/userdb
    --username root
    --password root
    --input-fields-terminated-by ','
    --table emp
    --export-dir /sqooptest/


    /** 将hive的表数据(hdfs的文件)导出到mysql **/
    bin/sqoop export
    --connect jdbc:mysql://hdp-04:3306/userdb
    --username root
    --password root
    --input-fields-terminated-by ','
    --table t_from_hive
    --export-dir /user/hive/warehouse/t_a/


    --TODO -----
    将app数据仓库中的 日新用户维度统计报表:dim_user_new_day 导出到mysql的表中去

    -- 1 在mysql中建库建表
    create database app;
    create table dim_user_new_day(
    os_name varchar(20),city varchar(20),release_channel varchar(20),app_ver_name varchar(20),cnts int,dt varchar(20)
    );

    --注意:将库和表的编码集改成utf8,命令如下:
    修改库的编码:
    mysql> alter database db_name character set utf8;
    修改表的编码:
    mysql> ALTER TABLE table_name CONVERT TO CHARACTER SET utf8 COLLATE utf8_general_ci;


    -- 2 用sqoop将hive中的 dim_user_new_day 中的指定日分区的数据导出到mysql 的dim_user_new_day
    #!/bin/bash
    day=`date -d '-1 day' +'%Y-%m-%d'`

    /root/apps/sqoop/bin/sqoop export
    --connect "jdbc:mysql://hdp-04:3306/app?useUnicode=true&characterEncoding=utf-8"
    --username root
    --password root
    --input-fields-terminated-by '01'
    --table dim_user_new_day
    --export-dir /user/hive/warehouse/app.db/dim_user_new_day_1p/day=${day} /

  • 相关阅读:
    php入门变量
    php入门引言
    帝国cms7.0修改默认搜索模版中的分页[!--show.page--]
    帝国cms 列表页分页样式修改美化【2】
    划词翻译
    MySQL几种常见的排序方式
    你的眼界决定了你的格局
    Easy Window Switcher支持Windows 10虚拟桌面
    鬼谷子的人生智慧
    接口设计的八大黄金规则
  • 原文地址:https://www.cnblogs.com/cerofang/p/11104172.html
Copyright © 2011-2022 走看看