2021.9.30 利用sqoop将hive数据导出到mysql

一、今日学习内容

    

1、下载并解压

　　1) 下载地址：http://mirrors.hust.edu.cn/apache/sqoop/1.4.6/

　　2) 上传安装包 sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz 到虚拟机中

　　3) 解压 sqoop 安装包到指定目录，如：

　　　　$ tar -zxf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /opt/module/

2、 修改配置文件

　　Sqoop 的配置文件与大多数大数据框架类似，在 sqoop 根目录下的 conf 目录中。

　　1) 重命名配置文件

　　　　$ mv sqoop-env-template.sh sqoop-env.sh

　　2) 修改配置文件

　　　　sqoop-env.sh

　　　　export HADOOP_COMMON_HOME=/opt/module/hadoop-2.7.2

　　　　export HADOOP_MAPRED_HOME=/opt/module/hadoop-2.7.2

　　　　export HIVE_HOME=/opt/module/hive

　　　　export ZOOKEEPER_HOME=/opt/module/zookeeper-3.4.10

　　　　export ZOOCFGDIR=/opt/module/zookeeper-3.4.10

　　　　export HBASE_HOME=/opt/module/hbase

3、 拷贝 JDBC 驱动

　　拷贝 jdbc 驱动到 sqoop 的 lib 目录下，如：

　　　　$ cp mysql-connector-java-5.1.27-bin.jar

　　　　/opt/module/sqoop-1.4.6.bin__hadoop-2.0.4-alpha/lib/

4、 验证 Sqoop

　　我们可以通过某一个 command 来验证 sqoop 配置是否正确：

　　　　$ bin/sqoop help

　

5、 测试 Sqoop 是否能够成功连接数据库

　　　　$ bin/sqoop list-databases --connect jdbc:mysql://hadoop102:3306/

　　　　--username root --password 000000

　　出现如下输出：

　　　　information_schema

　　　　metastore

　　　　mysql

　　　　oozie

　　　　performance_schema

6、导出数据

　　

4.2.1 HIVE/HDFS 到 RDBMS

$ bin/sqoop export \

--connect jdbc:mysql://hadoop102:3306/company \

--username root \

--password 000000 \

--table staff \

--num-mappers 1 \

--export-dir /user/hive/warehouse/staff_hive \

--input-fields-terminated-by "\t"