zoukankan      html  css  js  c++  java
  • [Sqoop]-认识&部署

    1.什么是Sqoop

      Sqoop是sql-to-hadoop 的部分单词字母汇总.它是作为Hadoop(广义,包括但不限于HDFS)与结构化存储(RDBMS),相互的导入导出桥梁.

      Sqoop是Apache的顶级项目,所以其有独立官网 http://sqoop.apache.org/  

      Sqoop有两大版本 1.4.x(Sqoop1) 和 1.99.x(Sqoop2)  (这是两大不兼容版本,具体区别请自行了解),一般使用的还是Sqoop1

    2.部署

      解压 # tar -xzvf ~/software/sqoop-1.4.6-cdh5.7.0.tar.gz -C ~/app/

      配置环境变量 # vi ~/.bash_profile

        export SQOOP_HOME=/home/hadoop/app/sqoop-1.4.6-cdh5.7.0

        export PATH=$SQOOP_HOME/bin:$PATH

      Sqoop配置文件

        # cp /home/hadoop/app/sqoop-1.4.6-cdh5.7.0/conf/sqoop-env-template.sh /home/hadoop/app/sqoop-1.4.6-cdh5.7.0/conf/sqoop-env.sh

        # vi /home/hadoop/app/sqoop-1.4.6-cdh5.7.0/conf/sqoop-env.sh

        修改如下:

          export HADOOP_COMMON_HOME=/home/hadoop/app/hadoop-2.6.0-cdh5.7.0

          export HADOOP_MAPRED_HOME=/home/hadoop/app/hadoop-2.6.0-cdh5.7.0

          export HIVE_HOME=/home/hadoop/app/hive-1.1.0-cdh5.7.0

          export HADOOP_CLASSPATH=/home/hadoop/app/hive-1.1.0-cdh5.7.0/lib/*

      如果使用Hive ,拷贝Hive的配置

        cp ~/app/hive-1.1.0-cdh5.7.0/conf/hive-site.xml ~/app/sqoop-1.4.6-cdh5.7.0/conf/hive-site.xml

      放入需要的数据库驱动包至lib文件夹

        Mysql驱动等

        

        

  • 相关阅读:
    Kotlin中Range与异常体系剖析
    @RequestParam与@PathVariable的区别
    thymeleaf:局部变量 th:with
    关于thymeleaf th:replace th:include th:insert 的区别
    MockHttpServletRequestBuilder中content和param的区别
    使用spring的JavaMailSender发送邮件
    Spring的注解@Qualifier小结
    MySql 中 case when then else end 的用法
    @Transient 理解
    Vue生命周期-手动挂载理解
  • 原文地址:https://www.cnblogs.com/NightPxy/p/9163160.html
Copyright © 2011-2022 走看看