zoukankan      html  css  js  c++  java
  • Hadoop伪分布安装详解(五)

    目录:

         1.修改主机名和用户名

         2.配置静态IP地址

         3.配置SSH无密码连接

         4.安装JDK1.7

         5.配置Hadoop

         6.安装Mysql

         7.安装Hive

         8.安装Hbase

         9.安装Sqoop

    ********************

    8.安装Hbase

         HBase是基于HDFS的一种列式数据库,接下来使用伪分布式的安装方式。

        (1)将/opt/hbase-1.0.0-cdh5.6.0.tar.gz解压

    tar  -zxvf  /opt/hbase-1.0.0-cdh5.6.0.tar.gz

       (2) 配置Hbase相关配置文件,在其conf目录下可查看所有配置文件,如下图:

        

        打开hbase-env.sh

        [root@neusoft-master conf]# vi  hbase-env.sh    

    •     #这里同时需要注释掉与zookeeper相关配置,在这里使用自带的Zookeeper。不使用单独的zookeeper。一般在文件中已经作了注释,无需修改该配置文件。
    •     #在文件末尾追加JAVA_HOME和HBASE_MANAGERS的配置信息
    export JAVA_HOME=/usr/java/default
    export HBASE_MANAGES_ZK=true     #表示使用自带的zookeeper

       (3)配置regionservers

         [root@neusoft-master conf]# vi regionservers  

         

         该配置选项为当Hbase启动的时候,Hreginserver进程是根据conf/regionserver文件中的节点来启动的,因此,这里需要根据自己的主机名进行填写。

       (4)配置hbase-site.xml

    <configuration>
        <property>
           <name>hbase.rootdir</name>
           <value>hdfs://neusoft-master:9000/hbase</value>
        </property>
        <property>
           <name>hbase.cluster.distributed</name>
           <value>true</value>   true表示运行模式为完全分布式模式,如果是伪分布更改爲false
        </property>
    
    </configuration>

        

      (4)配置环境变量 vi /etc/profile

    export HBASE_HOME=/opt/hbase-1.0.0-cdh5.6.0
    export PATH=$JAVA_HOME/bin/:$PATH:$HADOOP_HOME/bin:$HIVE_HOME/bin:$HBASE_HOME/bin:$SQOOP_HOME/bin

          

    source  /etc/profile  #配置生效

     (5)启动并验证

    (a)首先启动Hadoop

    [root@neusoft-master ~]# cd /opt/hadoop-2.6.0-cdh5.6.0/sbin/
    [root@neusoft-master sbin]# ./start-all.sh 

          检验hadoop启动是否成功

      

    (b)启动Hbase进程

     [root@neusoft-master bin]# chmod +x /opt/hbase-1.0.0-cdh5.6.0/bin/start-hbase.sh   #启动文件赋权限
     [root@neusoft-master bin]# ./opt/hbase-1.0.0-cdh5.6.0/bin/start-hbase.sh   #启动hbase进程

         使用jps进程查看是否有如下进程 

    • HMaster              #Hbase的配置节点。默认在start-habse.sh启动时启动。
    • HregionServer    #该配置选项为当Hbase启动的时候,Hreginserver进程是根据conf/regionserver文件中的节点来启动的。
    • HQuorumpeer     #该进程为Zookeeper进程

          

    (c)进入Hbase命令行模式  

     [root@neusoft-master conf]# hbase  shell

         

         注意:安装完HBase,需要采用NTP时间同步服务器使得各节点时间一致,否则有了误差,Hbase会启动失败。

         

      9.安装Sqoop

        Sqoop是一个从关系型数据库抽取到Hadoop中,用于进一步处理数据。

           (1)将/opt/sqoop-1.4.6-cdh5.6.0.tar.gz解压  

    tar -zxvf   /opt/sqoop-1.4.6-cdh5.6.0.tar.gz

           (2)[root@neusoft-master bin]# vi /etc/profile

    export SQOOP_HOME=/opt/sqoop-1.4.6-cdh5.6.0
    export PATH=$JAVA_HOME/bin/:$PATH:$HADOOP_HOME/bin:$HIVE_HOME/bin:$HBASE_HOME/bin:$SQOOP_HOME/bin

    使得环境变量生效

    source  /etc/profile  #使得环境变量生效

     (3)进入mysql执行以下

    mysql>grant all privileges on  *.* to 'sqoop'@'neusoft-master' identified by 'sqoopwd' with grant option

    mysql>select host,user,password  from mysql.user

    mysql>flush privileges;

    mysql>create database sqoop;

    mysql>use sqoop;

    mysql>create table test(id int,name varchar(20),age int)

    mysql>insert into test(1,'tag',20)

    如果上述语句出错,插入语句可直接指定具体字段:mysql>insert into test(id,name,age) values(1,'tag',20)

    (4)linux命令行中执行下述sqoop代码:

    sqoop  list-databases  --connect  jdbc:mysql://neusoft-master:3306/  --username  sqoop  --password  sqooppwd
    • 执行完后,即可显示MySql数据库中所有实例:

      hive

      mysql

      sqoop

      test

    END~

  • 相关阅读:
    【转】虚拟机 NAT网络设置
    [转载]应用 Valgrind 发现 Linux 程序的内存问题
    Visual Studio 代码格式化插件(等号自动对齐、注释自动对齐等)
    【转】链接任意目录下库文件(解决错误“/usr/bin/ld: cannot find -lxxx”
    C语言实现封装、继承和多态
    美国专利搜索网站
    【转】基于OCS实现高速缓存
    【转】防止网页被搜索引擎、爬虫和网页采集器收录或克隆复制的方法汇总
    [转]机器学习和计算机视觉----数学基础
    [转]机器学习与数据挖掘的学习路线图
  • 原文地址:https://www.cnblogs.com/jackchen-Net/p/6446545.html
Copyright © 2011-2022 走看看