zoukankan      html  css  js  c++  java
  • Hadoop2.7.5+Hbase1.4.0完全分布式集群搭建

                                                            Hadoop2.7.5+Hbase1.4.0完全分布式集群搭建
    一、在介绍完全分布式之前先给初学者推荐两本书:
    《Hbase权威指南》偏理论
    《Hbase实战》实战多一些

    二、在安装完全分布式之前应该对他们的概念有个简单的认知:
    1、Hadoop擅长存储任意的、半结构化的,甚至是结构化的数据,几乎是现在所有数据库的一种补充。
    2、Hbase是hadoop数据库,hbase并不是一个列式存储数据库,他是利用的磁盘上的列存储格式。
    3、列存储数据库是以“列”为单位的聚合数据库,然后按顺序地存入磁盘。
    4、RDBMS与列存储数据库地区别:
    rdbms适合有限、有规则(范式、科德十二定律)地数据,适合实时存取数据地场景
    hbase适合键值对地数据存取或者有序地数据存取
    5、hbase数据库最基本地单位是“列”
    6、一列或者多列形成一行,并且由唯一的“行键”来存储(行键就相当于rdbms中的主键索引是一样的性质)
    7、一个表可以有若干行,其中每列可能有多个版本,每个单元格存储了不同地值
    8、若干列构成了一个“列族”
    9、一个列族地所有列存储在同一个底层地存储文件里,这个存储文件叫做Hfile。
    10、“列族”需在创建表的时候就定义好,且数量不要太多,修改也不要太频繁,一般只建议1~2个,最好只用一个
    11、与列族相反,列地数量没有限制,列值得类型和长度也没有限制。
    12、每一列得值和单元格得值都具有时间戳,默认由系统指定,也可以是用户自己指定。
    13、一个单元格得数据默认是按“降序”排列的,访问时有限读取最新的数据。
    14、hbase数据存储模式:
    test<rowkey,list<tests<column,list<value,timestamp>>>>
    test表示一个表,rowkey是行键,包含一个列族list(第一个list),列族种包含了tests存储列和对应的值,这些值存储在最后一个list种,并对应有时间戳
    15、Hbase是一个分布式的、持久性的、强一致性的存储系统。

    三、hbase分布式环境搭建:
    1、并不是所有的Hbase运行模式都需要分布式,如果只是想在本地测试,只需要安装java即可。
    2、完全分布式搭建:
    (1)、环境
    系统:centos6.8
    hadoop版本:2.7.5
    zookeeper版本:3.4.11
    hbase版本:1.4.0
    (2)、下载hbase安装包:
    下载地址:http://apache.spinellicreations.com/hbase/
    hbase需要跟Hadoop版本对应

    (3)、将下好的hbase安装包上传至服务器然后解压至合适的目录中, 我们使用的是Hbase的版本是:hbase-1.4.0-bin.tar.gz
    tar -zxvf hbase-1.2.1-bin.tar.gz -C /root/apps/
    (4)、解压之后可以看到项目目录里面包含哪些文件:
    ll命令或者ls -lr可查看:

    (5)、a.说明文档以及许可条款在LICENSE.txt和NOTICE.txt文件中。
    b.其他一些生成信息在README.txt中。
    c.CHANGES.txt是变更日志的静态快照页面,它包含了当前下载版本中多有的变更记录。
    d.Bin是一个二进制文件,此目录包含了hbase提供的所有脚本,可以完成启动和停止,运行独立的守护进程或启动额外的master节点等功能。
    e.Conf目录包含了定义hbase配置的文件。
    f.Docs目录包含了hbase工程网页的副本,以及工具、API和项目自身的文档信息。
    g.hbase-webapps这个目录包含了java实现的web接口。
    h.Lib目录包含了java应用程序的很多类库,这些类库包含了很多实际的执行程序。
    i.Logs目录首次启动的时候不存在,但是Hbase会通过日志框架自动创建日志文件夹。hbase进程通常以守护进程的形式运行,即在操作系统的后台运行,在生命周期内他会将一些状态、进程、异常等信息打印到日志文件中。
    j.Src文件是一些源文件及其包含的发布信息。
    (6)、Hbase运行模式分为两种:单机模式和分布式模式
    (7)、分布模式又分为伪分布模式和完全分布模式,这里我们介绍的是完全分布模式。
    四、hbase完全分布式搭建:
    1、假设我们的Linux环境都已经准备好,搭建了4台Hadoop+hdfs,名称分别是Sparknode1,Sparknode2,Sparknode3,Sparknode4。搭建了三台zookeeper集群,名称分别是zookeeper1,zookeeper2,zookeeper3。这里我没有使用hbase自带的zookeeper集群,而是自己搭建了另外一套zookeeper集群。
    2、在安装hbase集群之前必须保证HDFS集群和zookeeper集群已经启动,因为hbase是依赖于hdfs和zookeeper的,二者缺一不可。
    3、启动zookeeper的命令:
    bin/zkServer.sh start
    HDFS的启动命令:
    sbin/start-dfs.sh
    4、将hbase安装包解压至指定的文件夹后,需要修改配置文件hbase-env.sh,修改如下:
    //修改JAVA_HOME
    export JAVA_HOME=/usr/java/jdk1.8.0_101/
    //Hbase使用的是自己另外搭建的zookeeper集群,没有使用自带的zookeeper集群,所以需要把HBASE_MANAGES_ZK属性值设置成false,默认是ture
    export HBASE_MANAGES_ZK=false
    //修改Hbase堆设置,默认大小是1G,将其设置成4G
    export HBASE_HEAPSIZE=4G
    5、修改配置文件hbase-site.xml,修改如下:
    <configuration>
    <property>
    <name>hbase.rootdir</name> /*region服务器的共享目录,用来持久存储hbase数据,HDFS实例*/
    <value>hdfs://master:9000/hbase</value> /*HDFS主节点(namenode)的访问位置*/
    </property>
    <property>
    <name>hbase.cluster.distributed</name> /*hbase集群运行模式*/
    <value>true</value> /*false为单机模式,ture为分布式模式*/
    </property>
    <property>
    <name>hbase.zookeeper.quorum</name> /*zookeeper quorum服务器中的服务器列表*/
    <value>zookeeper1:2181,zookeeper2:2181,zookeeper3:2181</value> /*每个服务器之间使用使用逗号分隔,2181是zookeeper默认端口号,你可以自行根据你的端口号添加,默认的端口号加不加都无所谓*/
    </property>
    <property>
    <name>hbase.master.info.port</name> /*Hbase master的web UI服务端口*/
    <value>60010</value> /*如果不想启动UI实例,则将参数设置成-1,默认值是60010*/
    </property>
    </configuration>
    6、修改配置文件regionservers,修改如下:
    配置region服务器,该文件列出了所有运行hregionserver守护进程的主机,每个主机独立占一行,Hbase集群启动和关闭都会按照文件中罗列的主机一一执行。
    Sparknode1
    Sparknode2
    Sparknode3
    Sparknode4
    7、将HBASE加入环境变量:
    export HBASE_HOME=/usr/soft/hbase-1.4.0
    8、将Hadoop的配置文件拷到hbase下:
    将hadoop的/opt/hadoop-2.7.5/etc/hadoop/目录下面的hdfs-site.xml和core-site.xml这两个配置文件拷贝到HBase的/usr/soft/hbase-1.4.0/conf/目录下:
    这里我没有用拷贝的方式,而是用了软链接(快捷方式),目的是为了防止Hadoop目录下的配置文件更改了之后还要去/usr/soft/hbase-1.4.0/conf/目录下更新:
    ln -s /opt/hadoop-2.7.5/etc/hadoop/ /usr/soft/hbase-1.4.0/conf/
    用法:ln -s 源文件(夹) 目标文件(夹)
    9、将配置后的hbase目录拷贝到其他节点
    在Sparknode1(主节点)上分别执行如下命令,将Sparknode2上的hbase-1.4.0目录分别拷贝到Sparknode2、Sparknode3和Sparknode4的相同目录下:
    scp -r hbase-1.4.0/ Sparknode2:$PWD
    scp -r hbase-1.4.0/ Sparknode3:$PWD
    scp -r hbase-1.4.0/ Sparknode4:$PWD
    10、同步时间
    我们在使用HDFS的时候经常会出现一些莫名奇妙的问题,通常可能是由于多台服务器的时间不同步造成的。因为它要经常去分析一些时间戳、版本或者超时时间等,如果多台服务器的时间差的太远,可能会导致一些误判。
    有两种方式来同步多台服务器的时间:
    (1)在每台服务器上开启时间同步的进程,通过网络时间服务器进行同步;
    (2)如果你的电脑不能联网,可以将多台服务器的时间手动改成一致的;
    我们下面使用第二种方式来设置,使用“date –s”命令来同步时间:

    11、启动hbase集群

    在启动Hbase集群之前,确保hdfs集群和zookeeper集群都已经启动成功。
    bin/start-hbase.sh
    状态如下:


    12、利用jps命令查看运行进程
    jps

    红框里面的是主节点上的两个hbase的两个进程,其他datanode上只有hregionserver进程

    13、停止hbase集群
    bin/stop-hbase.sh
    状态如下:

     

  • 相关阅读:
    Spring Boot 2.4版本前后的分组配置变化及对多环境配置结构的影响
    Spring Boot 2.4 对多环境配置的支持更改
    Spring Boot 的2020最后一击:2.4.1、2.3.7、2.2.12 发布
    苹果M1芯片各种不支持,但居然可以刷朋友圈!你会买单吗?
    老板居然让我在Java项目中“造假”
    Spring Cloud正式移除Hystrix、Zuul等Netflix OSS组件
    为了Java微信支付V3开发包,我找出了微信支付文档至少六个错误
    IdentityServer4系列 | 支持数据持久化
    IdentityServer4系列 | 混合模式
    Gitlab Runner的分布式缓存实战
  • 原文地址:https://www.cnblogs.com/guo-up/p/8335270.html
Copyright © 2011-2022 走看看