zoukankan      html  css  js  c++  java
  • Zookeeeper环境搭建(二)

    zk一般是有2n+1个节点组成的集群。在Zookeeper服务有两个角色,一个是leader,负责写服务和数据同步;剩下的是follower,提供读服务。(为什么是2n+1个节点请看paxos算法)

    1. leader实效后会在follower中重新选举新的leader。(paxos算法)
    2. 每个follower都和leader有链接,接受leader的数据更新操作。(zab算法)
    3. 客户端可以连接到每个server,每个server的数据完全相同。
    4. Server记录事务日志和快照到持久存储。

    1. zk的特点如下:

    • 最终一致性:为客户端展示同一个视图,这是zookeeper里面一个非常重要的功能
    • 可靠性:如果消息被到一台服务器接受,那么它将被所有的服务器接受。
    • 实时性:Zookeeper不能保证两个客户端能同时得到刚更新的数据,如果需要最新数据,应该在读数据之前调用sync()接口。
    • 独立性 :各个Client之间互不干预
    • 原子性 :更新只能成功或者失败,没有中间状态。
    • 顺序性 :所有Server,同一消息发布顺序一致。

    2. zk中的角色:

    • 领导者(Leader):领导者负责进行投票的发起和决议,更新系统状态,处理写请求
    • 跟随者(Follwer):Follower用于接收客户端的读写请求并向客户端返回结果,在选主过程中参与投票
    • 观察者(Observer):观察者可以接收客户端的读写请求,并将写请求转发给Leader,但Observer节点不参与投票过程,只同步leader状态,Observer的目的是为了,扩展系统,提高读取速度。在3.3.0版本之后,引入Observer角色的原因:

      Zookeeper需保证高可用和强一致性;
      为了支持更多的客户端,需要增加更多Server;
      Server增多,投票阶段延迟增大,影响性能;
      权衡伸缩性和高吞吐率,引入Observer ;
      Observer不参与投票;
      Observers接受客户端的连接,并将写请求转发给leader节点;
      加入更多Observer节点,提高伸缩性,同时不影响吞吐率。
      

    客户端(Client): 执行读写请求的发起方

    3. 安装:

    环境:3台虚拟机:已设置ssh免密登录:

    192.168.131.128
    192.168.131.130
    192.168.131.131
    

    下载zookeeper并解压到/usr/local/zookeeper目录。

    添加到环境变量:

    ZOOKEEPER_HOME=/usr/local/zookeeper
    export PATH=$PATH:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf
    
    使配置生效
    source /etc/profile
    

    修改配置文件:

    在zk的conf/目录下,将zoo_sample.cfg重命名为zoo.cfg,然后:

    修改内容:

    # The number of milliseconds of each tick
    tickTime=2000
    
    # The number of ticks that the initial
    # synchronization phase can take
    initLimit=10
    
    # The number of ticks that can pass between
    # sending a request and getting an acknowledgement
    syncLimit=5
    
    # the directory where the snapshot is stored.
    dataDir=/usr/local/zookeeper/data
    
    # the port at which the clients will connect
    clientPort=2183
    
    #the location of the log file
    dataLogDir=/usr/local/zookeeper/log
    
    server.0=hadoopmaster:2288:3388
    server.1=hadoopslaver1:2288:3388
    server.2=hadoopslaver2:2288:3388
    

    上面我们设置了数据库快照位置-data目录,该目录需要手动创建。

    创建myid:

    在dataDir(/usr/local/zk/data)目录创建myid文件

    hadoopmaster的内容为:0
    hadoopslaver1的内容为:1
    hadoopslaver2的内容为:2
    

    注意:以上操作三台机器都需要进行。

    然后我们分别在三台机器启动zk,在bin目录下执行如下命令:

    zkServer.sh start;
    

    各个机器启动情况如下:

    当然哪一台机器是leader这都是随机的,一般第一台启动的会是。

    zk的配置:

    Zookeeper的功能特性是通过Zookeeper配置文件来进行控制管理的(zoo.cfg).这样的设计其实有其自身的原因,通过前面对Zookeeper的配置可以看出,在对Zookeeper集群进行配置的时候,它的配置文档是完全相同的。集群伪分布模式中,有少部分是不同的。这样的配置方式使得在部署Zookeeper服务的时候非常方便。如果服务器使用不同的配置文件,必须确保不同配置文件中的服务器列表相匹配。

    我们来看一下上面配置文件中的基本参数:

    1. client:监听客户端连接的端口。
    2. tickTime:基本事件单元,这个时间是作为Zookeeper服务器之间或客户端与服务器之间维持心跳的时间间隔,每隔tickTime时间就会发送一个心跳;最小 的session过期时间为2倍tickTime。
    3. dataDir:存储内存中数据库快照的位置,如果不设置参数,更新食物的日志将被存储到默认位置。

    高级配置:

    1. dataLogdDir:这个操作让管理机器把事务日志写入“dataLogDir”所指定的目录中,而不是“dataDir”所指定的目录。这将允许使用一个专用的日志设备,帮助我们避免日志和快照的竞争。
    2. maxClientCnxns:这个操作将限制连接到Zookeeper的客户端数量,并限制并发连接的数量,通过IP来区分不同的客户端。此配置选项可以阻止某些类别的Dos攻击。将他设置为零或忽略不进行设置将会取消对并发连接的限制。
    3. minSessionTimeout和maxSessionTimeout :即最小的会话超时和最大的会话超时时间。在默认情况下,minSession=2*tickTime;maxSession=20*tickTime。

    集群配置:

    1. initLimit:此配置表示,允许follower(相对于Leaderer言的“客户端”)连接并同步到Leader的初始化连接时间,以tickTime为单位。当初始化连接时间超过该值,则表示连接失败。
    2. syncLimit:此配置项表示Leader与Follower之间发送消息时,请求和应答时间长度。如果follower在设置时间内不能与leader通信,那么此follower将会被丢弃。
    3. server.A=B:C:D

      A:其中 A 是一个数字,表示这个是服务器的编号;
      B:是这个服务器的 ip 地址;
      C:Leader选举的端口;
      D:Zookeeper服务器之间的通信端口。
      
    4. myid和zoo.cfg:除了修改 zoo.cfg 配置文件,集群模式下还要配置一个文件 myid,这个文件在 dataDir 目录下,这个文件里面就有一个数据就是 A 的值,Zookeeper 启动时会读取这个文件,拿到里面的数据与 zoo.cfg 里面的配置信息比较从而判断到底是那个 server。

  • 相关阅读:
    阅读笔记
    个人总结
    《软件需求(第二版)》阅读笔记02
    《软件需求(第二版)》阅读笔记01
    问题账户需求分析
    2017年秋季个人阅读计划
    阅读笔记一之《软件需求与分析》
    每日总结1
    开发体会(模块3.商品分类管理)
    个人总结
  • 原文地址:https://www.cnblogs.com/rickiyang/p/11074199.html
Copyright © 2011-2022 走看看