Zookeeper

第1章 Zookeeper入门

1.1 概述

　　Zookeeper是一个开源的分布式的，为分布式应用提供协调服务的Apache项目。

1.2 特点

　　1）Zookeeper：一个领导者（Leader），多个跟随者（Follower）组成的集群。

　　2）集群中只要有半数以上节点存活，Zookeeper集群就能正常服务

　　3）全局数据一致：每个Server保存一份相同的数据副本，Client无论连接到哪个Server，数据都是一致的。

　　4）更新请求顺序进行：来自同一个Client的更新请求按其发送顺序依次执行

　　5）数据更新原子性：一次数据更新要么全成功，要么全失败

　　6）实时性：在一定时间范围内，Client能读到最新数据

1.3 数据结构

 　　Zookeeper数据模型的结构与Unix文件系统很类似，整体上可以看做是一颗树，每个节点称作一个ZNode，每一个ZNOde默认能够存储1MB的数据，每个ZNode都可以通过其路径唯一标识

1.4 应用场景　

　　提供的服务包括：统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

　　1）统一命名服务

　　2）统一配置管理

　　3）统一集群管理

　　4）服务动态上下线

　　5）软负载均衡

1.5 下载地址

　　1）官网首页：https://zookeeper.apache.org/

　　2）百度网盘：https://pan.baidu.com/s/1j7BP66rFqq3RlEKg8GKXfg

　　　　提取码：yuan

第2章 Zookeeper安装

2.1 本地模式安装部署

　　1）安装前准备

　　　　（1）安装Jdk

　　　　（2）拷贝Zookeeper安装包到Linux系统下

　　　　（3）解压到指定目录

tar -zxvf zookeeper-3.5.7.tar.gz -C /opt/module/

　　2）配置修改

　　　　（1）将/opt/module/zookeeper/conf这个路径下的zoo_sample.cfg修改为zoo.cfg；

mv zoo_sample.cfg zoo.cfg

　　　　（2）打开zoo.cfg文件，修改dataDir路径：

vim zoo.cfg

#修改如下内容
dataDir=/opt/module/zookeeper/zkData

　　　　（3）在/opt/module/zookeeper/这个目录上创建zkData文件夹

mkdir zkData

　　3）操作Zookeeper

　　　　（1）启动Zookeeper

　　　　（2）查看进程是否启动

　　　　（3）查看状态：

　　　　（4）启动客户端：

　　　　（5）退出客户端：

　　　　（6）停止Zookeeper

2.2 配置参数解读

　　Zookeeper中的配置文件zoo.cfg中参数含义解读如下：

　　1）tickTime =2000：通信心跳数，Zookeeper服务器与客户端心跳时间，单位毫秒

　　　　Zookeeper使用的基本时间，服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个tickTime时间就会发送一个心跳，时间单位为毫秒。

　　　　它用于心跳机制，并且设置最小的session超时时间为两倍心跳时间。(session的最小超时时间是2*tickTime)

　　2）initLimit =10：LF初始通信时限（10个心跳20秒）

　　　　集群中的Follower跟随者服务器与Leader领导者服务器之间初始连接时能容忍的最多心跳数（tickTime的数量），用它来限定集群中的Zookeeper服务器连接到Leader的时限。

　　3）syncLimit =5：LF同步通信时限（5个心跳10秒）

　　　　集群中Leader与Follower之间的最大响应时间单位，假如响应超过syncLimit * tickTime，Leader认为Follwer死掉，从服务器列表中删除Follwer。

　　4）dataDir：数据文件目录+数据持久化路径

　　　　主要用于保存Zookeeper中的数据。

　　5）clientPort =2181：客户端连接端口

　　　　监听客户端连接的端口。

第3章 Zookeeper实战（开发重点）

3.1 分布式安装部署

　　1）集群规划

　　　　在hadoop102、hadoop103和hadoop104三个节点上部署Zookeeper。

　　2）解压安装

　　　　解压Zookeeper安装包到/opt/module/目录下

tar -zxvf zookeeper-3.5.7.tar.gz -C /opt/module/

　　3）配置服务器编号

　　　　（1）在/opt/module/zookeeper/这个目录下创建zkData

　　　　（2）在/opt/module/zookeeper/zkData目录下创建一个myid的文件，并在里面添加：2

　　　　（3）分发 myid，并分别在hadoop103、hadoop104上修改myid文件中内容为3、4

xsync myid

　　4）配置zoo.cfg文件

　　　　（1）重命名/opt/module/zookeeper/conf这个目录下的zoo_sample.cfg为zoo.cfg

mv zoo_sample.cfg zoo.cfg

　　　　（2）修改zoo.cfg文件

vim zoo.cfg

#修改数据存储路径配置
dataDir=/opt/module/zookeeper-3.5.7/zkData
#增加如下配置
#######################cluster#####################
server.2=hadoop102:2888:3888
server.3=hadoop103:2888:3888
server.4=hadoop104:2888:3888

　　　　（3）分发zoo.cfg配置文件

xsync zoo.cfg

　　　　（4）配置参数解读

　　　　　　server.A=B:C:D

　　　　　　A是一个数字，表示这个是第几号服务器；集群模式下配置一个文件myid，这个文件在dataDir目录下，这个文件里面有一个数据就是A的值，Zookeeper启动时读取此文件，拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。

　　　　　　B是这个服务器的地址；

　　　　　　C是这个服务器Follower与集群中的Leader服务器交换信息的端口；

　　　　　　D是万一集群中的Leader服务器挂了，需要一个端口来重新进行选举，选出一个新的Leader，而这个端口就是用来执行选举时服务器相互通信的端口。

　　5）配置Zookeeper环境变量（可以三台节点都配，我这里只在hadoop102节点上配置），配置完成后运行source命名：source /etc/profile.d/my_env.sh

vim /etc/profile.d/my_env.sh

#添加以下Zookeeper环境变量至文件末尾即可
##ZOOKEEPER_HOME
export ZOOKEEPER_HOME=/opt/module/zookeeper
export PATH=$PATH:$ZOOKEEPER_HOME/bin

　　6）集群操作

　　　　（1）在hadoop102上的 /opt/module/zookeeper/bin 目录下编写Zookeeper的启动/停止/查看状态脚本

vim zkCluster.sh

#!/bin/bash

zkStatus=""

if [ $# -ne 1 ]
        then
                echo "输入参数个数错误！！！"
                exit
fi

case $1 in
"start")
        zkStatus=start
        ;;
"stop")
        zkStatus=stop
        ;;
"status")
        zkStatus=status
        ;;
*)
        echo "输入参数格式错误！！！"
        exit
        ;;
esac

for host in hadoop102 hadoop103 hadoop104
do
        echo "----------------------------------$host----------------------------------------"
        ssh $host /opt/module/zookeeper/bin/zkServer.sh $zkStatus
done

　　　　（2）分发脚本

xsync zkServer.sh

　　　　（3）在hadoop102上启动集群

zkCluster.sh start

　　　　（4）查看集群状态

zkCluster.sh status

　　　　（5）在hadoop102上停止集群

zkCluster.sh stop

3.2 客户端命令行操作

命令基本语法	功能描述
help	显示所有操作命令
ls path	使用 ls 命令来查看当前znode的子节点 -w  监听子节点变化 -s   附加次级信息
create	普通创建 -s  含有序列 -e  临时（重启或者超时消失）
get path	获得节点的值 -w  监听节点内容变化 -s   附加次级信息
set	设置节点的具体值
stat	查看节点状态
delete	删除节点
deleteall	递归删除节点

　　1）启动客户端

zkCli.sh

　　2）显示所有操作命令

　　3）查看当前znode中所包含的内容：ls /

　　4）查看当前节点详细数据：ls2 /

　　5）分别创建2个普通节点

　　6）获得节点的值

　　7）创建短暂（临时）节点

　　　　（1）临时节点在当前客户端是能查看到的

　　　　（2）退出当前客户端然后再重启客户端：

quit

zkCli.sh

　　　　（3）再次查看短暂（临时）节点已经删除

　　8）创建带序号的节点

　　　　（1）先创建一个普通的根节点

　　　　（2）创建带序号的节点,如果原来没有序号节点，序号从0开始依次递增。如果原节点下已有2个节点，则再排序时从2开始，以此类推。

　　9）修改节点数据值

　　10）节点的值变化监听

　　　　（1）在hadoop104主机上注册监听/sanguo节点数据变化

　　　　（2）在hadoop103主机上修改/sanguo节点的数据

　　　　（3）观察hadoop104主机收到数据变化的监听

　　11）节点的子节点变化监听（路径变化）

　　　　（1）在hadoop104主机上注册监听/sanguo节点的子节点变化

　　　　（2）在hadoop103主机/sanguo节点上创建子节点

　　　　（3）观察hadoop104主机收到子节点变化的监听

　　12）删除节点

　　13）递归删除节点（rmr或deleteall）

　　14）查看节点状态

3.3 API应用

3.3.1 IDEA环境搭建

　　1）创建一个Maven工程

　　2）添加pom文件

<dependencies>
        <dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
            <version>RELEASE</version>
        </dependency>
        <dependency>
            <groupId>org.apache.logging.log4j</groupId>
            <artifactId>log4j-core</artifactId>
            <version>2.8.2</version>
        </dependency>
        <!-- https://mvnrepository.com/artifact/org.apache.zookeeper/zookeeper -->
        <dependency>
            <groupId>org.apache.zookeeper</groupId>
            <artifactId>zookeeper</artifactId>
            <version>3.5.7</version>
        </dependency>
</dependencies>

　　3）在项目的src/main/resources目录下，新建一个文件，命名为“log4j.properties”，在文件中填入如下内容：

log4j.rootLogger=INFO, stdout  
log4j.appender.stdout=org.apache.log4j.ConsoleAppender  
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout  
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n
log4j.appender.logfile=org.apache.log4j.FileAppender  
log4j.appender.logfile.File=target/spring.log  
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout  
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n

3.3.2 分析与实操

　　1）需求

　　　　某分布式系统中，主节点可以有多台，可以动态上下线，任意一台客户端都能实时感知到主节点服务器的上下线。

　　2）分析

　　3）具体实现

　　　　（1）先在集群上创建/servers节点

　　　　（2）新建ZKServer.java（服务器端向Zookeeper注册）

package com.yuange.zookeeper;

import org.apache.zookeeper.*;
import org.apache.zookeeper.data.Stat;

/**
 * 1.创建客户端
 * 2.判断目录
 *      2.1若不存在则创建目录
 * 3.在 /server/下创建临时节点，让客户端来监听这个 /server/目录下的节点（注册）
 * 4.关闭资源
 *
 * */
public class ZKServer {
    public static void main(String[] args){
        ZooKeeper zooKeeper = null;
        try {
            String hostName = "hadoop102:2181,hadoop103:2181,hadoop104:2181";
            int sessionTimeout = 4000;
            /*
             * ZooKeeper(String connectString, int sessionTimeout, Watcher watcher)
             * */
            //创建Zookeeper客户端
            zooKeeper = new ZooKeeper(hostName, sessionTimeout, new Watcher() {
                public void process(WatchedEvent event) {

                }
            });
            /*
             * exists(final String path, Watcher watcher)
             * */
            //判断是否存在某个目录
            Stat stat = zooKeeper.exists("/server", false);
            if (stat == null) {
            /*
            * create(final String path, byte data[], List<ACL> acl,
                CreateMode createMode)
            * */
                //若目录不存在则创建
                zooKeeper.create("/server", "".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE,
                        CreateMode.PERSISTENT);
            }

            //创建临时节点（此步骤相当于服务器向Zookeeper进行注册）
            zooKeeper.create("/server/" + args[0], args[1].getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE,
                    CreateMode.EPHEMERAL);

            Thread.sleep(Long.MAX_VALUE);
        }catch (Exception e){
            throw new RuntimeException("XXXXX="+e);
        }finally{
            if (zooKeeper != null){
                try {
                    zooKeeper.close();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
        }
    }
}

　　　　（3）新建ZKClient.java（客户端监听节点）

package com.yuange.zookeeper;

import org.apache.zookeeper.*;
import org.apache.zookeeper.data.Stat;
import java.util.List;

/**
 * 1.创建客户端
 * 2.监听节点
 * 3.关闭资源
 *
 * */
public class ZKClient {
    private static ZooKeeper zooKeeper = null;
    public static void main(String[] args) {
        try {
            //创建Zookeeper客户端
            String hostName = "hadoop102:2181,hadoop103:2181,hadoop104:2181";
            int sessionTimeout = 4000;
            zooKeeper = new ZooKeeper(hostName, sessionTimeout, new Watcher() {
                public void process(WatchedEvent event) {

                }
            });
            //判断节点是否存在
            Stat stat = zooKeeper.exists("/server", false);
            if (stat == null){
                //创建节点
                zooKeeper.create("/server","服务器".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE,
                        CreateMode.PERSISTENT);
            }
            //监听
            listener();
            //一直监听
            Thread.sleep(Long.MAX_VALUE);
        }catch (Exception e){
            throw new RuntimeException("XXXXX="+e);
        }finally {
            if (zooKeeper != null){
                try {
                    zooKeeper.close();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
        }
    }

    /*
    * 循环调用监听器
    * */
    public static void listener() throws KeeperException, InterruptedException {
        List<String> children = zooKeeper.getChildren("/server", new Watcher() {
            public void process(WatchedEvent event) {
                try {
                    listener();
                } catch (KeeperException e) {
                    e.printStackTrace();
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
        });
        for (String child : children) {
            System.out.println(child);
        }
        System.out.println("---------------------");
    }
}

第4章 Zookeeper内部原理

4.1 节点类型

4.2 Stat结构体

　　（1）czxid-创建节点的事务zxid

　　　　每次修改ZooKeeper状态都会收到一个zxid形式的时间戳，也就是ZooKeeper事务ID。

　　　　事务ID是ZooKeeper中所有修改总的次序。每个修改都有唯一的zxid，如果zxid1小于zxid2，那么zxid1在zxid2之前发生。

　　（2）ctime - znode被创建的毫秒数(从1970年开始)

　　（3）mzxid - znode最后更新的事务zxid

　　（4）mtime - znode最后修改的毫秒数(从1970年开始)

　　（5）pZxid-znode最后更新的子节点zxid

　　（6）cversion - znode子节点变化号，znode子节点修改次数

　　（7）dataversion - znode数据变化号

　　（8）aclVersion - znode访问控制列表的变化号

　　（9）ephemeralOwner- 如果是临时节点，这个是znode拥有者的session id。如果不是临时节点则是0。

　　（10）dataLength- znode的数据长度

　　（11）numChildren - znode子节点数量

4.3 监听器原理（面试重点）

4.4 选举机制（面试重点）

　　（1）半数机制：集群中半数以上机器存活，集群可用。所以Zookeeper适合安装奇数台服务器。

　　（2）Zookeeper虽然在配置文件中并没有指定Master和Slave。但是，Zookeeper工作时，是有一个节点为Leader，其他则为Follower，Leader是通过内部的选举机制临时产生的。

　　（3）以一个简单的例子来说明整个选举的过程。

　　　　假设有五台服务器组成的Zookeeper集群，它们的id从1-5，同时它们都是最新启动的，也就是没有历史数据，在存放数据量这一点上，都是一样的。假设这些服务器依序启动，来看看会发生什么。

Zookeeper的选举机制

　　（1）服务器1启动，发起一次选举。服务器1投自己一票。此时服务器1票数一票，不够半数以上（3票），选举无法完成，服务器1状态保持为LOOKING；

　　（2）服务器2启动，再发起一次选举。服务器1和2分别投自己一票并交换选票信息：此时服务器1发现服务器2的ID比自己目前投票推举的（服务器1）大，更改选票为推举服务器2。此时服务器1票数0票，服务器2票数2票，没有半数以上结果，选举无法完成，服务器1，2状态保持LOOKING

　　（3）服务器3启动，发起一次选举。此时服务器1和2都会更改选票为服务器3。此次投票结果：服务器1为0票，服务器2为0票，服务器3为3票。此时服务器3的票数已经超过半数，服务器3当选Leader。服务器1，2更改状态为FOLLOWING，服务器3更改状态为LEADING；

　　（4）服务器4启动，发起一次选举。此时服务器1，2，3已经不是LOOKING状态，不会更改选票信息。交换选票信息结果：服务器3为3票，服务器4为1票。此时服务器4服从多数，更改选票信息为服务器3，并更改状态为FOLLOWING；

　　（5）服务器5启动，同4一样当小弟。

4.5 写数据流程

第5章 企业面试真题

5.1 请简述ZooKeeper的选举机制

　　详见4.4。

5.2 ZooKeeper的监听原理是什么？

　　详见4.3。

5.3 ZooKeeper的部署方式有哪几种？集群中的角色有哪些？集群最少需要几台机器？

　　（1）部署方式单机模式、集群模式

　　（2）角色：Leader和Follower

　　（3）集群最少需要机器数：3

5.4 ZooKeeper的常用命令

ls
create
get
delete
deleteall
set
stat