使用zookeeper实现分布式master选举（c 接口版本）

zookeeper，已经被很多人所熟知，主要应用场景有（数据订阅/发布 ，负载均衡， 命名服务， 分布式协调/通知，集群管理，Master选举，分布式锁，分布式队列）。

C接口的描述  主要参考 Haippy 的文章 ：Zookeeper C API 指南 (感谢大神)

但是网上的C++版 示例代码少之又少，作为一个小白，自己摸索，给大家参考。

Master选举的需求主要如下：

         1.多台机器同时进行选举，产生唯一的一台机器作为Master，其它的机器作为slave。

         2.当Master宕机后，需要在所有存活的slave中再次选举一个成为新的Master。

         3.当新的master宕机后，继续选举，如此反复。

这样保证了在大多数分布式系统中Master不会宕机。在这里我们默认zookeeper是高可用的。（即不考虑zookeeper失效。）

思路主要如下：

        1.每个进程都会去创建一个临时文件（名为master，该文件里面的值为master的ip地址），zookeeper将会保证那么多的进程只有一个进程能够创建成功。收到ZOK，其它的都会收到ZNODEEXISTS（已存在）。

        2.没有创建成功的节点slave节点将会去监视这个已经创建成功的“文件”（master） ，当该文件发生变化时，slave将会触发相对应的函数。

        临时文件：为ZOO_EPHEMERAL类型，正如 EPHEMERAL（短暂的）本意，当创建这个文件的进程挂了，zookeeper会自动检测到（正是利用这个特性）。

        变化： 这个变化有很多种可能，如该文件的内容变了，该文件下的子文件增加或减少了，（在zookeeper中文件既是文件又是一个文件夹），也可能是该文件被删除了。

        值的一提的是，如Haippy所述，zookeeper watch函数是 “一次性”的，简单的说  小明 调用了watch观察 自己家的门。 此时，小红打开了门，watch函数立刻告诉了小明，小明就过去把门关了。这个时候如果小明没有再次调用watch函数，小红再偷偷的开门，小明是不知道的，讲了那么啰嗦其实就是一句话“每次触发watch函数后，请别忘记再次调用watch函数”（当然还是要看具体的场景）。

      下面贴上代码(所有的解释都写在代码注释中)： 编译命令为   g++ election.cpp -o election -lzookeeper_mt -std=c++11  （不是-lzookeeper_st 否则一点反应都没）

/*
 * =============================================================================
 *
 *       Filename:  election.cpp
 *
 *    Description:  elect master test by zookeeper
 *
 *        Created:  02/15/2013 08:48:49 PM
 *
 *         Author:  zhejiangxiaomai, 358088534@qq.com
 *        Company:  ECNU
 *
 * =============================================================================
 */
#include <unistd.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <zookeeper/zookeeper.h>
#include <zookeeper/zookeeper_log.h>
#include <iostream>
using namespace std;

int status = -1;
// 1 : master 0 :slave
zhandle_t* init(const char* host, int timeout);
void init_1(zhandle_t* zh, int type, int state, const char* path, void* watcherCtx);
void getResult(int rc, const char *name, const void *data);
void go_to_election(zhandle_t* zh, int type, int state, const char* path, void* ip);
void get_master(int rc, const char *value, int value_len, const struct Stat *stat, const void *data);
void watch_master(zhandle_t* zh, const char* ip);

int main(int argc, const char *argv[])
{
    const char* host = "127.0.0.1:2181";
    int timeout = 30000;
    zoo_set_debug_level(ZOO_LOG_LEVEL_WARN);
    const char* ip = argv[1];
    //初始化连接句柄 
    zhandle_t* zh = init(host, timeout);
    //参加选举
    go_to_election(zh,0,0,"/master",(void *) ip);
    //按下空格即可清除句柄，退出程序
    getchar();
    zookeeper_close(zh);
    return 0;
}
//创建连接zookeeper的句柄
zhandle_t* init(const char* host, int timeout){
    zhandle_t* zkhandle = zookeeper_init(host,init_1,timeout, 0, NULL, 0);
    if (zkhandle == NULL) {
        fprintf(stderr, "Error when connecting to zookeeper servers...
");
        exit(EXIT_FAILURE);
    }
    return zkhandle;
}
//做为创建句柄的watch函数（一般输出句柄的信息，但是我没有处理）
void init_1(zhandle_t* zh, int type, int state, const char* path, void* watcherCtx)
{
    std::cout<<"init handler"<<endl;
}
//参选函数
void go_to_election(zhandle_t* zh, int type, int state, const char* path, void* ip)
{
    //创建一个/master文件，值为char* 类型的IP，长度为15，
    //该文件为类型为ZOO_EPHEMERAL，当创建完成后会调用getResult函数
    int ret = zoo_acreate(zh, "/master", (char*)ip, 15,
           &ZOO_OPEN_ACL_UNSAFE, ZOO_EPHEMERAL,
           getResult, "election");
    if (ret) {
        fprintf(stderr, "Error %d for %s
", ret, "election");
        exit(EXIT_FAILURE);
    }
    //此处sleep一秒,没有这个步骤程序就没有效果，
    //我认为是create没有那么快,没有创建完成的watch就没有意义。
    sleep(1);
    if(status == 0)
    {
    //如果是slave就观察master
        watch_master(zh, (const char*)ip);
    }
}
//判断创建结果，结果保存在rc中，并改变状态。
//在此看起来其他参数没有用到，但是这是七种回调函数的一种格式，需要遵守。
void getResult(int rc, const char *name, const void *data)
{
    switch(rc){
        case ZOK:
            std::cout<<"Become master"<<endl;
            status = 1;
            break;
        case ZNODEEXISTS:
            std::cout<<"Become slave, keep watch"<<endl;
            status = 0;
            break;
    }  
}
//在此仅仅是将master文件的值输出.
void get_master(int rc, const char *value, int value_len, 
    const struct Stat *stat, const void *data){
    std::cout<<(char *)data<<(char*)value<<endl;
} 

void watch_master(zhandle_t* zh, const char* ip){
   //获取/master文件的值 通过回调函数 get_master. 当该文件发生改变时带着自己的ip地址重新去注册
   int ret = zoo_awget(zh, "/master",go_to_election,(void *)ip ,
                   get_master,"get master ip :"); 
   if (ret) {
            fprintf(stderr, "Error %d for %s
", ret, "re");
            exit(EXIT_FAILURE);
        }
}

实现结果图：（master从0.1 变为了0.2 变为了0.3）