一致性问题能够算是分布式领域的一个圣殿级问题了,关于它的研究能够回溯到几十年前。
拜占庭将军问题
Leslie Lamport 在三十多年前发表的论文《拜占庭将军问题》(參考[1])。
拜占庭位于现在的土耳其的伊斯坦布尔,是东罗马帝国的首都。因为当时拜占庭罗马帝国国土辽阔,为了防御目的,因此每一个军队都分隔非常远。将军与将军之间仅仅能靠信差传消息。在战争的时候。拜占庭军队内全部将军必需达成 一致的共识,决定是否有赢的机会才去攻打敌人的阵营。可是。在军队内有可能存有叛徒和敌军的间谍,左右将军们的决定又扰乱总体军队的秩序,在进行共识时,结果并不代表大多数人的意见。这时候,在已知有成员不可靠的情况下,其余忠诚的将军在不受叛徒或间谍的影响下怎样达成一致的协议,拜占庭问题就此形成。
拜占庭假设是对现实世界的模型化,因为硬件错误、网络拥塞或断开以及遭到恶意攻击,计算机和网络可能出现不可预料的行为。
Lamport 一直研究这类问题。发表了一系列论文。
但综合总结一下就是回答以下三个问题:
- 相似拜占庭将军这种分布式一致性问题是否有解?
- 假设有解的话须要满足什么样的条件?
- 在特定前提条件的基础上,提出一种解法。
前两个问题 Lamport 在论文《拜占庭将军问题》已经回答,而第三个问题在后来的论文 《The Part-Time Parliament》中提出了一种算法并命名为 Paxos。这篇论文使用了大量的数学证明,而我基本就看不懂了(数学符号都认不全-。-;),考虑到大家理解起来都比較困难,后来 Lamport 又写了另外一篇论文 《Paxos Made Simple》全然放弃了全部数学符号的证明,使用纯英文的逻辑推导。我勉强逐字看了一遍,然后感觉若有所悟,但你问我搞懂了吗,我的标准应该还是没懂。对我来说理解一个算法有个明白的标准,就是真的懂了会在头脑里能将算法映射为代码,而看完后面一篇论文仅仅是若有所悟还达不到能映射为代码的清晰度。
尽管 Lamport 觉得 Paxos 非常 simple,但或许仅仅是针对他的头脑而言。事实是大家理解起来都还是非常困难,所以 Raft 就是建立在希望得到一个更易于理解的 Paxos 算法的替代品。把可理解性作为算法的主要目标之中的一个,从论文题目就可看出来《In Search of an Understandable Consensus Algorithm》。
在进入正题前,我想起一个旧故事能够非常直观的感受对一个问题不同的思维视角在可理解性上的差异。
不同视角的可理解性
依稀记得大约在二十年前。我还在读初中时在一本可能大概叫《数学中的发散思维》(不能非常清晰记得书名了)的书中看到这么一个有趣的问题。
甲乙两人轮流在一张圆桌上平放黑白围棋子,每次放一子,棋子不许重叠,谁先没有地方放就输。
请问怎样放才干赢?
这个问题有两层意思,第一,有没有一种放法保证必赢?第二,假设有怎么证明?这里先停顿下。思考十秒钟。
上面的图回答了这个问题。就是先行者必胜。这里使用了三种不同的思维方式。
- 假如桌子仅仅有一个围棋子那么大。
- 假如桌子无限大,先行者先占住圆心,因为圆是对称图形。所以仅仅要对手还能找到位置放,你总能在对称的还有一面找到位置放。
- 一个圆中可画单数个直径相等且互切的小圆。
三种不同的思维方式在可理解性难度上逐渐加深。第一种是极简化思维,但数学上是不严谨的。
另外一种是极限思维,和第一种结合起来就是数学归纳法了。在数学上是严谨的。
第三种是形象思维,使用了几何学概念,但对于没有几何学基础知识的人就非常难理解了。
Raft 协议的易理解性描写叙述
尽管 Raft 的论文比 Paxos 简单版论文还easy读了,但论文依旧发散的比較多,相对冗长。读完后掩卷沉思觉得还是整理一下才会更牢靠,变成真正属于自己的。这里我就借助前面黑白棋落子里第一种极简思维来描写叙述和概念验证下 Raft 协议的工作方式。
在一个由 Raft 协议组织的集群中有三类角色:
- Leader(领袖)
- Follower(群众)
- Candidate(候选人)
就像一个民主社会,领袖由民众投票选出。
刚開始没有领袖,全部集群中的參与者都是群众。那么首先开启一轮大选,在大选期间全部群众都能參与竞选,这时全部群众的角色就变成了候选人。民主投票选出领袖后就開始了这届领袖的任期,然后选举结束,全部除领袖的候选人又变回群众角色服从领袖领导。这里提到一个概念「任期」,用术语 Term 表达。
关于 Raft 协议的核心概念和术语就这么多并且和现实民主制度非常匹配,所以非常easy理解。三类角色的变迁图例如以下,结合后面的选举过程来看非常easy理解。
Leader 选举过程
在极简的思维下,一个最小的 Raft 民主集群须要三个參与者(例如以下图:A、B、C)。这样才可能投出多数票。初始状态 ABC 都是 Follower,然后发起选举这时有三种可能情形发生。
下图中前二种都能选出 Leader,第三种则表明本轮投票无效(Split Votes),每方都投给了自己。结果没有不论什么一方获得多数票。
之后每一个參与方随机歇息一阵(Election Timeout)又一次发起投票直到一方获得多数票。
这里的关键就是随机 timeout。最先从 timeout 中恢复发起投票的一方向还在 timeout 中的另外双方请求投票。这时它们就仅仅能投给对方了,非常快达成一致。
选出 Leader 后,Leader 通过定期向全部 Follower 发送心跳信息维持其统治。若 Follower 一段时间未收到 Leader 的心跳则觉得 Leader 可能已经挂了再次发起选主过程。
Leader 节点对一致性的影响
Raft 协议强依赖 Leader 节点的可用性来确保集群数据的一致性。
数据的流向仅仅能从 Leader 节点向 Follower 节点转移。当 Client 向集群 Leader 节点提交数据后,Leader 节点接收到的数据处于未提交状态(Uncommitted)。接着 Leader 节点会并发向全部 Follower 节点复制数据并等待接收响应,确保至少集群中超过半数节点已接收到数据后再向 Client 确认数据已接收。
一旦向 Client 发出数据接收 Ack 响应后。表明此时数据状态进入已提交(Committed)。Leader 节点再向 Follower 节点发通知告知该数据状态已提交。
在这个过程中。主节点可能在随意阶段挂掉,看下 Raft 协议怎样针对不同阶段保障数据一致性的。
1. 数据到达 Leader 节点前
这个阶段 Leader 挂掉不影响一致性,不多说。
2. 数据到达 Leader 节点。但未拷贝到 Follower 节点
这个阶段 Leader 挂掉。数据属于未提交状态,Client 不会收到 Ack 会觉得超时失败可安全发起重试。Follower 节点上没有该数据。又一次选主后 Client 重试又一次提交可成功。原来的 Leader 节点恢复后作为 Follower 增加集群又一次从当前任期的新 Leader 处同步数据。强制保持和 Leader 数据一致。
3. 数据到达 Leader 节点。成功拷贝到 Follower 全部节点,但还未向 Leader 响应接收
这个阶段 Leader 挂掉,尽管数据在 Follower 节点处于未提交状态(Uncommitted)但保持一致,又一次选出 Leader 后可完毕数据提交,此时 Client 因为不知究竟提交成功没有,可重试提交。针对这种情况 Raft 要求 RPC 请求实现幂等性。也就是要实现内部去重机制。
4. 数据到达 Leader 节点,成功拷贝到 Follower 部分节点。但还未向 Leader 响应接收
这个阶段 Leader 挂掉,数据在 Follower 节点处于未提交状态(Uncommitted)且不一致,Raft 协议要求投票仅仅能投给拥有最新数据的节点。所以拥有最新数据的节点会被选为 Leader 再强制同步数据到 Follower,数据不会丢失并终于一致。
5. 数据到达 Leader 节点,成功拷贝到 Follower 全部或多数节点,数据在 Leader 处于已提交状态,但在 Follower 处于未提交状态
这个阶段 Leader 挂掉。又一次选出新 Leader 后的处理流程和阶段 3 一样。
6. 数据到达 Leader 节点,成功拷贝到 Follower 全部或多数节点。数据在全部节点都处于已提交状态,但还未响应 Client
这个阶段 Leader 挂掉,Cluster 内部数据事实上已经是一致的。Client 反复重试基于幂等策略对一致性无影响。
7. 网络分区导致的脑裂情况,出现双 Leader
网络分区将原先的 Leader 节点和 Follower 节点分隔开。Follower 收不到 Leader 的心跳将发起选举产生新的 Leader。这时就产生了双 Leader,原先的 Leader 独自在一个区,向它提交数据不可能拷贝到多数节点所以永远提交不成功。
向新的 Leader 提交数据能够提交成功,网络恢复后旧的 Leader 发现集群中有更新任期(Term)的新 Leader 则自己主动降级为 Follower 并从新 Leader 处同步数据达成集群数据一致。
综上穷举分析了最小集群(3 节点)面临的全部情况,能够看出 Raft 协议都能非常好的应对一致性问题,并且非常easy理解。
总结
就引用 Raft 论文最后的一节的综述来总结本文吧。
算法以正确性、高效性、简洁性作为主要设计目标。
尽管这些都是非常有价值的目标,但这些目标都不会达成直到开发人员写出一个可用的实现。
所以我们相信可理解性相同重要。
深以为然,想想 Paxos 算法是 Leslie Lamport 在 1990 年就公开发表在了自己的站点上,想想我们是什么时候才听说的?什么时候才有一个可用的实现?而 Raft 算法是 2013 年发表的,大家在參考[5]上面能够看到有多少个不同语言开源的实现库了,这就是可理解性的重要性。
參考
[1]. LESLIE LAMPORT, ROBERT SHOSTAK, MARSHALL PEASE. The Byzantine General Problem. 1982
[2]. Leslie Lamport. The Part-Time Parliament. 1998
[3]. Leslie Lamport. Paxos Made Simple. 2001
[4]. Diego Ongaro and John Ousterhout. Raft Paper. 2013
[5]. Raft Website. The Raft Consensus Algorithm
[6]. Raft Demo. Raft Animate Demo
写点文字,画点画儿,「瞬息之间」一切都变了。
觉得不错。可长按或扫描二维码关注。