2-分布式一致性协议

分布式系统的设计,往往会反复权衡可用性和一致性,于是就产生了一系列的一致性协议,其中最著名的就是二阶段提交一些(2PC)、三阶段提交协议(3PC)和Paxos协议。

一、二阶段提交协议(2PC)

在分布式系统中,各个节点之间在物理上相互独立,通过网络进行沟通和协调。由于存在事务机制,可以保证每个独立节点上的数据操作可以满足ACID。但是,相互独立的节点之间无法准确的知道其他节点中的事务执行情况。所以从理论上讲,两台机器理论上无法达到一致的状态。如果想让分布式部署的多台机器中的数据保持一致性,那么就要保证在所有节点的数据写操作,要不全部都执行,要么全部的都不执行。但是,一台机器在执行本地事务的时候无法知道其他机器中的本地事务的执行结果。所以他也就不知道本次事务到底应该commit还是
roolback。所以,常规的解决办法就是引入一个“协调者”的组件来统一调度所有分布式节点"参与者"的执行。

二阶段提交的算法思路可以概括为:参与者将操作成败通知协调者,再由协调者根据所有参与者的反馈情报决定各参与者是否要提交操作还是中止操作。目前绝大部分的关系型数据库都是采用二阶段提交协议。

1、两个阶段

提交事务请求阶段

协调者发送请求给参与者,通知参与者提交或取消事务,参与者进入投票过程,每个参与者回复给协调者自己的投票:同意(事务在本地执行成功)或取消(事务本地执行失败)。

执行事务提交阶段

协调者对上一阶段参与者的投票结果进行表决,当所有投票为“同意”时提交提交事务,否者中止事务,并通知参与者,参与者接到通知后执行相应的操作。

2、优缺点

优点:原理简单,方便实现

缺点:

同步阻塞:

各个参与者在等待其他参与者响应的过程中,都是处于阻塞过程中的,不能进行其他的任何操作。

单点问题:

协调者是各单点,一旦出现问题,整个分布式事务将无法进行,如果在阶段二中出现问题,其他参与者都将一直处于锁定事务资源的状态中。(如果是协调者挂掉,可以重新选举一个协调者,但是无法解决因为协调者宕机导致的参与者处于阻塞状态的问题)

数据不一致:

在二阶段提交的阶段二中,当协调者向参与者发送commit请求之后,发生了局部网络异常或者在发送commit请求过程中协调者发生了故障,这回导致只有一部分参与者接受到了commit请求。而在这部分参与者接到commit请求之后就会执行commit操作。但是其他部分未接到commit请求的机器则无法执行事务提交。于是整个分布式系统便出现了数据部一致性的现象。

二阶段无法解决的问题:

协调者再发出commit消息之后宕机,而唯一接收到这条消息的参与者同时也宕机了。那么即使协调者通过选举协议产生了新的协调者,这条事务的状态也是不确定的,没人知道事务是否被已经提交。

二、三阶段提交(3PC)

三阶段提交(Three-phase commit),也叫三阶段提交协议(Three-phase commit protocol),是二阶段提交(2PC)的改进版本。

与两阶段提交不同的是,三阶段提交有两个改动点。

1、引入超时机制。同时在协调者和参与者中都引入超时机制。

2、在第一阶段和第二阶段中插入一个准备阶段。保证了在最后提交阶段之前各参与节点的状态是一致的。

也就是说,除了引入超时机制之外,3PC把2PC的准备阶段再次一分为二,这样三阶段提交就有CanCommit、PreCommit、DoCommit三个阶段。

1、CanCommit阶段

3PC的CanCommit阶段其实和2PC的准备阶段很像。协调者向参与者发送commit请求,参与者如果可以提交就返回Yes响应,否则返回No响应。

1.事务询问 协调者向参与者发送CanCommit请求。询问是否可以执行事务提交操作。然后开始等待参与者的响应。

2.响应反馈 参与者接到CanCommit请求之后,正常情况下,如果其自身认为可以顺利执行事务,则返回Yes响应,并进入预备状态。否则反馈No

2、PreCommit阶段

协调者根据参与者的反应情况来决定是否可以进行事务的PreCommit操作。根据响应情况,有以下两种可能。

a)、假如协调者从所有的参与者获得的反馈都是Yes响应,那么就会执行事务的预执行

  • 发送预提交请求 协调者向参与者发送PreCommit请求,并进入Prepared阶段。
  • 事务预提交 参与者接收到PreCommit请求后,会执行事务操作,并将undo和redo信息记录到事务日志中。
  • 响应反馈 如果参与者成功的执行了事务操作,则返回ACK响应,同时开始等待最终指令。

b)、假如有任何一个参与者向协调者发送了No响应,或者等待超时之后,协调者都没有接到参与者的响应,那么就执行事务的中断。

  • 发送中断请求 协调者向所有参与者发送abort请求。
  • 中断事务 参与者收到来自协调者的abort请求之后(或超时之后,仍未收到协调者的请求),执行事务的中断。

3、doCommit阶段

该阶段进行真正的事务提交,也可以分为以下两种情况。

a)、执行提交

  • 发送提交请求 协调接收到参与者发送的ACK响应,那么他将从预提交状态进入到提交状态。并向所有参与者发送doCommit请求。
  • 事务提交 参与者接收到doCommit请求之后,执行正式的事务提交。并在完成事务提交之后释放所有事务资源。
  • 响应反馈 事务提交完之后,向协调者发送Ack响应。
  • 完成事务 协调者接收到所有参与者的ack响应之后,完成事务。

b)、中断事务 协调者没有接收到参与者发送的ACK响应(可能是接受者发送的不是ACK响应,也可能响应超时),那么就会执行中断事务。

  • 发送中断请求 协调者向所有参与者发送abort请求
  • 事务回滚 参与者接收到abort请求之后,利用其在阶段二记录的undo信息来执行事务的回滚操作,并在完成回滚之后释放所有的事务资源。
  • 反馈结果 参与者完成事务回滚之后,向协调者发送ACK消息
  • 中断事务 协调者接收到参与者反馈的ACK消息之后,执行事务的中断。

在doCommit阶段,如果参与者无法及时接收到来自协调者的doCommit或者rebort请求时,会在等待超时之后,会继续进行事务的提交。(其实这个应该是基于概率来决定的,当进入第三阶段时,说明参与者在第二阶段已经收到了PreCommit请求,那么协调者产生PreCommit请求的前提条件是他在第二阶段开始之前,收到所有参与者的CanCommit响应都是Yes。(一旦参与者收到了PreCommit,意味他知道大家其实都同意修改了)所以,一句话概括就是,当进入第三阶段时,由于网络超时等原因,虽然参与者没有收到commit或者abort响应,但是他有理由相信:成功提交的几率很大。

相对于2PC,3PC主要解决阻塞问题,因为一旦参与者无法及时收到来自协调者的信息之后,他会默认执行commit。而不会一直持有事务资源并处于阻塞状态。但是这种机制也会导致数据一致性问题,因为,由于网络原因,协调者发送的abort响应没有及时被参与者接收到,那么参与者在等待超时之后执行了commit操作。这样就和其他接到abort命令并执行回滚的参与者之间存在数据不一致的情况。

三、Paxos算法

了解了2PC和3PC之后,我们可以发现,无论是二阶段提交还是三阶段都是存在单点的问题的。Google Chubby的作者Mike Burrows说过, there is only one consensus protocol, and that’s Paxos” – all other approaches are just broken versions of Paxos. 意即世上只有一种一致性算法,那就是Paxos,所有其他一致性算法都是Paxos算法的不完整版。

paxos算法的详细描述请参考:https://zh.wikipedia.org/wiki/Paxos%E7%AE%97%E6%B3%95 ,维基百科对paxos算法的描述,属于比较晦涩难懂的,直接看这个难度太大。

下面我们再回到上面的哪个问题,分布式事务提交或者中止的问题,来通过实例的方式的介绍paxos算法。

分布式一致性其实主要是指分布式系统中的数据一致性问题,在一个分布式数据库系统中,如果各节点的初始状态一致,每个节点都执行相同的操作序列,那么他们最后能得到一个一致的状态。为保证每个节点执行相同的命令序列,需要在每一条指令上执行一个“一致性算法”以保证每个节点看到的指令一致。再简化其实就是要满足类似于上面2PC、3PC中的一次分布式事务的提交,所有参与者要么全部都是提交、要么全部都是中止,这样才能保证数据的一致性。

paxos算法过程描述

上面2PC和3PC都有各一个问题就是单点问题,协调者都是单点的。为了解决单点问题,所以需要引入多个协调者,协调者可能出现响应慢、down机、重启,协调者和参与者之前也会出现通信异常。paxos算法解决的就是在一个可能发生上述异常的分布式系统中如何就某个事务的提交和中止达成一致,保证不论发生以上任何异常,都不会破坏决议的一致性。

我们这里就把参与者叫做Proposer,协调者叫Acceptor,proposer需要向协调者acceptor提议此次事务是commit还是rollback,我们称之为提交提议,如果提议被一半以上的acceptor接受了,那么就称为这个提议被批准了,成为了决议,即这个决议表明这次事务是commit还是rollback。(因为任意两个半数以上的acceptor集合至少包含一个共同的成员)

1、proposer向acceptor提提议的过程需要编号,这个编号在所有proposer中需要全局递增的(#1,#2,#3 ....)。

2、proposer向acceptor提提议需要先获得acceptor的访问权,也就是说每次提提议分为两个阶段:首先申请访问acceptor的权限(定义命令:apply(#1)),允许访问后,才能向acceptor提交提议(定义命令:accept(#1,v),
这里的v是commit或者rollback)。

3、acceptor会记录当前访问权限的编号,以及接受的提议的编号和值

4、acceptor提供两个接口:

申请访问权限:apply(#n),如果申请成功返回<ok,#m,v> #m和v表示当前接受提议的编号和内容,没有接受过任何提议则返回<ok,
null,null>;如果申请权限失败则返回<error>

提交提议:accept(#n,v),如果成功则返回<ok,#n,v> #n和v表示当前接受提议的编号和内容,如果失败则返回<error>

5、acceptor需要坚持"喜新厌旧"的原则,这里的新旧指的是编号的大小,编号越大越新。如果之前给了小的编号的访问权,如果来了一个大的编号的申请访问权,要把访问权给大的编号的proposer,之后如果之前小的编号提交提议会直接返回<error>。

5、acceptor如果收到一个编号为N的提议,如果它之前没有接受过比N大的编号的提议,他就可以接收编号为N的提议。

6、propser 申请权限后,如果收到了来自半数以上的acceptor的响应结果,如果某一个提议被半数以上acceptor接受,则这个提议就称为了决议,如果没有达到半数,则选取编号最大的提议的值为这次提交的值,如果所有的acceptor都没有接受过提议,那么这个proposer就可以自己指定提议的值。

协议的运行过程:

http://pan.baidu.com/s/1qYBtF0C

一些问题:

在什么情况下提议的值被批准也就是形成决议?

paxos的两阶段分别做什么?

在第一阶段结束后,如果获取的值都为空,为何就能保证旧的编号无法形成决议?

如何保证新的编号不会破坏已经形成决议的值?

在形成决议后,如果出现半数一下acceptor故障,为何决议不会被更改?

参考资料:

从Paxos到Zookeeper

http://www.hollischuang.com/archives/681

http://yale.iteye.com/blog/1541527

http://www.hollischuang.com/archives/693

http://iunknown.iteye.com/blog/2246484

时间: 2024-11-06 19:28:15

2-分布式一致性协议的相关文章

分布式一致性协议

分布式一致性协议 Amir H. Payberah  <Distributed Systems Consensus> [email protected] Amirkabir University of Technology 问题是什么? 为保证分布式系统的高可靠和高可用性,数据在系统中一般存储多个副本.当某个副本所在的节点出现故障时,分布式系统能够自动将服务切换到其他的副本,从而实现自动容错.同一份数据的多个副本中往往有一个副本为主副本,其他为备副本.从一份数据的角度讲,主副本所在的节点为主节

搞懂分布式技术2:分布式一致性协议与Paxos,Raft算法

搞懂分布式技术2:分布式一致性协议与Paxos,Raft算法 2PC 由于BASE理论需要在一致性和可用性方面做出权衡,因此涌现了很多关于一致性的算法和协议.其中比较著名的有二阶提交协议(2 Phase Commitment Protocol),三阶提交协议(3 Phase Commitment Protocol)和Paxos算法. 本文要介绍的2PC协议,分为两个阶段提交一个事务.并通过协调者和各个参与者的配合,实现分布式一致性. 两个阶段事务提交协议,由协调者和参与者共同完成. 角色 XA概

各大中间件底层技术-分布式一致性协议 Raft 详解

前言 正式介绍 Raft 协议之前,我们先来举个职场产研团队的一个例子??. 方式一: 在一个技术团队内假设角色都是 均等的,会导致什么情况呢?产品提出一个需求,就可以随便去找团队中的任意一个人去发起需求.如果这个人因为请假走了,但是他没有把需求及时同步给团队其他人,因此会导致该需求存在很大的延迟. 方式二: 在技术团队中选举一个 ** Leader角色**,产品提出的需求必须优先提给 Leader,找 Leader 先沟通.Leader 自己消化完后,在将需求传达给团队其他成员.如果 Lead

分布式一致性协议之Paxos算法

最近特别喜欢一句话:实践是最好的成长,发表是最好的记忆. 笔者在今年国庆7天没有回家,累计有6天的时间是在公司度过,要么写博客,要么看书.我记得当时写的关于分布式系统一致性的原理和实践.作者是倪超.书名<从Paxos到Zookeeper分布式一致性原理与实践>.当时就想要通过发表Paxos来跟自己做心灵的对话.可是,实在扛不下去.于是放弃. 今天又是周五,于是重新翻开已经尘封了2个礼拜的博客.再一次启程. 于是想用开头提到的两句话来勉励自己:实践是最好的成长,发表是最好的记忆.哪怕是工作再忙,

图解分布式一致性协议Paxos

Paxos协议/算法是分布式系统中比较重要的协议,它有多重要呢? <分布式系统的事务处理>: Google Chubby的作者Mike Burrows说过这个世界上只有一种一致性算法,那就是Paxos,其它的算法都是残次品. <大规模分布式存储系统>: 理解了这两个分布式协议之后(Paxos/2PC),学习其他分布式协议会变得相当容易. 学习Paxos算法有两部分:a) 算法的原理/证明:b) 算法的理解/运作. 理解这个算法的运作过程其实基本就可以用于工程实践.而且理解这个过程相

[转]图解分布式一致性协议Paxos

Paxos协议/算法是分布式系统中比较重要的协议,它有多重要呢? <分布式系统的事务处理>: Google Chubby的作者MikeBurrows说过这个世界上只有一种一致性算法,那就是Paxos,其它的算法都是残次品. <大规模分布式存储系统>: 理解了这两个分布式协议之后(Paxos/2PC),学习其他分布式协议会变得相当容易. 学习Paxos算法有两部分:a) 算法的原理/证明:b) 算法的理解/运作. 理解这个算法的运作过程其实基本就可以用于工程实践.而且理解这个过程相对

三:分布式事务一致性协议2pc和3pc

一:分布式一致性协议--->对于一个分布式系统进行架构设计的过程中,往往会在系统的可用性和数据一致性之间进行反复的权衡,于是就产生了一系列的一致性协议.--->长期探索涌现出一大批经典的一致性协议和算法.其中最著名的就是二阶段提交协议,三阶段提交协议和paxos算法. 二:2PC与3PC--->在分布式系统中,每一个机器节点虽然都能够明确知道自己在进行事务操作过程中的结果是成功或失败,但却无法直接获取到其他分布式节点的操作结果.因此,当一个事务操作需要跨越多个分布式节点的时候,为了保持事

《从PAXOS到ZOOKEEPER分布式一致性原理与实践》pdf

下载地址:网盘下载 内容简介  · · · · · · <Paxos到Zookeeper:分布式一致性原理与实践>从分布式一致性的理论出发,向读者简要介绍几种典型的分布式一致性协议,以及解决分布式一致性问题的思路,其中重点讲解了Paxos和ZAB协议.同时,本书深入介绍了分布式一致性问题的工业解决方案--ZooKeeper,并着重向读者展示这一分布式协调框架的使用方法.内部实现及运维技巧,旨在帮助读者全面了解ZooKeeper,并更好地使用和运维ZooKeeper.全书共8章,分为五部分:第一

《从Paxos到Zookeeper:分布式一致性原理与实践》【PDF】下载

内容简介 Paxos到Zookeeper分布式一致性原理与实践从分布式一致性的理论出发,向读者简要介绍几种典型的分布式一致性协议,以及解决分布式一致性问题的思路,其中重点讲解了Paxos和ZAB协议.同时,本书深入介绍了分布式一致性问题的工业解决方案--ZooKeeper,并着重向读者展示这一分布式协调框架的使用方法.内部实现及运维技巧,旨在帮助读者全面了解ZooKeeper,并更好地使用和运维ZooKeeper.全书共8章,分为五部分:前一部分(第1章)主要介绍了计算机系统从集中式向分布式系统

从分布式一致性到共识机制(一)Paxos算法

从分布式系统的CAP理论出发,关注分布式一致性,以及区块链的共识问题及解决. 区块链首先是一个大规模分布式系统,共识问题本质就是分布式系统的一致性问题,但是又有很大的不同.工程开发中,认为系统中存在故障(fault),但不存在恶意(corrupt)节点,而区块链,特别是公开链是落地到物理世界中,涉及到人性和利益关系,不可避免的存在信任以及恶意攻击问题. 分布式一致性处理的是节点失效情况(即可能消息丢失或重复,但无错误消息)的共识达成(Consensus)问题,主要是Paxos算法及衍生的Raft