zookeeper应用 - leader选举 锁

模拟leader选举:

1、zookeeper服务器上有一个/leader节点

2、在/leader节点下创建短暂顺序节点/leader/lock-xxxxxxx

3、获取/leader的所有子节点并注册监听

4、拿自己的顺序号跟其他子节点的顺序号比较，如果自己的是最小的则获得leader

5、监听到/leader子节点发生变化则执行步骤3、 4尝试获取leader

Client .java

package leader;
import java.util.List;
import java.util.concurrent.TimeUnit;
import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.Watcher.Event.EventType;
import org.apache.zookeeper.ZooDefs.Ids;
import org.apache.zookeeper.ZooKeeper;
/**
 * 模拟leader选举
 *
 * 1、zookeeper服务器上有一个/leader节点
 * 2、在/leader节点下创建短暂顺序节点/leader/lock-xxxxxxx
 * 3、获取/leader的所有子节点并注册监听
 * 4、拿自己的顺序号跟其他子节点的顺序号比较，如果自己的是最小的则获得leader
 * 5、监听到/leader子节点发生变化则执行步骤3、 4尝试获取leader
 *
 */
public class Client {

	public static final String HOSTS = "hadoop1:2181";
	public static final String LEADER_PATH = "/leader";

	private String path = null;

	public void run() throws Exception {
		ZooKeeper zk = ZKUtils.open(HOSTS);
		path = zk.create(LEADER_PATH + "/lock-", null, Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);

		getLeader(zk);

		TimeUnit.DAYS.sleep(1);
	}
	private void getLeader(final ZooKeeper zk)
			throws KeeperException, InterruptedException {
		//获取/leader下的所有子节点
		//注册/leader子节点观察
		List<String> children = zk.getChildren(LEADER_PATH, new Watcher() {
			@Override
			public void process(WatchedEvent event) {
				//如果/leader子节点发生变化，则再进行一次getLeader
				if(event.getType().equals(EventType.NodeChildrenChanged)) {
					try {
						getLeader(zk);
					} catch (KeeperException e) {
						e.printStackTrace();
					} catch (InterruptedException e) {
						e.printStackTrace();
					}
				}
			}
		});

		//拿自己的顺序号跟/leader所有子节点的顺序号比较，如果是最小的则拿到leader
		long seq = getSeq(path);
		boolean isMin = true;
		for (String child : children) {
			long childSeq = getSeq(child);
			if(childSeq < seq) {
				isMin = false;
				break;
			}
		}
		if(isMin) {
			System.out.printf("我拿到锁了, path: %s, thread: %s", path, Thread.currentThread().getName() );
		}
	}

	public long getSeq(String path) {
		return Long.parseLong(path.split("-")[1]);
	}
}

Test .java

package leader;
public class Test {
	//多次执行这个类，模拟多个客户端竞选leader
	public static void main(String[] args) throws Exception {
		new Client().run();
	}
}

其实在上面的实现中存在几个问题：

1、羊群效应

在上面的实现中，监听的是/leader的子节点变化，每当一个子节点添加或删除的时候都会通知所有客户端（客户端监听了子节点变化），客户端开始竞争leader，如果客户端成百上千个，这样形成了瞬间峰值流量，对zookeeper服务器造成压力。

而其实，并不是所有的客户端都需要对某个子节点变化进行处理，服务器只需要通知被删除节点的下一个节点即可，而添加新节点不需要通知客户端。

2、重试问题

客户端在创建暂时顺序节点时不能处理因连接丢失导致的失败，因为客户端没法知道create操作是成功还是失败，create操作不是幂等操作（多次create会创建多个节点），不能进行重试。

解决方法是给将要创建的节点一个标识符，以表明是我这个客户端创建的，通常使用sessionid来标识，最终创建的节点名称形如lock-<sessionid>-<sequenceNumber>，重试时，查询/leader是否存在包含<sessionid>的子节点，没有再创建。

由此可见，创建高效可靠的分布式锁是多么的困难，zookeeper的recipes目录下有个WriteLock锁实现，在生产环境下也可使用。

参考资料：《Hadoop权威指南（第二版）》