zookeeper 客户端编程

zookeeper是一个分布式的开源的分布式协调服务,用它可以来现同步服务,配置维护。zookeeper的稳定性也是可以保证的,笔者曾参与过的使用zookeeper的两个应用,一个是用zookeeper来做分布式锁,属于同步协调服务,另一个是配置维护,三台机器运行了一年多了,没有出现什么问题。

运用场景:
------------------------
同步服务:利用zookeeper可以使机器之间的同步如同concurrent包下的同步器同步线程一样,举两个互斥同步的例子

1.  应用系统部署在多台机器上,需要启动一个时间任务,而这个时间任务只能在一台机器上执行,否则会出现脏读脏写,zookeeper可以实现。
2.  应用系统部署在多台机器上,需要暴露一个服务,而这个服务同样不是全部的机器都有暴露,例如MASTER,而暴露这个服务的机器宕机后,其它的机器能自动的接替暴露这个服务,zookeeper可以实现。但是这协调中有一定的时间差问题。
------------------------
配置维护:服务集群需要使用一组配置,为了保证配置在集群中的一致性,以及对配置更改后的立即响应要求,使用zookeeper可以实现。hadoop的配置中心就是使用zookeeper来做管理的。
------------------------
zookeeper应用机器结构

客户端根据服务器地址随机的选择一个地址进行连接,如果连接出错会连接其他的地址,客户端一直连接这个地址知道这个服务器不可用。客户端发送的指令,所有修改数据的指令都由其连接的服务器发送给LEADER进行处理,查询指令则在其连接的机器上进行。
zookeeper数据组织形式

zookeeper上的数据结构类似于文件结构,每一个节点上都可以写入数据,可以创建叶子节点,也只能删除叶子节点同时可以对任意路径进行监听各种类型的事件,当该事件在该路径发生时,连接的服务器会发送NOTIFY包过来通知客户端进行注册的WATCHER的回调处理。

zookeeper上的数据操作主要有CREATE,DELETE,EXISTS,GETDATA,SETDATA,GETCHILDREN
-------------------
CREATE创建一个节点,并在这个节点处写入数据,创建节点有四种模式
1. PERSISTENT 创建持久化节点,对应机器关闭连接后节点/数据不会消失
2. PERSISTENT_SEQUENTIAL 如果PATH是以’/’结尾则以这个PATH作为父节点,创建一个子节点,其子节点名字是一个按先后顺序排列的数值;否则创建一个名字是 ‘/’后面字符加上先后顺序排列的数值字符串的节点,同样创建持久节点,例如:
path-------- PERSISTENT-------- PERSISTENT_SEQUENTIAL
/lock/------ error-----------------在/lock/下创建子节点: /lock/000001
/lock-------创建/lock节点-------创建节点 /lock000001
3. EPHEMERAL 创建瞬时节点,Zookeeper在感知连接机器宕机后会清除它创建的瞬节点
4. EPHEMERAL_SEQUENTIAL 穿件瞬时顺序节点,和PERSISTENT_SEQUENTIAL一样,区别在于它是瞬时的
-------------------
DELETE  -  删除一个节点
EXISTS  -  查看一个节点的状况,如果没有返回null,可注入watcher
GETDATA  -  获取一个节点的数据,可注入watcher
SETDATA  -  设置一个节点的数据
GETCHILDREN -  获取一个节点的子节点,可注入watcher
-------------------

Watcher种类
1. zookeeper实例化时注入的默认Watcher
2. dataWatchers 一个Map<string Set<Watcher>>数据结构,保存调用getData时 注入的Watcher或者调用exist时path指定的节点存在
3. existWatchers 一个Map<string Set<Watcher>>数据结构,保存调用exits时对应的path节点不存在条件下注入的Watcher
4. childWatchers一个Map<string Set<Watcher>>数据结构,保存调用getChildren 时注入的Watcher
默认Watcher主要是处理连接建立成功,连接断了-会重连,SESSION失效-这个需要重新实例zookeeper对象这些事件

其他的三个Watcher都是MAP<String, SET<Watcher>>结构的,MAP中的KEY是zookeeper数据路径,当调用exists,getData,getChildren函数时会需要传入一个Watcher,对应的path上的数据发生改变时,zookeeper服务器会发送NOTIFY包给客户端,客户端在收到NOTIFY包后根据包指明的path和事件类别回调有关Watcher的process函数。
所有需要系统的管理这些Watcher,故分成三个MAP来管理这些Watcher。
当调用getData时将注入的Watcher加入到dataWatchers.get(path)的SET里面,调用childWatchers时一样。需要重点注意的是当调用exists时,如果path不存在则加入到existWatchers.get(path)的SET里面,否则加入到dataWatchers.get(path)的SET里面,这样做的原因是为了保持和客户端接收到NOTIFY包时处理一致。

事件处理
NodeDataChanged & NodeCreated
回调dataWatchers.get(path) & existWatchers.get(path)得到的Watcher集合,同时会将path这一MAP映射从dataWatchers&existWatchers里面清除
---------
NodeChildrenChanged
回调childWatchers.get(path得到的Watcher集合,同时会将path这一MAP映射从childWatchers.get里面清除
--------- 
NodeDeleted
回调dataWatchers.get(path) & childWatchers.get(path)得到的Watcher集合,同时会将path这一MAP映射从dataWatchers& childWatchers里面清除,同时会将path这一MAP映射从existWatchers里面清除
上面提到过对于exists的Watcher,为了保证Watcher能被回调,如果节点原本不存在的话,那么这个节点就只会有NodeCreated事件,故加入到existWatchers能找到,如果存在的话就可能是数据修改和删除事件了,如果是数据修改同样可以监听到,存在是加入到dataWatchers里,同样可以监听到。
----------------------------------------------------
zookeeper客户端的一些细节问题

建立连接需要指定zookeeper集群的IP地址,SessionTimeout,默认的watcher。
在建立连接过程中根据集群的IP地址随机的选择一个地址,然后启动两个线程,一个做网络,一个处理事件回调的。
做网络线程SendThread建立网络连接是使用的非阻塞模式,当连接建立成功后,会把一个ConnectRequest包加入到发送队列中,其中包括了客户端自己可能制定的sessionId, sessionPasswd,和自己指定的sessionTimeout,如果需要验证信息的话,验证信息包也会加入到发送队列中。再到Selector上注册OP_READ|OP_WRITE事件;如果连接没建立
成功则等待Selector上OP_CONNECT事件,直到连接建立成功,进行上面提到的连接建立成功后的操作。
到目前为止ZooKeeper.States还是CONNECTING,接下来就是调用doIO()做读写操作,当前服务器是不会发送数据过来的,故没有数据可读,当时发送队列里面已经包含至少一个数据包了,故将其发送出去。
接着就是读取服务器的对连接包和验证信息的响应数据了,首先会读取响应数据里面的negotiatedSessionTimeout值,如果小于等于零,会做四件事,一是往事件队列里面添加Watcher.Event.KeeperState.Expired事件,再往事件队列里面添加标记线程死亡的对象,三是抛出SessionExpiredException异常,再就是ZooKeeper.States=CLOSED,三让做死循环逻辑的SendThread退到while语句处从而退出死循环,线程死掉。
如果negotiatedSessionTimeout是大于0的则进行本地逻辑数据的设置readTimeout = negotiatedSessionTimeout * 2 / 3;
connectTimeout = negotiatedSessionTimeout / serverAddrs.size();
接着zooKeeper.state=CONNECTED。连接才真正建立成功,到这个点zookeeper提供的操作才可以使用。
接着SendThread走其正常的逻辑
--------------
1. 如果由于异常导致先前的连接断开,会重新走上面提到的建立连接的过程
2. 进行连接空闲事件或者READ空闲的事件的判断,如果zooKeeper.state不是CONNECTED,则用上次做写操作的时间和当前时间的差值和connectTimeout作比较,如果大于的话会抛出SessionTimeoutException;如果上次读的时间和当前时间差值大于readTimeout 同样抛出SessionTimeoutException,这样通知上层其正在做重连操作,同时通知上层其正在等待响应的数据包和没有来得及发送的数据包。
3. 如果上次读的时间和当前时间差值大于readTimeout/2则会做发送PING数据包的操作。
4. 如果当前可读,则读取响应数据包,根据响应的数据类型进行处理,共分为四种,一种是对PING的响应;一种是对于先前提到的验证的响应包,如果验证失败和Expired一样会导致SendThread退出;一种是NOTIFY数据包,里面指定了路径和事件类型,根据上面提到的事件处理方式,往事件处理任务队列里添加这个事件给EventThread线程处理;一种是用户操作返回的响应数据包,对于这种数据包要核对这个包的ID号和等待响应的数据包的队列的第一个包的ID是否一致,如果一致则进行关于这个包的下一步的处理,如包含Watcher则加入到上面提到的Watcher管理数据结构里面,再从等待响应的数据包的队列里移除,对于zookeeper数据结构的操作分为同步和异步,如果是同步操作,提交操作数据包的线程还需要在此次唤醒,如果是异步则向事件处理任务队列里添加回调任务;如果ID不一致则说明发送了错误,则抛出IOException异常,导致重新走上面提到的建立连接的过程。
zookeeper对于当个客户端提交的任务是FIFO的,用来保证其[sequential consistency for single client]。
5. 如果当前发送任务队列有数据则做发送操作,在发送时会为每个数据分配全局唯一的ID号,在发送完成后将这个包移动到已经发送在等待回应的队列中去。
6. 做完IO后在回到1之前会进行是否退出的判断,如果zooKeeper.state是CLOSED|AUTH_FAILED会退出,否则回到1。
--------------
1. 在读取数据的过程中如果发送IO错误,或者逻辑错误而抛出的异常,都会被抓捕到,进行后续处理:
关闭当前的Socket的输入输出流和Socket,对于还在带发送队列里面和在已经发送出去的数据包,如果是同步的需要唤醒这些提交包的线程,如果是异步的则将通知任务失败的任务提交到EventThread的任务队列里面,再清除这两个队列。如果不是因为Expired或者验证失败则会通知默认的Watcher其重连,如果是因为这两个事件,这个zookeeper对象已经不可用了,不会再重连了,客户端在接受到这两个事件时需要重新实例化zookeeper对象。
2. Watcher在被回调一次后会再 Watcher管理器中删除,如果想继续监听这个事件,需要继续注入。
3. 注意临时数据的问题,如果客户端创建了一个临时数据,然后重启了机器,在短时间内,这个时间跟服务器配置的SESSIONTIMEOUT有关,是存在的,过了这个时间点就会消失,这个时间要注意。

zookeeper 客户端编程

时间: 2024-10-02 01:13:58

zookeeper 客户端编程的相关文章

4 kafka集群部署及生产者java客户端编程 + kafka消费者java客户端编程

本博文的主要内容有   kafka的单机模式部署 kafka的分布式模式部署 生产者java客户端编程 消费者java客户端编程 运行kafka ,需要依赖 zookeeper,你可以使用已有的 zookeeper 集群或者利用 kafka自带的zookeeper. 单机模式,用的是kafka自带的zookeeper, 分布式模式,用的是外部安装的zookeeper,即公共的zookeeper. Step 6: Setting up a multi-broker cluster So far w

ZooKeeper客户端原生API的使用以及ZkClient第三方API的使用

这两部分内容的介绍主要讲的是节点及节点内容和子节点的操作,并且讲解的节点的事件监听以及ACL授权 ZooKeeper客户端原生API的使用 百度网盘地址: http://pan.baidu.com/s/1jI3b8n8 ZkClient第三方API的使用 ZkClient是Github上一个开源的ZooKeeper客户端.ZkClient在ZooKeeper原生API之上进行了包装,是一个更加易用的ZooKeeper客户端.同时ZkClient在内部实现了诸如Session超时重连.Watche

C# Redis系列(三)-Redis发布订阅及客户端编程

发布订阅模型 Redis中的发布订阅 客户端编程示例 0.3版本Hredis 发布订阅模型 在应用级其作用是为了减少依赖关系,通常也叫观察者模式.主要是把耦合点单独抽离出来作为第三方,隔离易变化的发送方和接收方. 发送方:只负责向第三方发送消息.(杂志社把读者杂志交给邮局) 接收方:被动接收消息.(1:向邮局订阅读者杂志,2:门口去接邮过来的杂志) 第三方作用是:存储订阅杂志的接收方,并在杂志过来时送给接收方. (邮局) C#示例,发送方把杂志放到邮局里面: if (QA.AddBug()) E

zookeeper - 客户端源码分析

zookeeper客户端的主类入口是Zookeeper类,负责与zookeeper server端的通信以及触发watcher等. 下文主要分析zookeeper客户端的工作流程. 1 zookeeper构造函数 主要分两类,一是不带sessionid的,这是客户端第一次连接server时采用 public ZooKeeper(String connectString, int sessionTimeout, Watcher watcher, boolean canBeReadOnly) thr

zookeeper客户端使用

zookeeper客户端使用查询指令1../zkCli.sh -timeout 5000 -server 192.168.108.128:2181  链接zk服务器2.ls:列出某个节点下所有子节点的信息 ls / 跟目录下子节点3.stat:查询某个节点的状态 state node,看不到当前节点存储的数据的内容4.get:获取子节点的数据内容,包括stat的内容5.ls2:ls的超级指令,列出所有子节点的同时还能获取该子节点的基本信息创建指令:create:-s顺序节点 -e时临时节点/no

Zookeeper客户端API之创建会话(六)

Zookeeper对外提供了一套Java的客户端API.本篇博客主要讲一下创建会话. 创建项目 首选,创建一个基于maven管理的简单java工程.在pom文件中引入zookeeper. <dependency> <groupId>org.apache.zookeeper</groupId> <artifactId>zookeeper</artifactId> <version>3.4.9</version> </d

使用.net实现ZooKeeper客户端

最近在项目中用到ZooKeeper, 通过Java连接比较容易,.net项目就没那么容易,尤其对于不熟悉Linux的开发人员,这里写点搭建ZooKeeper测试环境的经验,供参考. 背景知识: Zookeeper的优点和用途就不再赘述,但是关于ZooKeeper的特点和原理还是要清楚,可以参考官方文档:http://zookeeper.apache.org/doc/trunk/zookeeperOver.html 环境准备: 系统:对于ZooKeeper等等开源类的服务端软件,运行环境通常都推荐

Zookeeper客户端介绍

客户端是开发人员使用Zookeeper的主要的途径,以下内容将对Zookeeper的内部原理进行详细的学习和讲解.ZooKeeper的客户端主要有一下几个核心组件组成: Zookeeper:提供客户端访问ZooKeeper服务器的API. ClientWatchManager:负责管理客户端注册的Watcher. HostProvider:客户端地址列表管理器. ClientCnxn:客户端核心线程,其内部包含连个线程及SendThread和EvnentThread.SendThread是一个I

zookeeper客户端 zkCli使用及常用命令

上篇(http://www.cnblogs.com/yangzhenlong/p/8270835.html)zk伪集群搭建好后,使用zkCli连接zk服务 切换到zk1/bin 目录,执行zkCli.cmd -server localhost:2181 查看zk客户端帮助 命令 h example: 查看根目录节点: ls / 查看根节点状态:stat / 查看根节点数据和详情:get / get和stat的区别是:get比stat(第一行)多返回节点的数据信息 在根目录下创建 永久node_1