1. SockIOPool – SockIO池化管理,为上层提供的接口是实例化函数[主要是指定memcached服务器地址,各个
机器的权重];根据key&hashCode获取SockIO-网络连接句柄;根据服务器地址获取SockIO;关闭池。上层在获取
到SockIO后可以进行读写操作,在正常使用完SockIO后将其归还给池,如果在使用过程中出现问题则将这个网络
连接关闭,同时还暴露了SocketChannel提供了进行NIO编程的接口。
SockIOPool有在static可见范围维护一个String池名到SockIOPool的映射。
SockIO进入availPool或者busyPool都会把进入的时间写入,作为空闲时间或者使用时间的参考
------------------
2. SockIOPool属性
boolean initialized = false – 初始化是否完成的标志,只有初始化完成后上层才能正常使用池
int initConn = 10 – 初始化时对每个服务器建立的连接数目
int minConn = 5 – 每个服务器建立最小的连接数,当自查线程发现与某个服务器建立连接数目小于这个数目时
会弥补剩下的连接
int maxConn = 100 -每个服务器建立最大的连接数,当自查线程发现与某个服务器建立连接数目大于这个数目
时就会逐个检查这些连接的空闲时间是否大于maxConn,如果大于会关闭这些连接,直到连接数等于maxConn
long maxIdle = 1000 * 60 * 5 – 最大空闲时间
long maxBusyTime = 1000 * 30 – 最长租用时间,其使用主要有两点,一是自查线程会检查正在被租用的连接,
如果发现已经被租用的时间超过这个值得,会将其从被租用的记录里剔除,并关闭这个连接;另一个应用是
上层进行MUTIL操作时,读取所有的数据的时间不能超过这个时间。
long maintSleep = 1000 * 30 – 自查线程周期进行工作,其每次休眠时间
int socketTO = 1000 * 3 – Socket阻塞读取数据的超时时间
int socketConnectTO = 1000 * 3 - Socket阻塞建立连接的等待时间
boolean aliveCheck = false -根据key&hashCode获取SockIO时,通过hash bucket得到SockIO后,如果这个值
是true会检查Socket是否已经连接,如果连接建立正常还会想服务器发送“version\r\n”的指令,并读取数据,这
个过程没有出错才会返回SockIO给上层用,否则返回NULL。所以一般设置为false。
boolean nagle = false – Socket的参数,如果是true在写数据时不缓冲,立即发送出去
int hashingAlg = NATIVE_HASH – 池的hash bucket方式,主要是分为简单的hashCode取hash bucket数目的模
和一致性哈希,前者在扩容时会造成命中率很大程度的下降,后者的好处是扩容时很大程度减少了缓存的重新
分布
String[] servers – memcached服务器地址配置
Integer[] weights – memcached服务器权重配置
List<String> buckets - hash bucket,一个服务器地址,其权重是N,则往这个bucket中添加N个服务器地址
TreeMap<Long, String> consistentBuckets – 一致性哈希表:一个服务器地址,其权重是N,则迭代0 - N-1,取
字符串服务器地址+i的MD5值,将这个MD5值分成4段,每段转换成Long值,将这个Long值到服务器地址放入
到一致性哈希表中
Map<String, Date> hostDead – 用来记录本地和哪个服务器地址建立连接失败的最近时间的MAP
Map<String, Long> hostDeadDur – 如果hostDead包含服务器地址,说明上次建立连接失败了,那么会到
hostDeadDur里取这个服务器没必要尝试连接时间间隔的值,如果上次失败时间+没必要尝试连接时间间隔则
不会发起连接。在每次连接服务器失败后,会替换hostDead里最近时间,同时替换hostDeadDur的时间间隔
值,这个值初始是1000ms,每失败一次翻倍一次。
Map<String, Map<SockIO, Long>> availPool – 当前可用的连接记录
Map<String, Map<SockIO, Long>> busyPool – 当前工作的连接记录
Map<SockIO, Integer> deadPool – 用来保持应该关闭连接的SockIO,自查线程会将里面的所有的SockIO的连接
关闭
boolean failover/failback
------------------
3. 池初始化
在初始化阶段主要是完成一些值的初始化,再就是根据hashingAlg来设置hash bucket,如果是
CONSISTENT_HASH则使用上面提到的一致性HASH算法建立一致性哈希表,如果不是则使用上面提到的建立
hash bucket,接下来根据initConn和所有服务器地址创建数目为initConn的连接数目。如果maintSleep大于0则
启动整个连接池的自查线程。其中创建连接的逻辑如下:如果hostDead和hostDeadDur都持有一个服务器地址
的时候,会看最近失败时间+没必要连接时间间隔是否大于当前时间,大于的话直接放弃创建连接过程退出,
小于则发起连接,发起连接创建有三种情况,一种是在时间期限内创建成功,则清空其可能在hostDead和
hostDeadDur的记录,再将这个连接放入到availPool记录里面;一种是连接没有创建成功则将SockIO放入到
deadPool里给自查线程关闭连接和释放资源;最后一种是由于网络异常或者超时异常,第二种和第三种情况
发生则需要往hostDead和hostDeadDur里添加这个服务器地址的相关记录,同时将availPool里的这个服务器
地址的记录清除。
------------------
4. 租还SockIOPool
a. key & hashCode - 租
1. 先根据key & hashCode到hash bucket里找到其应该连接的服务器地址:如果有hashCode则直接使用
hashCode,没有则根据hashingAlg取hash值。如果是一致性哈希算法则到consistentBuckets里找计算出的大hash
值的点,没找到则取第一个;如果是其他的则hash bucket取模。
2. 到availPool里根据服务器地址找到可用的连接列表,迭代这个列表,如果有可用的则从availPool取出,
并加入到busyPool,如果不可用则加入到deadPool给自查线程关闭连接。经过上面的过程还没有得到连接则调用
上面提到的创建连接的逻辑,如果创建成功加入到busyPool。
3. 在得到一个连接SockIO后,再进行一些检查,如果连接不可用则加入到deadPool,可用如果aliveCheck
为true则会进行上面提到的自检操作,如果自检发生错误则从busyPool中移除并关闭连接。如果在2没有得到连
接,并且failover为false则直接返回不再尝试连接到其他机器了;否则会组装一些新的key到hash bucket里去找剩
下的服务器地址按2建立连接。
b. host - 租
到availPool里根据服务器地址找到可用的连接列表,迭代这个列表,如果有可用的则从availPool取出,
并加入到busyPool,如果不可用则加入到deadPool给自查线程关闭连接。经过上面的过程还没有得到连接则调用
上面提到的创建连接的逻辑,如果创建成功加入到busyPool。
c. 还
将此连接SockIO从busyPool的记录中移除,如果连接可用则将连接加入到availPool的记录里面。
------------------
5. 自查线程
自查线程主要提供两个逻辑,启动和关闭,启动时周期性调用池的自查逻辑,关闭则通过一个是否停止标志来的
设置来标记停止,在中断可能正在休眠的自查线程。
池的自查逻辑主要是:
a. 到availPool检查各个服务器目前可用连接数目的个数,如果小于minConn则创建连接来弥补差额,创建的新
的连接加入到availPool中。
b. 再到availPool检查各个服务器目前可用连接数目的个数,如果大于maxConn会逐个检查这些连接的空闲时间
是否大于maxConn,如果大于会关闭这些连接,直到连接数等于maxConn。空闲时间的计算就是当前时间和这个
连接进入availPool时间的差值。
c. 到busyPool检查,发现某个连接已经被租用的时间超过这个值得,会将其从被租用的记录里剔除,并将其加入
到deadPool中。
d. 迭代deadPool中所有的连接,关闭这些连接。
------------------
6. 关闭过程主要是先停止自查线程,直到自查线程结束运行,再迭代availPool和busyPool将里面的网络连接
SockIO,关闭SockIO主要是关闭输入输出流,关闭Socket。
SockIOPool
时间: 2024-10-17 15:42:36
SockIOPool的相关文章
Memcached Memcached.ClientLibrary.SockIOPool”的类型初始值设定项引发异常
又一次遭遇"xxx类型初始值设定项引发异常" 下了个c#实现的轻量级IoC开源项目,可是在本地使用时发现一运行就捕捉到"类型初始值设定项引发异常"的异常信息,调试几次还是不能确定到底什么地方出了问题.印象中好像碰到过这种异常,初步估计是某个静态类初始化不成功引起的,但是不能肯定. 无奈打开ILSpy查看源码,发现静态初始化的地方非常多,而且代码看上去层层嵌套,类名繁多,一行一行跟上去很容易绕晕.折腾好久未果,无奈google一下,发现早就有人和我碰到一样的问题,一看
Key/Value之王Memcached初探:二、Memcached在.Net中的基本操作
一.Memcached ClientLib For .Net 首先,不得不说,许多语言都实现了连接Memcached的客户端,其中以Perl.PHP为主. 仅仅memcached网站上列出的语言就有:Perl.PHP.Python.Ruby.C#.C/C++以及Lua等. 那么,我们作为.Net码农,自然是使用C#.既然Memcached客户端有.Net版,那我们就去下载一个来试试. 下载文件:http://pan.baidu.com/s/1w9Q8I memcached clientlib项目
Key/Value之王Memcached初探:三、Memcached解决Session的分布式存储场景的应用
一.高可用的Session服务器场景简介 1.1 应用服务器的无状态特性 应用层服务器(这里一般指Web服务器)处理网站应用的业务逻辑,应用的一个最显著的特点是:应用的无状态性. PS:提到无状态特性,不得不说下Http协议.我们常常听到说,Http是一个无状态协议,同一个会话的连续两个请求互相不了解,他们由最新实例化的环境进行解析,除了应用本身可能已经存储在全局对象中的所有信息外,该环境不保存与会话有关的任何信息.之所以我们在使用ASP.NET WebForm开发中会感觉不到Http的无状态特
Memcached全攻略
最近在项目中进行核心业务模块的重构,涉及对系统接口性能的改造,随着系统业务的发展,原有系统接口响应速度已并不能满足业务需求,内部调用接口时间过多,为此,设计将多次访问查询操作的数据改为使用缓存查询,缓存查询不到再次请求接口或数据库 ,这里采用memcached进行缓存. 一.缓存概述 1.分类 本地缓存(HashMap/ConcurrentHashMap.Ehcache.Guava Cache等),缓存服务(Redis/Tair/Memcache等). 2.使用场景 什么情况适合用缓存?考虑以下
分布式memcached学习(五)&mdash;&mdash; memcached java客户端的使用
Memcached的客户端简介 我们已经知道,memcached是一套分布式的缓存系统,memcached的服务端只是缓存数据的地方,并不能实现分布式,而memcached的客户端才是实现分布式的地方. Memcached现在已被广泛使用,客户端实现也有较多的版本,基本上各个语言的都有.比如:Memcached client for Java.Spymemcached.xMemcached,各自有各自的优缺点.由于Memcached client for Java是Memcached官方发布
MemcacheHelper.cs
1 using Memcached.ClientLibrary; 2 using System; 3 using System.Collections.Generic; 4 using System.Linq; 5 using System.Text; 6 using System.Threading.Tasks; 7 8 namespace Common 9 { 10 public class MemcacheHelper 11 { 12 private static readonly Mem
Memcache-Java-Client-Release源码阅读(之七)
一.主要内容 本章节的主要内容是介绍Memcache Client的Native,Old_Compat,New_Compat三个Hash算法的应用及实现. 二.准备工作 1.服务器启动192.168.0.106:11211,192.168.0.106:11212两个服务端实例. 2.示例代码: String[] servers = { "192.168.0.106:11211", "192.168.0.106:11212" }; SockIOPool pool =
分布式缓存学习总结
一.分布式缓存简图 二.为什么使用Memcached分布式缓存呢? 三.Memcached基础原理 四.Memcache下载与安装 五.MencacheHelper.cs 示例使用 结合Session与项目配置缓存 六.Redis和Memcache的区别总结 一.分布式缓存简图 二.为什么使用Memcached分布式缓存呢? 首先先讲讲为何要缓存,在数据驱动的web开发中,经常要重复从数据库中取出相同的数据,这种重复极大的增加了数据库负载.缓存是解决这个问题的好办法.但是ASP.NET中的虽然已
Memcached 缓存个体,对象,泛型,表
转自 :http://www.cnblogs.com/panshengqiang/p/3605599.html 下面是两位大牛关于Memcached的介绍:大家可以看看 http://zhoufoxcn.blog.51cto.com/792419/528212 http://leepiao.blog.163.com/blog/static/48503130201104103344851/ 如下是我的总结: Memcached是一个命令行窗口程序,可以在命令行窗口中启动也可以封装在系统服务中启动.