Memcache自身并没有实现集群功能,如果想用Memcahce实现集群需要借助第三方软件或者自己设计编程实现,这里将采用memagent代理实现,memagent又名magent,大家注意下,不要将这二者当成两种工具。至于memcache、magent的安装请参考文章 在Linux上安装Memcached服务和 magent编译安装及常见错误
整体架构
直接上图:
从图中可以看到有两个magent节点,两个memcached节点,每个magent节点又分别代理两个memcached节点,应用系统端使用magent pool来调用memcache进行存储。硬件结构为两台linux服务器,每台服务器上分别安装magent和memcached服务,并设为开机启动。这样做的好处是任何一台服务器宕机后都不影响magent pool获取memcache信息,即实现了memcached的高可用(HA),如果两台机器都宕机了,只能说明你RP太差了。当然,也可以用三台、四台或者更多服务器来提高HA。
测试HA
测试背景,本地局域网内两台服务器172.18.117.71(memcache端口11211,magent端口11210),172.18.117.113(memcache端口11211,magent端口11210),和两台服务器在同一局域网内的测试机器,下边是测试代码:
import com.danga.MemCached.MemCachedClient; import com.danga.MemCached.SockIOPool; public class MainTest { public static void main(String[] arg){ SockIOPool pool = SockIOPool.getInstance(); //magent连接池 pool.setServers(new String[] { "172.18.117.71:11210","172.18.117.113:11210" }); pool.setSocketTO(3000); pool.setNagle(false); pool.setSocketConnectTO(0); pool.initialize(); MemCachedClient memCachedClient = new MemCachedClient(); memCachedClient.set("becd0000", "测试例子"); //System.out.println(memCachedClient.get("becd0000")); //System.out.println(memCachedClient.flushAll()); } }
步骤1:将key为“becd0000”,value为“测试例子”通过magent的pool放到memcache中
步骤2:修改magent连接池为单个memcache连接,代码如下
import com.danga.MemCached.MemCachedClient; import com.danga.MemCached.SockIOPool; public class MainTest { public static void main(String[] arg){ SockIOPool pool = SockIOPool.getInstance(); //magent连接池 pool.setServers(new String[] { "172.18.117.71:11211"}); pool.setSocketTO(3000); pool.setNagle(false); pool.setSocketConnectTO(0); pool.initialize(); MemCachedClient memCachedClient = new MemCachedClient(); //memCachedClient.set("becd0000", "测试例子"); System.out.println(memCachedClient.get("becd0000")); //System.out.println(memCachedClient.flushAll()); } }
可以看到单独访问memcache是可以取到刚才所存储的值的。
步骤3:修改
pool.setServers(new String[] { "172.18.117.71:11211"});
为
pool.setServers(new String[] { "172.18.117.113:11211"});
再次执行可以看到和步骤2一样的结果,都可以取到值,说明通过magent代理存的值会分别放到两个memcache中
步骤4:停止172.18.117.113上的memcached服务
停止memcached服务命令:kill "cat /tmp/memcached.pid"
步骤5:再次通过magent代理取值,代码如下:
import com.danga.MemCached.MemCachedClient; import com.danga.MemCached.SockIOPool; public class MainTest { public static void main(String[] arg){ SockIOPool pool = SockIOPool.getInstance(); //magent连接池 pool.setServers(new String[] { "172.18.117.71:11210","172.18.117.113:11210" }); pool.setSocketTO(3000); pool.setNagle(false); pool.setSocketConnectTO(0); pool.initialize(); MemCachedClient memCachedClient = new MemCachedClient(); //memCachedClient.set("becd0000", "测试例子"); System.out.println(memCachedClient.get("becd0000")); //System.out.println(memCachedClient.flushAll()); } }
可以看到依然能够取到值。
步骤6:启动刚才停掉的memcached服务,重启后memcache中所有信息将清空
步骤7:再次通过magent代理池去取key为“becd0000”的值,代码如下:
import com.danga.MemCached.MemCachedClient; import com.danga.MemCached.SockIOPool; public class MainTest { public static void main(String[] arg){ SockIOPool pool = SockIOPool.getInstance(); //magent连接池 pool.setServers(new String[] { "172.18.117.71:11210","172.18.117.113:11210" }); pool.setSocketTO(3000); pool.setNagle(false); pool.setSocketConnectTO(0); pool.initialize(); MemCachedClient memCachedClient = new MemCachedClient(); //memCachedClient.set("becd0000", "测试例子"); System.out.println(memCachedClient.get("becd0000")); //System.out.println(memCachedClient.flushAll()); } }
可以看到这里取到的值为null。
结果分析
通过以上测试可以得出结论
1、通过magent的连接池放的值会分别存在magent代理的所有memcached上去
2、如果有一个memcached宕机通过magent代理方式还能取到值
3、如果memcached修复重启后通过magent代理方式取到的值就会为Null,这是由于memcache重启后里边的值随着memcache服务的停止就消失了(因为在内存中),但是magent是通过key进行哈希计算分配到某台机器上的,memcache重启后会还从这台机器上取值,所有取到的值就没空。
解决办法
1、在每次memcache宕机修复后可以写一个程序把集群中的其他memcache的所有信息全给拷贝到当前宕机修复后的memcache中。
2、自己写代理,当从一个memcached服务上取到的值为null时再去其他memcached上取值
注意事项
magent的调用方式同memcached一样,客户端可以不用改代码即可实现切换到magent模式下
版权所有,转载请注明作者、出处。
Memcached 集群的高可用(HA)架构