分布式缓存Memcache和Redis

引言

针对于现在计算机的CPU和网络设施,对应用程序来说,执行效率的瓶颈,已经不是代码的长度(实现同一个功能)和带宽了,而是,代码访问资源的过程,即:让我们的程序慢下来的罪魁祸首就是IO操作。

程序从硬盘上读取数据是一个非常花费时间的操作,因为我们现在所使用的硬盘是机械式的,你想机械的运行速度和电的速度,那是一个级别上的选手吗?

为了解决程序的瓶颈,人们提出了一种想法:使用空间换取时间。程序访问硬盘用的时间长,那就让数据放到内存中,让程序访问内存,这样不就节省了时间。这样确实剩下了我们程序获取数据时的等待时间,但是,我们的内存却是被占用了。

我们大家都知道,内存这个资源对于计算机来说,是非常紧缺和有限的(就那么多),如果我们计算机的内存资源都被这些数据使用了,那么一定会影响我们程序 的运行的,你想,如果此时程序再需要一片内存空间的话,计算机会有什么反应,不用说,一定进行虚拟内存处理,虚拟内存是什么?硬盘上的空间,你看,我们费 了半天劲又绕到了这个瓶颈,这不得不偿失嘛。

当然,上面的那种情况是程序和缓存数据共用一个计算机的内存,如果,这个程序使用的人少,那么程序和缓存数据在一个计算机上只有积极的影响,没有负面的 影响,但是,如果我们程序推广出去了,而且被所有人所接受,致使我们服务器每一分钟都有10万用户的访问量,此时,上述的那种情况就会严重影响程序的效率 了。

为了解决上述的问题,于是出现了分布式缓存,硬盘上的数据,缓存在别的计算机(不是程序运行的计算机)的内存上,而且,可以缓存的计算机的个数不止一个,可以是n个。这个就是本篇博客的主要内容:分布式缓存Memcache(主讲)和Redis(做个简介)

操作流程

下载Memcache服务端;启动服务;下载.net平台的驱动;应用程序中添加驱动的引用;编写程序

具体操作(Memcache)

下载Mecached服务器(win版),安装并启动服务器。打开命令窗口,切换到memcached文件目录,然后,输入:memcached.exe –d install和memcached.exe –d start,此时安装并启动了服务。引入相应的驱动(dll)

编程代码如下:

staticvoidMain(string[] args)

{

//组成memcache集群

//string[]servers
= { "127.0.0.1:11211","10.0.9.20:11211" };集群

string[]servers = { "127.0.0.1:11211" };

//初始化对象池

SockIOPool pool = SockIOPool.GetInstance();

//SockIOPoolpool = SockIOPool.GetInstance("test1");

pool.SetServers(servers);

pool.InitConnections = 3;

pool.MinConnections = 3;

pool.MaxConnections = 5;

pool.SocketConnectTimeout = 1000;

pool.SocketTimeout = 3000;

pool.MaintenanceSleep = 30;

pool.Failover =
true;

pool.Nagle =
false;

//生成对象

pool.Initialize();

//客户端实例

MemcachedClient mc = new
MemcachedClient();

//不压缩

mc.EnableCompression =
false;

//mc.PoolName= "test1";//获得指定对象池的对象

mc.Set("key1","Value1",DateTime.Now.AddMinutes(10));

objectobj = mc.Get("key1");

Console.WriteLine(obj);

Console.ReadKey();

}

集群问题

Memcache存储数据的原理

先把key做一个哈希算法,得到哈希值;哈希值除以memcache服务器个数,取余,得出存放数据的服务器

一致性哈希原理

临时增加一个memcache服务器,则之前key-value存放的服务器就会发生变化,此时取之前的值就会出现问题;此时,我们可以使用一致性哈希原理:每个服务器对应的是一段值,此时增加一个服务器,出现错误的概略会减少,但是,没有办法根治

内存存储管理

内存分配

Memcache把内存分成大小不同的块,当数据来了后,找到一个最小匹配上块,来存储数据

内存使用

采用CAS(CAS: ClientAssessService)协议,而不是采用锁,解决多并发访问题

客户端读取数据时,获得一个CAS-ID,当写入缓存前,先检查客户端CAS-ID和服务器端CAS-ID(最后一个客户端访问时的CAS-ID)是否相同,相同,可以修改,否则,不允许修改,这个和我们使用的版本控制的原理大致是一样的

内存回收

Lazy Expiration(惰性检测)

当用户通过key获取数据时才检查数据是否过期,最长过期时间为30d

LRU(Least RecentlyUsed)

算法:近期最少使用算法。闲置内存—》过期内存—》最少使用

Memcache和Redis的区别

都是分布式缓存;官方提供Linux版,但都不提供win版;都可以实现集群的,只不过,Memecache是在客户端设置,而Redis是在服务器端设置;Memcache提供的存储类型单一,Redis提供的类型比较丰富;提供了很多种语言的驱动。

总结

Memcache和Redis服务器都是分布式缓存思想的具体化,使用他们,可以使我们的web应用程序高效的被更多的用户使用。

时间: 2024-11-10 13:28:11

分布式缓存Memcache和Redis的相关文章

php5.4之分布式缓存memcache(windows7下安装配置)

一.安装memcache memcached在windows7上的安装问题 现在安装包:http://www.jb51.net/softs/44843.html   memcache的安装包 错误: 通过cmd命令行进入到D:\webEve\memcached(下载后的解压目录) 运行 memcached.exe -d install 报错" failed to install service or service already installed" 解决方法: www.2cto.c

如何用分布式缓存服务实现Redis内存优化

Redis是一种支持Key-Value等多种数据结构的存储系统,其数据特性是"ALL IN MEMORY",因此优化内存十分重要.在对Redis进行内存优化时,先要掌握Redis内存存储的特性比如字符串,压缩编码,整数集合等,再根据数据规模和所用命令需求去调整,从而达到空间和效率的最佳平衡. 但随着数据大幅增长,开发人员需要面对重新优化内存所带来开发和数据迁移的双重成本也越来越高.Redis所有的数据都在内存中,那么,我们是否可以通过简便高效的方式去实现Redis内存优化呢? 答案当然

192.168.62.124python运维开发(十一)----python操作缓存memcache、redis

内容目录: 缓存 memcache redis memcache Memcached 是一个高性能的分布式内存对象缓存系统,用于动态Web应用以减轻数据库负载.它通过在内存中缓存数据和对象来减少读取数据库的次数,从而提高动态.数据库驱动网站的速度.Memcached基于一个存储键/值对的hashmap.其守护进程(daemon )是用C写的,但是客户端可以用任何语言来编写,并通过memcached协议与守护进程通信. Memcached安装配置 #安装依赖包 yum install libeve

83-高性能,分布式缓存memcache简析

一. memcached简介 memcached is a high-performance, distributed memory object caching system, generic in nature, but intended for use in      speeding up dynamic web applications by alleviating database load. (由 LiveJournal旗下的Danga Interactive研发) #高性能,分布

分布式缓存——memcache原理

内容:1.什么是Memcached 2.MemCache和MemCached的区别 3.memcache访问模型 4.Memcached作为高速运行的分布式缓存服务器具有以下特点 5.Memcached的内存算法 6.Memcached的缓存策略             7.分布式算法(Consistent Hashing)             8. MemCache的特性和限制总结 1.什么是Memcached        MemCache是一个自由.源码开放.高性能.分布式的分布式内存

分布式缓存Memcache

Memcached是分布式的,也就是说它不是本地的.它基于网络连接(当然它也可以使用localhost)方式完成服务,本身它是一个独立于应用的程序或守护进程(Daemon方式). Memcached使用libevent库实现网络连接服务.libevent是个程序库,它将Linux的epoll.BSD类操作系统的kqueue等事件处理功能封装成统一的接口.即使对服务器的连接数增加,也能发挥O(1)的性能. Memcached是“分布式”的内存对象缓存系统,那些不需要“分布”的,不需要共享的,或者干

分布式缓存Memcache学习笔记

Memcache的使用 使用Memcache的网站一般流量都是比较大的,为了缓解数据库的压力,让 Memcache作为一个缓存区域,把部分信息保存在内存中,在前端能够迅速的进行存取.那么一般的焦点就是集中在如何分担数据库压力和进行分布式,毕竟单台Memcache的内存容量的有限的.我这里简单提出我的个人看法,未经实践,权当参考. 分布式应用 Memcache本来支持分布式,我们客户端稍加改造,更好的支持.我们的key可以适当进行有规律的封装,比如以user为主的网站来说,每个用户都有User I

分布式缓存-Memcache定义

Memcache 是一款开源的高性能的分布式内存对象缓存系统,用于在应用中减少对数据库的访问,提高应用的访问速度,降低数据库负载. 为了在内存中提供高速的数据查找能力,Memcache使用Key-value的形式存储和访问数据,在内存中维护了一张巨大的HashTable,是的对数据的查找的时间复杂度降低到了O(1),保证了对数据的高速访问. 由于内存的大小是有限的,当内存中没有过多的空间来存储新的数据时,Memcache会使用LRU(Least Recently Used)算法,将最近最少未使用

Python菜鸟之路:Python基础-操作缓存memcache、redis

一.搭建memcached和redis 略,自己去百度吧 二.操作Mmecached 1. 安装API python -m pip install python-memcached 2. 启动memcached memcached -d -u root -p 12000 -m 50 memcached -d -u root -p 12001 -m 50 memcached -d -u root -p 12002 -m 50参数说明:     -d 是启动一个守护进程     -m 是分配给Mem