谈谈 Memcached LRU

一. Memcached 内存结构

可以看出 Memcached 将内存分为一个一个 slab class,slab class 没有大小,所有的 slab class 加起来就是 Memcached 启动时设置的内存大小。slab class 里面有 slab page,slab class 大小由 slab page 个数决定,默认的 slab page 为 1M,可以在启动 Memcached 时设置。slab page
里又分为同等大小的 chunk,chunk 就是存储缓存的基本单元,chunk 大小,不同 slab class 的 page 大小一致,但是 chunk 大小不一致,默认 class1 的 chunk 大小为 96 byte,不同 class 的 chunk 大小由启动时设置的 factor 系数决定,下一个 class 的 chunk 是上一个 class 的 chunk 的 1.25 倍(默认是 1.25)。

Memcached默认情况下采用了名为Slab Allocator的机制分配、管理内存。在该机制出现以前,内存的分配是通过对所有记录简单地进行malloc和free来进行的。但是,这种方式会导致内存碎片,加重操作系统内存管理器的负担,最坏的情况下,会导致操作系统比memcached进程本身还慢。Slab Allocator就是为解决该问题而诞生的。

Slab Allocator的基本原理是按照预先规定的大小,将分配的内存以page为单位,默认情况下一个page是1M,可以通过-I参数在启动时指定,分割成各种尺寸的块(chunk), 并把尺寸相同的块分成组(chunk的集合),如果需要申请内存时,memcached会划分出一个新的page并分配给需要的slab区域。page一旦被分配在重启前不会被回收或者重新分配,以解决内存碎片问题。

二. 如何分配

Memcached在启动时通过-m参数指定最大使用内存,但是这个不会一启动就占用完,而是逐步分配给各slab的。如果一个新的数据要被存放,首先选择一个合适的slab(存入的数据大小和 chunk 大小最接近,这样可以减少内部碎片的浪费),然后查看该slab是否还有空闲的chunk,如果有则直接存放进去;如果没有则要进行申请,slab申请内存时以page为单位,无论大小为多少,都会有1M大小的page被分配给该slab(该page不会被回收或者重新分配,永远都属于该slab)。申请到page后,slab会将这个page的内存按chunk的大小进行切分,这样就变成了一个chunk的数组,再从这个chunk数组中选择一个用于存储数据。若没有空闲的page的时候,则会对改slab进行LRU,而不是对整个memcache进行LRU。(PS:局部
LRU)

三. 面临的问题

在这样的内存结构和内存分配的策略上,会有一些典型的问题,比如 Memcached 还有一般的空闲内存,但是进行了 LRU,原因就是某些缓存数据大小相近的都是分配在某个 slab class 上,这些数据又是热数据,又不断有加入的新数据,因为是局部 LRU,所以导致在这个 slab class 上频繁进行 LRU,但是其他 slab class 里面却有大量空闲空间。这样的情况如果频繁,可以考虑调小
factor,这样大小类似的数据可能会分配到不同的 slab class 上,减少 LRU 情况。

时间: 2024-08-30 09:57:34

谈谈 Memcached LRU的相关文章

谈谈Memcached与Redis

1. Memcached简介 Memcached是以LiveJurnal旗下Danga Interactive公司的Bard Fitzpatric为首开发的高性能分布式内存缓存服务器.其本质上就是一个内存key-value数据库,但是不支持数据的持久化,服务器关闭之后数据全部丢失.Memcached使用C语言开发,在大多数像Linux.BSD和Solaris等POSIX系统上,只要安装了libevent即可使用.在Windows下,它也有一个可用的非官方版本(http://code.jellyc

Memcached之你真正理解LRU吗(4)

众所周知,Memcached使用的是LRU(Least Recently Used最近最少使用)算法来回收缓存,将那些属于LRU的数据移出内存,从而腾出空间来加载另外的数据.那么Memcached的最近最少使用算法是怎么实现的呢?也许很多人都会回答:不就是在内存满了的情况下,把最近最少使用的Key替换掉,然后插入新的Key-Value键值对吗?其实不然,下面我们来深入的分析Memcached的LRU的内部实现,在分析LRU之前,让我们先了解一下Memcached的内部原理. Memcached的

Memcached 常见的问题

memcached是怎么工作的? Memcached的神奇来自两阶段哈希(two-stage hash).Memcached就像一个巨大的.存储了很多<key,value>对的哈希表.通过key,可以存储或查询任意的数据. 客户端可以把数据存储在多台memcached上.当查询数据时,客户端首先参考节点列表计算出key的哈希值(阶段一哈希),进而选中一个节点:客户端将请求发送给选中的节点,然后memcached节点通过一个内部的哈希算法(阶段二哈希),查找真正的数据(item). 举个列子,假

Memcached集群架构方面的问题(转)

add by zhj: 这是一个系列中的第二篇,该系列有四篇,英文原文没找到,译文见:http://blog.csdn.net/jarfield/article/details/4336035 ,附上另外三篇链接http://blog.csdn.net/jarfield/article/details/4322953,http://blog.csdn.net/jarfield/article/details/4341819, http://blog.csdn.net/jarfield/artic

ZeroMq LRU算法中间件

前一段时间2014北京PyCon大会吐槽颇多,所以我就到InfoQ上找了找2013的大会视频,对网络射击手游High Noon 2基于Python的服务器架构的视频挺感兴趣,尤其是游戏服务器中的0 downtime,原理他们底层不是原生的socket, 而是基于ZeroMq的socket,由于ZeroMq的短线自动重连可以满足游戏服务器的热启动,不需要代码层面的热启动,热更新,当更新代码完成后直接重启服务器,之前未处理的请求会继续处理.瞬间觉得非常高大上,于是最近一段时间回家一直研究ZeroMq

Memcached工作原理及常见问题

memcached是怎么工作的? Memcached的神奇来自两阶段哈希(two-stage hash).Memcached就像一个巨大的.存储了很多<key,value>对的哈希表.通过key,可以存储或查询任意的数据. 客户端可以把数据存储在多台memcached上.当查询数据时,客户端首先参考节点列表计算出key的哈希值(阶段一哈希),进而选中一个节点:客户端将 请求发送给选中的节点,然后memcached节点通过一个内部的哈希算法(阶段二哈希),查找真正的数据(item). 举个列子,

PHP Memcached 面试题

这里收集了经常被问到的关于memcached的问题 * memcached是怎么工作的? * memcached最大的优势是什么? * memcached和MySQL的query cache相比,有什么优缺点? * memcached和服务器的local cache(比如PHP的APC.mmap文件等)相比,有什么优缺点? * memcached的cache机制是怎样的? * memcached如何实现冗余机制? * memcached如何处理容错的? * 如何将memcached中item批量

redis memcache

谈谈Memcached与Redis(一) 1. Memcached简介 Memcached是以LiveJurnal旗下Danga Interactive公司的Bard Fitzpatric为首开发的高性能分布式内存缓存服务器.其本质上就是一个内存key-value数据库,但是不支持数据的持久化,服务器关闭之后数据全部丢失.Memcached使用C语言开发,在大多数像Linux.BSD和Solaris等POSIX系统上,只要安装了libevent即可使用.在Windows下,它也有一个可用的非官方

redis memcache 比较

Redis与Memcached的区别 传统MySQL+ Memcached架构遇到的问题 实际MySQL是适合进行海量数据存储的,通过Memcached将热点数据加载到cache,加速访问,很多公司都曾经使用过这样的架构,但随着业务数据量的不断增加,和访问量的持续增长,我们遇到了很多问题: 1.MySQL需要不断进行拆库拆表,Memcached也需不断跟着扩容,扩容和维护工作占据大量开发时间. 2.Memcached与MySQL数据库数据一致性问题. 3.Memcached数据命中率低或down