为什么使用 Redis及其产品定位

传统MySQL+ Memcached架构遇到的问题

实际MySQL是适合进行海量数据存储的,通过Memcached将热点数据加载到cache,加速访问,很多公司都曾经使用过这样的架构,但随着业务数据量的不断增加,和访问量的持续增长,我们遇到了很多问题:

  1. MySQL需要不断进行拆库拆表,Memcached也需不断跟着扩容,扩容和维护工作占据大量开发时间。
  2. Memcached与MySQL数据库数据一致性问题。
  3. Memcached数据命中率低或down机,大量访问直接穿透到DB,MySQL无法支撑。
  4. 跨机房cache同步问题。

众多NoSQL百花齐放,如何选择

最近几年,业界不断涌现出很多各种各样的NoSQL产品,那么如何才能正确地使用好这些产品,最大化地发挥其长处,是我们需要深入研究和思考的问 题,实际归根结底最重要的是了解这些产品的定位,并且了解到每款产品的tradeoffs,在实际应用中做到扬长避短,总体上这些NoSQL主要用于解决 以下几种问题

  1. 少量数据存储,高速读写访问。此类产品通过数据全部in-momery 的方式来保证高速访问,同时提供数据落地的功能,实际这正是Redis最主要的适用场景。
  2. 海量数据存储,分布式系统支持,数据一致性保证,方便的集群节点添加/删除。
  3. 这方面最具代表性的是dynamo和bigtable 2篇论文所阐述的思路。前者是一个完全无中心的设计,节点之间通过gossip方式传递集群信息,数据保证最终一致性,后者是一个中心化的方案设计,通过 类似一个分布式锁服务来保证强一致性,数据写入先写内存和redo log,然后定期compat归并到磁盘上,将随机写优化为顺序写,提高写入性能。
  4. Schema free,auto-sharding等。比如目前常见的一些文档数据库都是支持schema-free的,直接存储json格式数据,并且支持auto-sharding等功能,比如mongodb。

面对这些不同类型的NoSQL产品,我们需要根据我们的业务场景选择最合适的产品。

Redis适用场景,如何正确的使用

前面已经分析过,Redis最适合所有数据in-momory的场景,虽然Redis也提供持久化功能,但实际更多的是一个disk-backed 的功能,跟传统意义上的持久化有比较大的差别,那么可能大家就会有疑问,似乎Redis更像一个加强版的Memcached,那么何时使用 Memcached,何时使用Redis呢?

Redis与Memcached的比较

  1. 网络IO模型
  2. Memcached是多线程,非阻塞IO复用的网络模型,分为监听主线程和worker子线程,监听线程监听网络连接,接受请求后,将连接 描述字pipe 传递给worker线程,进行读写IO, 网络层使用libevent封装的事件库,多线程模型可以发挥多核作用,但是引入了cache coherency和锁的问题,比如,Memcached最常用的stats 命令,实际Memcached所有操作都要对这个全局变量加锁,进行计数等工作,带来了性能损耗。

    (Memcached网络IO模型)

    Redis使用单线程的IO复用模型,自己封装了一个简单的AeEvent事件处理框架,主要实现了epoll、kqueue和 select,对于单纯只有IO操作来说,单线程可以将速度优势发挥到最大,但是Redis也提供了一些简单的计算功能,比如排序、聚合等,对于这些操 作,单线程模型实际会严重影响整体吞吐量,CPU计算过程中,整个IO调度都是被阻塞住的。

  3. 内存管理方面
  4. Memcached使用预分配的内存池的方式,使用slab和大小不同的chunk来管理内存,Item根据大小选择合适的chunk存 储,内存池的方式可以省去申请/释放内存的开销,并且能减小内存碎片产生,但这种方式也会带来一定程度上的空间浪费,并且在内存仍然有很大空间时,新的数 据也可能会被剔除,原因可以参考Timyang的文章:http://timyang.net/data/Memcached-lru-evictions/

    Redis使用现场申请内存的方式来存储数据,并且很少使用free-list等方式来优化内存分配,会在一定程度上存在内存碎 片,Redis跟据存储命令参数,会把带过期时间的数据单独存放在一起,并把它们称为临时数据,非临时数据是永远不会被剔除的,即便物理内存不够,导致 swap也不会剔除任何非临时数据(但会尝试剔除部分临时数据),这点上Redis更适合作为存储而不是cache。

  5. 数据一致性问题
  6. Memcached提供了cas命令,可以保证多个并发访问操作同一份数据的一致性问题。 Redis没有提供cas 命令,并不能保证这点,不过Redis提供了事务的功能,可以保证一串 命令的原子性,中间不会被任何操作打断。

  7. 存储方式及其它方面
  8. Memcached基本只支持简单的key-value存储,不支持枚举,不支持持久化和复制等功能

    Redis除key/value之外,还支持list,set,sorted set,hash等众多数据结构,提供了KEYS

    进行枚举操作,但不能在线上使用,如果需要枚举线上数据,Redis提供了工具可以直接扫描其dump文件,枚举出所有数据,Redis还同时提供了持久化和复制等功能。

  9. 关于不同语言的客户端支持
  10. 在不同语言的客户端方面,Memcached和Redis都有丰富的第三方客户端可供选择,不过因为Memcached发展的时间更久一 些,目前看在客户端支持方面,Memcached的很多客户端更加成熟稳定,而Redis由于其协议本身就比Memcached复杂,加上作者不断增加新 的功能等,对应第三方客户端跟进速度可能会赶不上,有时可能需要自己在第三方客户端基础上做些修改才能更好的使用。

根据以上比较不难看出,当我们不希望数据被踢出,或者需要除key/value之外的更多数据类型时,或者需要落地功能时,使用Redis比使用Memcached更合适。

关于Redis的一些周边功能

Redis除了作为存储之外还提供了一些其它方面的功能,比如聚合计算、pubsub、scripting等,对于此类功能需要了解其实现原理,清 楚地了解到它的局限性后,才能正确的使用,比如pubsub功能,这个实际是没有任何持久化支持的,消费方连接闪断或重连之间过来的消息是会全部丢失的, 又比如聚合计算和scripting等功能受Redis单线程模型所限,是不可能达到很高的吞吐量的,需要谨慎使用。

总的来说Redis作者是一位非常勤奋的开发者,可以经常看到作者在尝试着各种不同的新鲜想法和思路,针对这些方面的功能就要求我们需要深入了解后再使用。

总结:

  1. Redis使用最佳方式是全部数据in-memory。
  2. Redis更多场景是作为Memcached的替代者来使用。
  3. 当需要除key/value之外的更多数据类型支持时,使用Redis更合适。
  4. 当存储的数据不能被剔除时,使用Redis更合适。

后续关于Redis文章计划:

  1. Redis数据类型与容量规划。
  2. 如何根据业务场景搭建稳定,可靠,可扩展的Redis集群。
  3. Redis参数,代码优化及二次开发基础实践。

关于作者

田琪,目前负责新浪微博平台底层架构与研发工作,之前曾担任搜狐白社会实时游戏平台核心架构工作,主要关注webgame, 分布式存储,nosql 和 erlang 等领域,目前主要从事mysql源代码的一些深入研究工作,浪微博: http://weibo.com/bachmozart



感谢张凯峰对本文的策划与审校。

时间: 2024-10-12 14:08:38

为什么使用 Redis及其产品定位的相关文章

一、产品定位

产品定位当然是要获得用户啦. 产品定位必须解决的五个问题: 满足谁的需要? 他们有些什么需要? 我们提供的是否满足需要? 需要与提供的独特结合点如何选择? 这些需要如何有效实现? 一般而言,产品定位采用五步法 第一步:目标市场的定位 目标市场的定位就是要明白我们为谁服务.如果我们打算做一款产品一般基于解决大学生活中的不人性的地方.比如说福大助手,西二在线微信公众号,新庭芳苑,Papers校友做的产品,目标人群就是福大的学生,这些都是福大学生常用到的. 目标市场定位策略一般有以下几种: 无视差异,

产品定位四十八招(12)定位盈利专家吴玉龙

第四十招:基于"专用"定位策略<?xml:namespace prefix = o ns = "urn:schemas-microsoft-com:office:office" /> 广告语"就像刚刚步出美发厅"定位"美发厅的选择"牌是美发厅专用的一种洗发香波. 第四十一招:"一次性使用"定位策略 1987年,柯达公司推出一次性相机获得了巨大的成功.1993年,仅在美国就销售了930万个一次性相

如何进行产品定位(上)

这段时间在从事游戏社区化方向的策划,为某款游戏定制化社区. 针对该款游戏做了一次深入的数据挖掘,其中一项数据特别有意思.对游戏中的好友关系进行统计,其中玩家好友数在1-5个的占了70%,6-10个的11%,平均好有数6个. 这些数据公开之后,大家对社区化价值有了不同的看法. 技术GG很失落地说:好友数这么低,做社区做聊天做关系链没任何价值啊! 我:应该双面看待这项数据.好友数少.活跃低,说明玩家好友关系价值有限,起步低.换另外一个角度思考,正是因为游戏内的社交不方便,导致了这样的结果,是游戏的短

怎样进行产品定位(上)

这段时间在从事游戏社区化方向的策划.为某款游戏定制化社区. 针对该款游戏做了一次深入的数据挖掘,当中一项数据特别有意思.对游戏中的好友关系进行统计.当中玩家好友数在1-5个的占了70%.6-10个的11%.平均好有数6个. 这些数据公开之后.大家对社区化价值有了不同的看法. 技术GG非常失落地说:好友数这么低,做社区做聊天做关系链没不论什么价值啊. 我:应该双面看待这项数据.好友数少.活跃低,说明玩家好友关系价值有限,起步低.换另外一个角度思考,正是由于游戏内的社交不方便,导致了这种结果,是游戏

精细化运营分析影响产品定位、运营策略

精细化运营数据分析影响产品定位到运营策略 用户画像,即用户信息标签化,就是企业通过收集与分析消费者社会属性.生活习惯.消费行为等主要信息的数据之后,完美地抽象出一个用户的商业全貌,可以看作是企业应用大数据技术的基本方式.用户画像为企业提供了足够的信息基础,能够帮助企业快速找到精准用户群体以及用户需求等更为广泛的反馈信息. 近两年,"精准营销"一词犹如洪水般席卷而来,各大小企业就像是在抓救命稻草一样死死抓住这条命脉.殊不知,在为企业带来革命性营销方式的同时,精准营销也是一把双刃剑,盲目使

第三章 产品定位及市场分析

产品定位1. 了解用户需求(1)用户调研通过用户画像进行用户需求精细整理,满足用户需求,及时提问用户发现潜在的需求. (2)从用户角度出发,从具象到抽象到新的具象明确锁定用户是满足用户需求的直接原因,既要满足用户最大化也要具有阶段实施性:记住用户定位最初轨迹,用户调研及定位时不能偏离轨道. (3)需求整理整理归纳锁定用户的基本信息,通过图文.标注.区分.借图等方法进行内容的填写. 2. 产品定义(1)介绍说明一句长句子说明介绍产品,精炼又概括,提炼精华,全面高度概括. (2)产品标语品牌口号.广

NoSQL数据库:Redis适用场景及产品定位

传统MySQL+ Memcached架构遇到的问题 实际MySQL是适合进行海量数据存储的,通过Memcached将热点数据加载到cache,加速访问,很多公司都曾经使用过这样的架构,但随着业务数据量的不断增加,和访问量的持续增长,我们遇到了很多问题: 1.MySQL需要不断进行拆库拆表,Memcached也需不断跟着扩容,扩容和维护工作占据大量开发时间. 2.Memcached与MySQL数据库数据一致性问题. 3.Memcached数据命中率低或down机,大量访问直接穿透到DB,MySQL

使用Redis做产品统计的两种模式

http://zihua.li/2012/07/two-patterns-of-statistics-using-redis/ 产品运行过程中及时记录收集并分析统计数据对产品的持续改进有重要的指导作用.其中有两个很常见的统计模式:每小时新增的用户数量和一周内活跃的用户(对于一个漂流瓶应用,可能是每天都扔瓶子或捞瓶子的用户)数量.在实际开发中我使用 Redis 来实现这两个模式. 每小时新增用户数量 每小时新增的用户数量可以用 Redis 的 Hashes 数据类型来实现.Key 名为日期的 yy

Redis持久化——问题定位与优化(三)

核心知识点: 1.fork操作 a.在RDB或AOF重写时,会执行fork操作创建子进程,fork操作是一个重量级操作. b.改善fork操作耗时的手段:避免使用Xen.配置Redis实例最大使用内存.合理配置Liunx内存使用技术.降低fork操作的频率. 2.子进程开销监控与优化 1).CPU 2).内存 3).硬盘 3.AOF追加阻塞 Redis持久化功能一直是影响Redis性能的高发地,下面我们结合常见的持久化功能问题进行分析定位和优化. 一.fork操作 当Redis做RDB或AOF重