本文主要内容
- Redis与其他软件的相同之处和不同之处
- Redis的用法
- 使用Python示例代码与Redis进行简单的互动
- 使用Redis解决实际问题
Redis是一个远程内存数据库,它不仅性能强劲,而且还具有复制特性以及为解决问题而生的独一无二的数据模型。Redis提供了5种不同类型的数 据结构,各式各样的问题都可以很自然地映射到这些数据结构上:Redis的数据结构致力于帮助用户解决问题,而不会像其他数据库那样,要求用户扭曲问题来 适应数据库。除此之外,通过复制、持久化(persistence)和客户端分片(client-side sharding)等特性,用户可以很方便地将Redis扩展成一个能够包含数百GB数据、每秒处理上百万次请求的系统。
笔者第一次使用Redis是在一家公司里面,这家公司需要对一个保存了6万个客户联系方式的关系数据库进行搜索,搜索可以根据名字、邮件地址、所在 地和电话号码来进行,每次搜索需要花费10~15秒的时间。在花了一周时间学习Redis的基础知识之后,我使用Redis重写了一个新的搜索引擎,然后 又花费了数周时间来仔细测试这个新系统,使它达到生产级别,最终这个新的搜索系统不仅可以根据名字、邮件地址、所在地和电话号码等信息来过滤和排序客户联 系方式,并且每次操作都可以在50毫秒之内完成,这比原来的搜索系统足足快了 200 倍。阅读本书可以让你学到很多小技巧、小窍门以及使用Redis解决某些常见问题的方法。
本章将介绍Redis的适用范围,以及在不同环境中使用Redis的方法(比如怎样跟不同的组件和编程语言进行通信等);而之后的章节则会展示各式各样的问题,以及使用Redis来解决这些问题的方法。
现在你已经知道我是怎样开始使用Redis的了,也知道了这本书大概要讲些什么内容了,是时候更详细地介绍一下Redis,并说明为什么应该使用Redis了。
安装Redis和Python 附录A介绍了快速安装Redis和Python的方法。
在其他编程语言里面使用Redis 本书只展示了使用Python语言编写的示例代码,使用Ruby、Java和JavaScript(Node.js)编写的示例代码可以在这里找到:https://github.com/josiahcarlson/redis-in-action。使用Spring框架的读者可以通过查看http://www.springsource.org/spring-data/redis来学习如何在Spring框架中使用Redis。
1.1 Redis简介
前面对于Redis数据库的描述只说出了一部分真相。Redis是一个速度非常快的非关系数据库(non-relational database),它可以存储键(key)与5种不同类型的值(value)之间的映射(mapping),可以将存储在内存的键值对数据持久化到硬 盘,可以使用复制特性来扩展读性能,还可以使用客户端分片1来扩展写性能,接下来的几节将分别介绍Redis的这几个特性。
1.1.1 Redis与其他数据库和软件的对比
如果你熟悉关系数据库,那么你肯定写过用来关联两个表的数据的SQL查询。而Redis则属于人们常说的NoSQL数据库或者非关系数据库:Redis不使用表,它的数据库也不会预定义或者强制去要求用户对Redis存储的不同数据进行关联。
高性能键值缓存服务器memcached也经常被拿来与Redis进行比较:这两者都可用于存储键值映射,彼此的性能也相差无几,但是Redis能 够自动以两种不同的方式将数据写入硬盘,并且Redis除了能存储普通的字符串键之外,还可以存储其他4种数据结构,而memcached只能存储普通的 字符串键。这些不同之处使得Redis可以用于解决更为广泛的问题,并且既可以用作主数据库(primary database)使用,又可以作为其他存储系统的辅助数据库(auxiliary database)使用。
本书的后续章节会分别介绍将Redis用作主存储(primary storage)和二级存储(secondary storage)时的用法和查询模式。一般来说,许多用户只会在Redis的性能或者功能是必要的情况下,才会将数据存储到Redis里面:如果程序对性 能的要求不高,又或者因为费用原因而没办法将大量数据存储到内存里面,那么用户可能会选择使用关系数据库,或者其他非关系数据库。在实际中,读者应该根据 自己的需求来决定是否使用Redis,并考虑是将Redis用作主存储还是辅助存储,以及如何通过复制、持久化和事务等手段保证数据的完整性。
表1-1展示了一部分在功能上与Redis有重叠的数据库服务器和缓存服务器,从这个表可以看出Redis与这些数据库及软件之间的区别。
表1-1 一些数据库和缓存服务器的特性与功能
名称 |
类型 |
数据存储选项 |
查询类型 |
附加功能 |
---|---|---|---|---|
Redis |
使用内存存储(in-memory)的非关系数据库 |
字符串、列表、集合、散列表、有序集合 |
每种数据类型都有自己的专属命令,另外还有批量操作(bulk operation)和不完全(partial)的事务支持 |
发布与订阅,主从复制(master/slave replication),持久化,脚本(存储过程,stored procedure) |
memcached |
使用内存存储的键值缓存 |
键值之间的映射 |
创建命令、读取命令、更新命令、删除命令以及其他几个命令 |
为提升性能而设的多线程服务器 |
MySQL |
关系数据库 |
每个数据库可以包含多个表,每个表可以包含多个行;可以处理多个表的视图(view);支持空间(spatial)和第三方扩展 |
SELECT 、 INSERT 、 UPDATE 、 DELETE 、函数、存储过程
|
支持ACID性质(需要使用InnoDB),主从复制和主主复制 (master/master replication) |
PostgreSQL |
关系数据库 |
每个数据库可以包含多个表,每个表可以包含多个行;可以处理多个表的视图;支持空间和第三方扩展;支持可定制类型 |
SELECT 、 INSERT 、 UPDATE 、 DELETE 、内置函数、自定义的存储过程
|
支持ACID性质,主从复制,由第三方支持的多主复制(multi-master replication) |
MongoDB |
使用硬盘存储(on-disk)的非关系文档存储 |
每个数据库可以包含多个表,每个表可以包含多个无schema(schema-less)的BSON文档 |
创建命令、读取命令、更新命令、删除命令、条件查询命令等 |
支持map-reduce操作,主从复制,分片,空间索引(spatial index) |
1.1.2 附加特性
在使用类似Redis这样的内存数据库时,一个首先要考虑的问题就是“当服务器被关闭时,服务器存储的数据将何去何从呢?”Redis拥有两种不同 形式的持久化方法,它们都可以用小而紧凑的格式将存储在内存中的数据写入硬盘:第一种持久化方法为时间点转储(point-in-time dump),转储操作既可以在“指定时间段内有指定数量的写操作执行”这一条件被满足时执行,又可以通过调用两条转储到硬盘(dump-to-disk) 命令中的任何一条来执行;第二种持久化方法将所有修改了数据库的命令都写入一个只追加(append-only)文件里面,用户可以根据数据的重要程度, 将只追加写入设置为从不同步(sync)、每秒同步一次或者每写入一个命令就同步一次。我们将在第4章中更加深入地讨论这些持久化选项。
另外,尽管Redis的性能很好,但受限于Redis的内存存储设计,有时候只使用一台Redis服务器可能没有办法处理所有请求。因此,为了扩展 Redis的读性能,并为Redis提供故障转移(failover)支持,Redis实现了主从复制特性:执行复制的从服务器会连接上主服务器,接收主 服务器发送的整个数据库的初始副本(copy);之后主服务器执行的写命令,都会被发送给所有连接着的从服务器去执行,从而实时地更新从服务器的数据集。 因为从服务器包含的数据会不断地进行更新,所以客户端可以向任意一个从服务器发送读请求,以此来避免对主服务器进行集中式的访问。我们将在第4章中更加深 入地讨论Redis从服务器。
1.1.3 使用Redis的理由
有memcached使用经验的读者可能知道,用户只能用APPEND
命令将数据添加到已有字符串的末尾。memcached的文档中声明,可以用APPEND
命 令来管理元素列表。这很好!用户可以将元素追加到一个字符串的末尾,并将那个字符串当作列表来使用。但随后如何删除这些元素呢?memcached采用的 办法是通过黑名单(blacklist)来隐藏列表里面的元素,从而避免对元素执行读取、更新、写入(包括在一次数据库查询之后执行的memcached 写入)等操作。相反地,Redis的LIST
和SET
允许用户直接添加或者删除元素。
使用Redis而不是memcached来解决问题,不仅可以让代码变得更简短、更易懂、更易维护,而且还可以使代码的运行速度更快(因为用户不需要通过读取数据库来更新数据)。除此之外,在其他许多情况下,Redis的效率和易用性也比关系数据库要好得多。
数据库的一个常见用法是存储长期的报告数据,并将这些报告数据用作固定时间范围内的聚合数据(aggregates)。收集聚合数据的常见做法是: 先将各个行插入一个报告表里面,之后再通过扫描这些行来收集聚合数据,并根据收集到的聚合数据来更新聚合表中已有的那些行。之所以使用插入行的方式来存 储,是因为对于大部分数据库来说,插入行操作的执行速度非常快(插入行只会在硬盘文件末尾进行写入)。不过,对表里面的行进行更新却是一个速度相当慢的操 作,因为这种更新除了会引起一次随机读(random read)之外,还可能会引起一次随机写(random write)。而在Redis里面,用户可以直接使用原子的(atomic)INCR
命令及其变种来计算聚合数据,并且因为Redis将数据存储在内存里面2,而且发送给Redis的命令请求并不需要经过典型的查询分析器(parser)或者查询优化器(optimizer)进行处理,所以对Redis存储的数据执行随机写的速度总是非常迅速的。
使用 Redis 而不是关系数据库或者其他硬盘存储数据库,可以避免写入不必要的临时数据,也免去了对临时数据进行扫描或者删除的麻烦,并最终改善程序的性能。虽然上面列举的都是一些简单的例子,但它们很好地证明了“工具会极大地改变人们解决问题的方式”这一点。
除了第6章提到的任务队列(task queue)之外,本书的大部分内容都致力于实时地解决问题。本书通过展示各种技术并提供可工作的代码来帮助读者消灭瓶颈、简化代码、收集数据、分发 (distribute)数据、构建实用程序(utility),并最终帮助读者更轻松地完成构建软件的任务。只要正确地使用书中介绍的技术,读者的软件 就可以扩展至令那些所谓的“Web扩展技术(web-sacle technology)”相形见绌的地步。
在了解了Redis是什么、它能做什么以及我们为什么要使用它之后,是时候来实际地使用一下它了。接下来的一节将对Redis提供的数据结构进行介绍,说明这些数据结构的作用,并展示操作这些数据结构的其中一部分命令。
1.2 Redis数据结构简介
正如之前的表1-1所示,Redis可以存储键与5种不同数据结构类型之间的映射,这5种数据结构类型分别为STRING
(字符串)、LIST
(列表)、SET
(集合)、HASH
(散列)和ZSET
(有序集合)。有一部分Redis命令对于这5种结构都是通用的,如DEL
、TYPE
、RENAME
等;但也有一部分Redis命令只能对特定的一种或者两种结构使用,第3章将对Redis提供的命令进行更深入的介绍。
大部分程序员应该都不会对Redis的STRING
、LIST
、HASH
这3种结构感到陌生,因为它们和很多编程语言内建的字符串、列表和散列等结构在实现和语义(semantics)方面都非常相似。有些编程语言还有集合数据结构,在实现和语义上类似于Redis的SET
。ZSET
在某种程度上是一种Redis特有的结构,但是当你熟悉了它之后,就会发现它也是一种非常有用的结构。表1-2对比了Redis提供的5种结构,说明了这些结构存储的值,并简单介绍了它们的语义。
表1-2 Redis提供的5种结构
结构类型 |
结构存储的值 |
结构的读写能力 |
---|---|---|
STRING
|
可以是字符串、整数或者浮点数 |
对整个字符串或者字符串的其中一部分执行操作;对整数和浮点数执行自增(increment)或者自减(decrement)操作 |
LIST
|
一个链表,链表上的每个节点都包含了一个字符串 |
从链表的两端推入或者弹出元素;根据偏移量对链表进行修剪(trim);读取单个或者多个元素;根据值查找或者移除元素 |
SET
|
包含字符串的无序收集器(unordered collection),并且被包含的每个字符串都是独一无二、各不相同的 |
添加、获取、移除单个元素;检查一个元素是否存在于集合中;计算交集、并集、差集;从集合里面随机获取元素 |
HASH
|
包含键值对的无序散列表 |
添加、获取、移除单个键值对;获取所有键值对 |
ZSET (有序集合)
|
字符串成员(member)与浮点数分值(score)之间的有序映射,元素的排列顺序由分值的大小决定 |
添加、获取、删除单个元素;根据分值范围(range)或者成员来获取元素 |
命令列表 本节在介绍每个数据类型的时候,都会在一个表格里面展示一小部分处理这些数据结构的命令,之后的第 3 章会展示一个更详细(但仍不完整)的命令列表,完整的 Redis 命令列表可以在http://redis.io/commands找到。
这一节将介绍如何表示Redis的这5种结构,并且还会介绍Redis命令的使用方法,从而为本书的后续内容打好基础。本书展示的所有示例代码都是 用Python写的,如果读者已经按照附录A里面描述的方法安装好了Redis,那么应该也已经安装好了Python,以及在Python里面使用 Redis所需的客户端库。只要读者在电脑里面安装了Redis、Python和redis-py库,就可以在阅读本书的同时,尝试执行书中展示的示例代 码了。
请安装Redis和Python 在阅读后续内容之前,请读者先按照附录A中介绍的方法安装Redis和Python。如果读者觉得附录A描述的安装方法过于复杂,那么这里有一个更简单的方法,但这个方法只能用于Debian系统(或者该系统的衍生系统):从http://redis.io/download下载Redis的压缩包,解压压缩包,执行make && sudo make install
,之后再执行sudo python -m easy_install redis hiredis
(hiredis是可选的,它是一个使用C语言编写的高性能Redis客户端)。
如果读者熟悉过程式编程语言或者面向对象编程语言,那么即使没有使用过Python,应该也可以看懂Python代码。另一方面,如果读者决定使用其他编程语言来操作Redis,那么就需要自己来将本书的Python代码翻译成正在使用的语言的代码。
使用其他语言编写的示例代码 尽管没有包含在书中,但本书展示的Python示例代码已经被翻译成了Ruby代码、Java代码和JavaScript代码,这些翻译代码可以在https://github.com/josiahcarlson/redis-in-action下载到。跟Python编写的示例代码一样,这些翻译代码也包含相应的注释,方便读者参考。
为了让示例代码尽可能地简单,本书会尽量避免使用Python的高级特性,并使用函数而不是类或者其他东西来执行Redis操作,以此来将焦点放在 使用Redis解决问题上面,而不必过多地关注Python的语法。本节将使用redis-cli控制台与Redis进行互动。首先,让我们来了解一下 Redis中最简单的结构:STRING
。
1.2.1 Redis中的字符串
Redis的STRING
和其他编程语言或者其他键值存储提供的字符串非常相似。本书在使用图片表示键和值的时候,通常会将键名(key name)和值的类型放在方框的顶部,并将值放在方框的里面。图1-1以键为hello
、值为world
的STRING
为例,分别标记了方框的各个部分。
图1-1 一个STRING
示例,键为hello
,值为world
STRING
拥有一些和其他键值存储相似的命令,比如GET
(获取值)、SET
(设置值)和DEL
(删除值)。如果读者已经按照附录A中给出的方法安装了Redis,那么可以根据代码清单1-1展示的例子,尝试使用redis-cli执行SET
、GET
和DEL
,表1-3描述了这3个命令的基本用法。
表1-3 字符串命令
命令 |
行为 |
---|---|
GET
|
获取存储在给定键中的值 |
SET
|
设置存储在给定键中的值 |
DEL
|
删除存储在给定键中的值(这个命令可以用于所有类型) |
代码清单1-1 SET
、GET
和DEL
的使用示例
使用 redis-cli 为了让读者在一开始就能便捷地与 Redis 进行交互,本章将使用redis-cli这个交互式客户端来介绍Redis命令。
除了能够GET
、SET
和DEL
字符串值之外,Redis还提供了一些可以对字符串的其中一部分内容进行读取和写入的命令,以及一些能对字符串存储的数值执行自增或者自减操作的命令。第3章将对这些命令进行介绍,但是在此之前,我们还有许多基础知识需要了解,下面来看一下Redis的列表及其功能。
1.2.2 Redis中的列表
Redis对链表(linked-list)结构的支持使得它在键值存储的世界中独树一帜。一个列表结构可以有序地存储多个字符串,和表示字符串时使用的方法一样,本节使用带有标签的方框来表示列表,并将列表包含的元素放在方框里面。图1-2展示了一个这样的示例。
图1-2 list-key
是一个包含3个元素的列表键,注意列表里面的元素是可以重复的
Redis列表可执行的操作和很多编程语言里面的列表操作非常相似:LPUSH
命令和RPUSH
命令分别用于将元素推入列表的左端(left end)和右端(right end);LPOP
命令和RPOP
命令分别用于从列表的左端和右端弹出元素;LINDEX
命令用于获取列表在给定位置上的一个元素;LRANGE
命令用于获取列表在给定范围上的所有元素。代码清单1-2展示了一些列表命令的使用示例,表1-4简单介绍了示例中用到的各个命令。
表1-4 列表命令
命令 |
行为 |
---|---|
RPUSH
|
将给定值推入列表的右端 |
LRANGE
|
获取列表在给定范围上的所有值 |
LINDEX
|
获取列表在给定位置上的单个元素 |
LPOP
|
从列表的左端弹出一个值,并返回被弹出的值 |
代码清单1-2 RPUSH
、LRANGE
、LINDEX
和LPOP
的使用示例
即使Redis的列表只支持以上提到的几个命令,它也已经可以用来解决很多问题了,但Redis并没有就此止步——除了上面提到的命令之 外,Redis列表还拥有从列表里面移除元素的命令、将元素插入列表中间的命令、将列表修剪至指定长度(相当于从列表的其中一端或者两端移除元素)的命 令,以及其他一些命令。第3章将介绍许多列表命令,但是在此之前,让我们先来了解一下Redis的集合。
1.2.3 Redis的集合
Redis 的集合和列表都可以存储多个字符串,它们之间的不同在于,列表可以存储多个相同的字符串,而集合则通过使用散列表来保证自己存储的每个字符串都是各不相同 的(这些散列表只有键,但没有与键相关联的值)。本书表示集合的方法和表示列表的方法基本相同,图1-3展示了一个包含3个元素的示例集合。
图1-3 set-key
是一个包含3个元素的集合键
因为Redis的集合使用无序(unordered)方式存储元素,所以用户不能像使用列表那样,将元素推入集合的某一端,或者从集合的某一端弹出元素。不过用户可以使用SADD
命令将元素添加到集合,或者使用SRAM
命令从集合里面移除元素。另外还可以通过SISMEMBER
命令快速地检查一个元素是否已经存在于集合中,或者使用SMEMBERS
命令获取集合包含的所有元素(如果集合包含的元素非常多,那么SMEMBERS
命令的执行速度可能会很慢,所以请谨慎地使用这个命令)。代码清单1-3展示了一些集合命令的使用示例,表1-5简单介绍了代码清单里面用到的各个命令。
代码清单1-3 SADD
、SMEMBERS
、SISMEMBER
和SREM
的使用示例
表1-5 集合命令
命令 |
行为 |
---|---|
SADD
|
将给定元素添加到集合 |
SMEMBERS
|
返回集合包含的所有元素 |
SISMEMBER
|
检查给定元素是否存在于集合中 |
SREM
|
如果给定的元素存在于集合中,那么移除这个元素 |
跟字符串和列表一样,集合除了基本的添加操作和移除操作之外,还支持很多其他操作,比如SINTER
、SUNION
、SDIFF``这
3个命令就可以分别执行常见的交集计算、并集计算和差集计算。第3章将对集合的相关命令进行更详细的介绍,另外第7章还会展示如何使用集合来解决多个问题。不过别心急,因为在Redis提供的5种数据结构中,还有两种我们尚未了解,让我们先来看看Redis的散列。
1.2.4 Redis的散列
Redis的散列可以存储多个键值对之间的映射。和字符串一样,散列存储的值既可以是字符串又可以是数字值,并且用户同样可以对散列存储的数字值执行自增操作或者自减操作。图1-4展示了一个包含两个键值对的散列。
图1-4 hash-key
是一个包含两个键值对的散列键
散列在很多方面就像是一个微缩版的Redis,不少字符串命令都有相应的散列版本。代码清单1-4展示了怎样对散列执行插入元素、获取元素和移除元素等操作,表1-6简单介绍了代码清单里面用到的各个命令。
代码清单1-4 HSET
、HGET
、HGETALL
和HDEL
的使用示例
表1-6 散列命令
命令 |
行为 |
---|---|
HSET
|
在散列里面关联起给定的键值对 |
HGET
|
获取指定散列键的值 |
HGETALL
|
获取散列包含的所有键值对 |
HDEL
|
如果给定键存在于散列里面,那么移除这个键 |
熟悉文档数据库的读者可以将Redis的散列看作是文档数据库里面的文档,而熟悉关系数据库的读者则可以将Redis的散列看作是关系数据库里面的行,因为散列、文档和行这三者都允许用户同时访问或者修改一个或多个域(field)。最后,让我们来了解一下Redis的5种数据结构中的最后一种:有序集合。
1.2.5 Redis的有序集合
有序集合和散列一样,都用于存储键值对:有序集合的键被称为成员(member),每个成员都是独一无二的;而有序集合的值则被称为分值(score),分值必须为浮点数。有序集合是Redis里面唯一一个既可以根据成员访问元素(这一点和散列一样),又可以根据分值以及分值的排列顺序来访问元素的结构。图1-5展示了一个包含两个元素的有序集合示例。
图1-5 zset-key
是一个包含两个元素的有序集合键
和Redis的其他结构一样,用户可以对有序集合执行添加、移除和获取等操作,代码清单1-5展示了这些操作的执行示例,表1-7简单介绍了代码清单里面用到的各个命令。
代码清单1-5 ZADD
、ZRANGE
、ZRANGEBYSCORE
和ZREM
的使用示例
表1-7 有序集合命令
命令 |
行为 |
---|---|
ZADD
|
将一个带有给定分值的成员添加到有序集合里面 |
ZRANGE
|
根据元素在有序排列中所处的位置,从有序集合里面获取多个元素 |
ZRANGEBYSCORE
|
获取有序集合在给定分值范围内的所有元素 |
ZREM
|
如果给定成员存在于有序集合,那么移除这个成员 |
现在读者应该已经知道有序集合是什么和它能干什么了,到目前为止,我们基本了解了Redis提供的5种结构。接下来的一节将展示如何通过结合散列的数据存储能力和有序集合内建的排序能力来解决一个常见的问题。
1.3 你好Redis
在对Redis提供的5种结构有了基本的了解之后,现在是时候来学习一下怎样使用这些结构来解决实际问题了。最近几年,越来越多的网站开始提供对网 页链接、文章或者问题进行投票的功能,其中包括图1-6展示的reddit以及图1-7展示的StackOverflow。这些网站会根据文章的发布时间 和文章获得的投票数量计算出一个评分,然后按照这个评分来决定如何排序和展示文章。本节将展示如何使用Redis来构建一个简单的文章投票网站的后端。
图1-6 Reddit是一个可以对文章进行投票的网站
图1-7 StackOverflow是一个可以对问题进行投票的网站
1.3.1 对文章进行投票
要构建一个文章投票网站,我们首先要做的就是为了这个网站设置一些数值和限制条件:如果一篇文章获得了至少200张支持票(up vote),那么网站就认为这篇文章是一篇有趣的文章;假如这个网站每天发布1000篇文章,而其中的50篇符合网站对有趣文章的要求,那么网站要做的就 是把这50篇文章放到文章列表前100位至少一天;另外,这个网站暂时不提供投反对票(down vote)的功能。
为了产生一个能够随着时间流逝而不断减少的评分,程序需要根据文章的发布时间和当前时间来计算文章的评分,具体的计算方法为:将文章得到的支持票数量乘以一个常数,然后加上文章的发布时间,得出的结果就是文章的评分。
我们使用从UTC时区1970年1月1日到现在为止经过的秒数来计算文章的评分,这个值通常被称为Unix时间。之所以选择使用 Unix时间,是因为在所有能够运行Redis的平台上面,使用编程语言获取这个值都是一件非常简单的事情。另外,计算评分时与支持票数量相乘的常量为 432,这个常量是通过将一天的秒数(86 400)除以文章展示一天所需的支持票数量(200)得出的:文章每获得一张支持票,程序就需要将文章的评分增加432分。
构建文章投票网站除了需要计算文章评分之外,还需要使用Redis结构存储网站上的各种信息。对于网站里的每篇文章,程序都使用一个散列来存储文章 的标题、指向文章的网址、发布文章的用户、文章的发布时间、文章得到的投票数量等信息,图1-8展示了一个使用散列来存储文章信息的例子。
图1-8 一个使用散列存储文章信息的例子
使用冒号作为分隔符 本书使用冒号(:
)来分隔名字的不同部分:比如图 1-8 里面的键名article:92617
就使用了冒号来分隔单词article
和文章的ID号92617
,以此来构建命名空间(namespace)。使用:
作为分隔符只是我的个人喜好,不过大部分Redis用户也都是这么做的,另外还有一些常见的分隔符,如句号(.
)、斜线(/
),有些人甚至还会使用管道符号(|
)。无论使用哪个符号来做分隔符,都要保持分隔符的一致性。同时,请读者注意观察和学习本书使用冒号创建嵌套命名空间的方法。
我们的文章投票网站将使用两个有序集合来有序地存储文章:第一个有序集合的成员为文章 ID,分值为文章的发布时间;第二个有序集合的成员同样为文章 ID,而分值则为文章的评分。通过这两个有序集合,网站既可以根据文章发布的先后顺序来展示文章,又可以根据文章评分的高低来展示文章,图1-9展示了这 两个有序集合的一个示例。
图1-9 两个有序集合分别记录了根据发布时间排序的文章和根据评分排序的文章
为了防止用户对同一篇文章进行多次投票,网站需要为每篇文章记录一个已投票用户名单。为此,程序将为每篇文章创建一个集合,并使用这个集合来存储所有已投票用户的ID,图1-10展示了一个这样的集合示例。
图1-10 为100408号文章投过票的一部分用户
为了尽量节约内存,我们规定当一篇文章发布期满一周之后,用户将不能再对它进行投票,文章的评分将被固定下来,而记录文章已投票用户名单的集合也会被删除。
在实现投票功能之前,让我们来看看图 1-11:这幅图展示了当115423号用户给100408号文章投票的时候,数据结构发生的变化。
图1-11 当115423号用户给100408号文章投票的时候,数据结构发生的变化
既然我们已经知道了网站计算文章评分的方法,也知道了网站存储数据所需的数据结构,那么现在是时候实际地实现这个投票功能了!当用户尝试对一篇文章进行投票时,程序需要使用ZSCORE
命令检查记录文章发布时间的有序集合,判断文章的发布时间是否未超过一周。如果文章仍然处于可以投票的时间范围之内,那么程序将使用SADD
命令,尝试将用户添加到记录文章已投票用户名单的集合里面。如果添加操作执行成功的话,那么说明用户是第一次对这篇文章进行投票,程序将使用ZINCRBY
命令为文章的评分增加432分(ZINCRBY``命令
用于对有序集合成员的分值执行自增操作),并使用HINCRBY
命令对散列记录的文章投票数量进行更新(HINCRBY``命令
用于对散列存储的值执行自增操作),代码清单1-6展示了投票功能的实现代码。
代码清单1-6 article_vote()
函数
Redis事务 从技术上来讲,要正确地实现投票功能,我们需要将代码清单1-6里面的SADD
、ZINCRBY
和HINCRBY
这3个命令放到一个事务里面执行,不过因为本书要等到第4章才介绍Redis事务,所以我们暂时忽略这个问题。
这个投票功能还是很不错的,对吧?那么发布文章的功能要怎么实现呢?
1.3.2 发布并获取文章
发布一篇新文章首先需要创建一个新的文章ID,这项工作可以通过对一个计数器(counter)执行INCR
命令来完成。接着程序需要使用SADD
将文章发布者的ID添加到记录文章已投票用户名单的集合里面,并使用EXPIRE
命令为这个集合设置一个过期时间,让Redis在文章发布期满一周之后自动删除这个集合。之后,程序会使用HMSET
命令来存储文章的相关信息,并执行两个ZADD
命令,将文章的初始评分(initial score)和发布时间分别添加到两个相应的有序集合里面。代码清单1-7展示了发布新文章功能的实现代码。
代码清单1-7 post_article()
函数
好了,我们已经陆续实现了文章投票功能和文章发布功能,接下来要考虑的就是如何取出评分最高的文章以及如何取出最新发布的文章了。为了实现这两个功能,程序需要先使用ZREVRANGE
命令取出多个文章ID,然后再对每个文章ID执行一次HGETALL
命令来取出文章的详细信息,这个方法既可以用于取出评分最高的文章,又可以用于取出最新发布的文章。这里特别要注意的一点是,因为有序集合会根据成员的分值从小到大地排列元素,所以使用ZREVRANGE
命令,以“分值从大到小”的排列顺序取出文章ID才是正确的做法,代码清单1-8展示了文章获取功能的实现函数。
代码清单1-8 get_articles()
函数
Python的默认值参数和关键字参数 代码清单1-8中的get_articles()
函数为order
参数设置了默认值score:
。 Python语言的初学者可能会对“默认值参数”以及“根据名字(而不是位置)来传入参数”的一些细节感到陌生。如果读者在理解函数定义或者参数传递方面 有困难,可以考虑去看看《Python语言教程》,教程里面对这两个方面进行了很好的介绍,点击以下短链接就可以直接访问教程的相关章节:http://mng.bz/KM5x。
虽然我们构建的网站现在已经可以展示最新发布的文章和评分最高的文章了,但它还不具备目前很多投票网站都支持的群组(group)功能:这个功能可 以让用户只看见与特定话题有关的文章,比如与“可爱的动物”有关的文章、与“政治”有关的文章、与“Java编程”有关的文章或者介绍“Redis用法” 的文章等等。接下来的一节将向我们展示为文章投票网站添加群组功能的方法。
1.3.3 对文章进行分组
群组功能由两个部分组成,一个部分负责记录文章属于哪个群组,另一个部分负责取出群组里面的文章。为了记录各个群组都保存了哪些文章,网站需要为每 个群组创建一个集合,并将所有同属一个群组的文章ID都记录到那个集合里面。代码清单1-9展示了将文章添加到群组里面的方法,以及从群组里面移除文章的 方法。
代码清单1-9 add_remove_groups()
函数
初看上去,可能会有读者觉得使用集合来记录群组文章并没有多大用处。到目前为止,读者只看到了集合结构检查某个元素是否存在的能力,但实际上Redis不仅可以对多个集合执行操作,甚至在一些情况下,还可以在集合和有序集合之间执行操作。
为了能够根据评分对群组文章进行排序和分页(paging),网站需要将同一个群组里面的所有文章都按照评分有序地存储到一个有序集合里面。Redis的ZINTERSTORE
命令可以接受多个集合和多个有序集合作为输入,找出所有同时存在于集合和有序集合的成员,并以几种不同的方式来组合(combine)这些成员的分值(所有集合成员的分值都会被视为是1)。对于我们的文章投票网站来说,程序需要使用ZINTERSTORE
命令选出相同成员中最大的那个分值来作为交集成员的分值:取决于所使用的排序选项,这些分值既可以是文章的评分,也可以是文章的发布时间。
图 1-12 展示了对一个包含少量文章的群组集合和一个包含大量文章及评分的有序集合执行ZINTERSTORE
命令的过程,注意观察那些同时出现在集合和有序集合里面的文章是怎样被添加到结果有序集合里面的。
图1-12 对集合groups:programming
和有序集合score:
进行交集计算得出了新的有序集合score:programming
,它包含了所有同时存在于集合groups:programming
和有序集合score:
的成员。因为集合groups:programming
的所有成员的分值都被视为是1
,而有序集合score:
的所有成员的分值都大于1
,并且这次交集计算挑选的分值为相同成员中的最大分值,所以有序集合score:programming
的成员的分值实际上是由有序集合score:
的成员的分值来决定的
通过对存储群组文章的集合和存储文章评分的有序集合执行ZINTERSTORE
命令,程序可以得到按照文章评分排序的群组文章;而通过对存储群组文章的集合和存储文章发布时间的有序集合执行ZINTERSTORE
命令,程序则可以得到按照文章发布时间排序的群组文章。如果群组包含的文章非常多,那么执行ZINTERSTORE
命令就会比较花时间,为了尽量减少Redis的工作量,程序会将这个命令的计算结果缓存60秒。另外,我们还重用了已有的get_articles()
函数来分页并获取群组文章,代码清单1-10展示了网站从群组里面获取一整页文章的方法。
代码清单1-10 get_group_articles()
函数
有些网站只允许用户将文章放在一个或者两个群组里面(其中一个是“所有文章”群组,另一个是最适合文章的群组)。在这种情况下,最好直接将文章所在的群组记录到存储文章信息的散列里面,并在article_vote()
函数的末尾增加一个ZINCRBY
命 令调用,用于更新文章在群组中的评分。但是在这个示例里面,我们构建的文章投票网站允许一篇文章同时属于多个群组(比如一篇文章可以同时属于“编程”和 “算法”两个群组),所以对于一篇同时属于多个群组的文章来说,更新文章的评分意味着程序需要对文章所属的全部群组执行自增操作。在这种情况下,如果一篇 文章同时属于很多个群组,那么更新文章评分这一操作可能会变得相当耗时,因此,我们在get_group_articles()
函数里面对ZINTERSTORE
命令的执行结果进行了缓存处理,以此来尽量减少ZINTERSTORE
命令的执行次数。开发者在灵活性或限制条件之间的取舍将改变程序存储和更新数据的方式,这一点对于任何数据库都是适用的,Redis也不例外。
练习:实现投反对票的功能
我们的示例目前只实现了投支持票的功能,但是在很多实际的网站里面,反对票也能给用户提供有用的反馈信息。因此,请读者能想办法在
article_vote()
函数和post_article()
函数里面添加投反对票的功能。除此之外,读者还可以尝试为用户提供对调投票的功能:比如将支持票转换成反对票,或者将反对票转换成支持票。提示:如果读者在实现对调投票功能时出现了困难,可以参考一下第3章介绍的SMOVE
命令。
好的,现在我们已经成功地构建起了一个展示最受欢迎文章的网站后端,这个网站可以获取文章、发布文章、对文章进行投票甚至还可以对文章进行分组。如 果你觉得前面展示的内容不好理解,或者弄不懂这些示例,又或者没办法运行本书提供的源代码,那么请阅读下一节来了解如何获取帮助。
1.4 寻求帮助
当你遇到与Redis有关的问题时,不要害怕求助于别人,因为其他人可能也遇到过类似的问题。首先,你可以根据错误信息在搜索引擎里面进行查找,看是否有所发现。
如果搜索一无所获,又或者你遇到的问题与本书的示例代码有关,那么你可以到Manning出版社提供的论坛里面发问(http://www.manning-sandbox.com/forum.jspa?forumID=809),我和其他熟悉本书的人将为你提供帮助。
如果你遇到的问题与Redis本身有关,又或者你正在解决的问题在这本书里面没有出现过,那么你可以到Redis的邮件列表里面发问(https://groups.google.com/d/forum/redis-db/),同样地,我和其他熟悉Redis的人将为你提供帮助。
最后,如果你遇到的问题与某个函数库或者某种编程语言有关,那么比起在Redis邮件列表里面发帖提问,更好的方法是直接到你正在使用的那个函数库或者那种编程语言的邮件列表或论坛里面寻求帮助。
1.5 小结
本章对Redis进行了初步的介绍,说明了Redis与其他数据库的相同之处和不同之处,以及一些读者可能会使用Redis的理由。在阅读本书的后 续章节之前,请记住本书的目标并不是构建一个完整的应用或者工具,而是展示各式各样的问题,并给出使用Redis来解决这些问题的办法。
本章希望向读者传达这样一个概念:Redis是一个可以用来解决问题的工具,它既拥有其他数据库不具备的数据结构,又拥有内存存储(这使得 Redis的速度非常快)、远程(这使得Redis可以与多个客户端和服务器进行连接)、持久化(这使得服务器可以在重启之后仍然保持重启之前的数据)和 可扩展(通过主从复制和分片)等多个特性,这使得用户可以以熟悉的方式为各种不同的问题构建解决方案。
在阅读本书的后续章节时,请读者注意自己解决问题的方式发生了什么变化:你也许会惊讶地发现,自己思考数据问题的方式已经从原来的“怎样将我的想法塞进数据库的表和行里面”,变成了“使用哪种Redis数据结构来解决这个问题比较好呢?”。
来源:http://www.epubit.com.cn/article/200