Celery 和 Redis 入门

Reference:  http://www.thinksaas.cn/group/topic/395734/

Celery是一个广泛应用于网络应用程序的任务处理系统。

它可以在以下情况下使用:

在请求响应周期中做网络调用。服务器应当立即响应任何网络请求。如果在请求响应周期内需要进行网络调用,则应在周期外完成调用。例如当用户在网站上注册时,需要发送激活邮件。发送邮件是一种网络调用,耗时2到3秒。用户应该无需等待这2到3秒。因此,发送激活邮件应当在请求响应周期外完成,celery 就能实现这一点。

将一个由几个独立部分组成的大任务分成多个小任务。假设你想知道脸书用户的时间流。脸书提供不同的端点来获取不同的数据。譬如,一个端点用以获取用户时间流中的图片,一个端点获取用户时间流中的博文,一个端点得到用户的点赞信息等。如果你的函数需要和脸书的5个端点依此通信,每个网络调用平均耗时2秒,你将需要10秒完成一次函数执行。但是,你可以把这项工作分为5个独立的任务(你很快就会发现这很容易做到),并让 celery 来处理这些任务。Celery 可以并行地与这5个端点通信,在2秒之内就能得到所有端点的响应。

简单的 celery 例子

假设我们有一个函数,并传给它一个网址列表。该函数需要获取这些网址的响应。

没有使用 celery

创建文件celery_blog.py

import requests
import time

def func(urls):
 start = time.time()
 for url in urls:
 resp = requests.get(url)
 print resp.status_code
 print"It took", time.time() - start,"seconds"

if __name__ =="__main__":
 func(["http://oneapm.com","http://jd.com","https://taobao.com","http://baidu.com","http://news.oneapm.com"])

运行:

python celery_blog.py

输出: 

使用 celery

调用 celery 的程序中最重要的组成部分为 celery worker。

在 web 应用程序注册的例子中,celery worker 用于发送邮件。

在脸书的例子中, celery worker 用于获取不同的网址。

在我们的celery_blog.py 例子中, celery worker 用于获取 URL。 celery worker 和你的应用程序/脚本是不同的进程,彼此独立运行。所以你的应用程序/脚本和 celery 需要一些方法来相互沟通。

应用程序代码需要把任务放在 celery worker 可以取出并执行的位置。譬如,应用程序代码将任务放在消息队列中,celery worker 从消息队列领取任务并执行任务。我们将使用 Redis 作为消息队列。

请确认你已安装 Redis,并可以运行redis-server

请确认你已安装 celery。

修改文件celery_blog.py,如下:

from celery import Celery

app = Celery(‘celery_blog‘,broker=‘redis://localhost:6379/1‘)

@app.task
def fetch_url(url):
 resp = requests.get(url)
 print resp.status_code

def func(urls):
 for url in urls:
fetch_url.delay(url)

if __name__ =="__main__":
 func(["http://oneapm.com","http://jd.com","https://taobao.com","http://baidu.com","http://news.oneapm.com"])

代码解释:我们需要一个 celery 实例来启动程序,因此创建了一个名为 app 的 celery 实例。

在3个终端中启动:

第一个终端,运行redis-server

第二个终端,运行celery worker -A celery_blog -l info -c 5 ,通过输出可以看到 celery 成功运行。

第三个终端,运行脚本python celery_blog.py

可以看到第二个终端输出如下:

将 celery 代码和配置保存在不同文件中

上面的例子中,我们只写了一个 celery 任务。但您的项目可能涉及多个模块,您可能希望在不同的模块中有不同的任务。所以让我们将 celery 配置移到单独的文件中。

创建celery_config.py

from celery import Celery

app = Celery(‘celery_config‘, broker=‘redis://localhost:6379/0‘, include=[‘celery_blog‘])

修改celery_blog.py代码如下:

import requests
from celery_config import app

@app.task
def fetch_url(url):
 resp = requests.get(url)
 print resp.status_code

def func(urls):
 for url in urls:
fetch_url.delay(url)

if __name__ =="__main__":
 func(["http://oneapm.com","http://jd.com","https://taobao.com","http://baidu.com","http://news.oneapm.com"])

停掉之前的celery worker,运行:

celery worker -A celery_config -l info -c 5

打开 ipython ,运行如下命令:

In [1]: from celery_blog import func
In [2]: func(["http://oneapm.com","http://jd.com","https://taobao.com","http://baidu.com","http://news.oneapm.com"])

输出如下:

在不同文件中添加新的任务

您可以添加新的模块,并在该模块中定义一个任务。用以下内容创建一个模块celery_add.py

from celery_config import app

@app.task
def add(a, b):
 return a + b

改变celery_config.py包含新的模块celery_add.py,如下:

from celery import Celery

app = Celery(‘celery_config‘, broker=‘redis://localhost:6379/0‘, include=[‘celery_blog‘, ‘celery_add‘])

在 ipython 输入:

In [1]: from celery_add import add
In [2]: add.delay(4, 5)

输出如下:

在不同的机器上分开使用 Redis 和 celery

到目前为止,我们的脚本、celery worker 和 Redis 都运行在同一机器中。其实并无这种必要,这三者可以运行在不同机器上。

celery 任务涉及到网络请求,因此,在网络优化的机器上使用 celery worker 能提高任务运行速度。Redis 是一种内存数据库,在内存优化的机器上运行效率更高。

在这个例子中,我将在本地系统运行脚本和 celery worker,在分开的服务器上运行 Redis。

修改celery_config.py为:

app = Celery(‘celery_config‘, broker=‘redis://192.168.118.148:6379/0‘, include=[‘celery_blog‘])

现在我运行任何任务,脚本都将把他放在 Redis 运行的服务器(192.168.118.148)上面。

celery worker 也与 192.168.118.148 沟通,在这个 Redis 服务器上得到任务并执行它。

注意:您必须使用正在运行 redis-server 的服务器地址。我的服务器已停止Redis,所以你将无法连接到 Redis。

参考文章:Getting started with Celery and Redis

时间: 2024-10-12 12:08:59

Celery 和 Redis 入门的相关文章

Python celery和Redis入门安装使用(排难帖)

1.redis安装 下载地址 https://github.com/MicrosoftArchive/redis/releases,选择Redis-x64-3.2.100.msi5.8 MB下载就好了 参考http://www.cnblogs.com/jaign/articles/7920588.html,图文并茂,很详细了.不过密码设置那里可以不用. 不然可能会导致celery连接异常: consumer canot connect to redis 1.要安装Redis,首先要获取安装包.W

Redis入门指南

随着互联网业务对性能需求日益强烈,作为Key/Value存储的Redis具有数据类型丰富和性能表现优异的特点.如果能够熟练地驾驭它,不管是把它用做缓存还是存储,对很多大型应用都很多帮助.新浪作为世界上最大的Redis使用者,体会到了Redis为高并发在线业务带来的好处,但同时也遇到了很多挑战,新浪为推动Redis这种NoSQL产品在中国互联网产品技术架构中的使用做出了卓越的贡献.作为国内第一本推进Redis普及的书,此书比较详细地介绍了Redis入门必备的基础知识,同时拥有了一些实践性方面的章节

Redis入门 – Jedis存储Java对象 - (Java序列化为byte数组方式)

Redis入门 – Jedis存储Java对象 - (Java序列化为byte数组方式) 原文地址:http://alanland.iteye.com/admin/blogs/1600685(欢迎转载 - 转载请保留该原文链接) 07/19/12 03:08:05 PM 在Jedis开发中,我们很多时候希望直接把一个对象放到Redis中,然后在需要的时候取出来.Redis的key和value都支持二进制安全的字符串,存储Java对象不是问题,下面我们看一下如何来实现. 1要存储的对象 现在写一个

Redis入门很简单之七【使用Jedis实现客户端Sharding】

Redis入门很简单之七[使用Jedis实现客户端Sharding] 博客分类: NoSQL/Redis/MongoDB redisjedisspringsharding分片 <一>. 背景介绍: 1. sharding机制:即通常所说的"分片",允许数据存放在不同的物理机器上,  以适应数据量过大的场景,克服单台机器内存或者磁盘空间的限制.而这种"离散式"地存放,对客户端来说是透明的,对客户端来讲,完全看不到这种差别. 2. 常见的内存缓存中间件,比如

Redis入门很简单之四【初识Jedis】

Redis入门很简单之四[初识Jedis] 博客分类: NoSQL/Redis/MongoDB redisnosql缓存jedis 使用Jedis提供的Java API对Redis进行操作,是Redis官方推崇的方式:并且,使用Jedis提供的对Redis的支持也最为灵活.全面:不足之处,就是编码复杂度较高. [一]. 入门使用: 下载Jedis的依赖包jedis-2.1.0.jar,然后将其添加到classpath下面.然后,即可进行编程:  1. 定义连接:Redis暂时不要设置登录密码 J

Redis入门很简单之五【Jedis和Spring的整合】

Redis入门很简单之五[Jedis和Spring的整合] 博客分类: NoSQL/Redis/MongoDB redisnosql缓存jedisspring 在上一篇文章中,简单介绍了Jedis的连接池使用方式. 如果和Spring进行整合的话,我们将获得更好的简洁性.灵活性,显然是一种更加优雅(graceful)的方式. [一]. 搭建环境: 1. 在之前版本的基础之上,添加如下的依赖:   spring.jar   commons-logging.jar   log4j-1.2.15.ja

Redis入门很简单之二【常见操作命令】

Redis入门很简单之二[常见操作命令] 博客分类: NoSQL/Redis/MongoDB redisnosql缓存 Redis提供了丰富的命令,允许我们连接客户端对其进行直接操作.这里简单介绍一下作为常用的一些命令,包括对字符串.列表.集合.有序集合.哈希表的操作,以及一些其他常用命令. [ 基本操作] 1. 添加记录:通常用于设置字符串(string)类型,或者整数类型:如果key已经存在,则覆盖其对应的值. Shell代码   set name James 2. 获取记录:通过键获取值.

Redis入门很简单之六【Jedis常见操作】

Redis入门很简单之六[Jedis常见操作] 博客分类: NoSQL/Redis/MongoDB redisjedisnosql缓存教程 之前介绍了Jedis的基本操作,连接池的支持,以及和Spring的整合.接下来的内容,继续Jedis的最为常见的操作.主要包括常用的列表(list).集合(set).有序集合(sorted set).哈希表(hash)等数据结构,以及其他特性支持. <一>. 使用list: 可以使用列表模拟队列(queue).堆栈(stack),并且支持双向的操作(L或者

redis入门笔记(1)

redis入门笔记(1) 1. Redis 简介 •Redis是一款开源的.高性能的键-值存储(key-value store).它常被称作是一款数据结构服务器(data structure server).Redis的键值可以包括字符串(strings)类型,同时它还包括哈希(hashes).列表(lists).集合(sets)和 有序集合(sorted sets)等数据类型. 对于这些数据类型,你可以执行原子操作.例如:对字符串进行附加操作(append):递增哈希中的值:向列表中增加元素: