Beanstalkd使用

  Beanstalkd,一个高性能、轻量级的分布式内存队列系统,最初设计的目的是想通过后台异步执行耗时的任务来降低高容量Web应用系统的页面访问延迟,支持过有9.5 million用户的Facebook Causes应用。后来开源,现在有PostRank大规模部署和使用,每天处理百万级任务。Beanstalkd是典型的类Memcached设计,协议和使用方式都是同样的风格,所以使用过memcached的用户会觉得Beanstalkd似曾相识。

Beanstalkd设计里面的核心概念:

◆ job

一个需要异步处理的任务,是Beanstalkd中的基本单元,需要放在一个tube中。

◆ tube

一个有名的任务队列,用来存储统一类型的job,是producer和consumer操作的对象。

◆ producer

Job的生产者,通过put命令来将一个job放到一个tube中。

◆ consumer

Job的消费者,通过reserve/release/bury/delete命令来获取job或改变job的状态。

Beanstalkd中一个job的生命周期如图所示。一个job有READY, RESERVED, DELAYED, BURIED四种状态。当producer直接put一个job时,job就处于READY状态,等待consumer来处理,如果选择延迟put,job就先到DELAYED状态,等待时间过后才迁移到READY状态。consumer获取了当前READY的job后,该job的状态就迁移到RESERVED,这样其他的consumer就不能再操作该job。当consumer完成该job后,可以选择delete, release或者bury操作;delete之后,job从系统消亡,之后不能再获取;release操作可以重新把该job状态迁移回READY(也可以延迟该状态迁移操作),使其他的consumer可以继续获取和执行该job;有意思的是bury操作,可以把该job休眠,等到需要的时候,再将休眠的job kick回READY状态,也可以delete BURIED状态的job。正是有这些有趣的操作和状态,才可以基于此做出很多意思的应用,比如要实现一个循环队列,就可以将RESERVED状态的job休眠掉,等没有READY状态的job时再将BURIED状态的job一次性kick回READY状态。

特性:

◆ 优先级

支持0到2**32的优先级,值越小,优先级越高,默认优先级为1024。

◆ 持久化

可以通过binlog将job及其状态记录到文件里面,在Beanstalkd下次启动时可以通过读取binlog来恢复之前的job及状态。

◆ 分布式容错

分布式设计和Memcached类似,beanstalkd各个server之间并不知道彼此的存在,都是通过client来实现分布式以及根据tube名称去特定server获取job。

◆ 超时控制

为了防止某个consumer长时间占用任务但不能处理的情况,Beanstalkd为reserve操作设置了timeout时间,如果该consumer不能在指定时间内完成job,job将被迁移回READY状态,供其他consumer执行。

下载:

服务端:http://kr.github.io/beanstalkd/download.html

客户端:https://github.com/kr/beanstalkd/wiki/client-libraries

安装:

ubuntu

sudo apt-get install beanstalkd

centos

yum install beanstalkd

源码安装

?


1

2

3

4

5

tar -zxvf /usr/bin/beanstalkd/beanstalkd-1.9.tar.gz

cd beanstalkd

make install PERFIX=/usr/bin/beanstalkd

后台启动:

beanstalkd -l 地址 -p 端口号 -z 最大的任务大小(byte) -c &

如果是外部客户端连接,ip地址要写外网地址,这样才能连接上

启动选项

-b DIR   wal directory

-f MS    fsync at most once every MS milliseconds (use -f0 for "always fsync")
 -F       never fsync (default)
 -l ADDR  listen on address (default is 0.0.0.0)
 -p PORT  listen on port (default is 11300)
 -u USER  become user and group
 -z BYTES set the maximum job size in bytes (default is 65535)
 -s BYTES set the size of each wal file (default is 10485760)
            (will be rounded up to a multiple of 512 bytes)
 -c       compact the binlog (default)
 -n       do not compact the binlog
 -v       show version information
 -V       increase verbosity
 -h       show this help

php客户端的使用:我使用的是这个简易的类 https://github.com/davidpersson/beanstalk

发送任务:

<?php
//发送任务

require_once ‘src/Socket/Beanstalk.php‘;

//实例化beanstalk
$beanstalk = new Socket_Beanstalk(array(
    ‘persistent‘ => false, //是否长连接
    ‘host‘ => ‘ip地址‘,
    ‘port‘ => 11600,  //端口号默认11300
    ‘timeout‘ => 3    //连接超时时间
));

if (!$beanstalk->connect()) {
    exit(current($beanstalk->errors()));
}
//选择使用的tube
$beanstalk->useTube(‘test‘);
//往tube中增加数据
$put = $beanstalk->put(
    23, // 任务的优先级.
    0,  // 不等待直接放到ready队列中.
    60, // 处理任务的时间.
    ‘hello, beanstalk‘ // 任务内容
);

if (!$put) {
    exit(‘commit job fail‘);
}

$beanstalk->disconnect();

处理任务:

<?php
require_once ‘src/Socket/Beanstalk.php‘;
//实例化beanstalk
$beanstalk = new Socket_Beanstalk(array(
    ‘persistent‘ => false, //是否长连接
    ‘host‘ => ‘ip地址‘,
    ‘port‘ => 11600,  //端口号默认11300
    ‘timeout‘ => 3    //连接超时时间
));

if (!$beanstalk->connect()) {
    exit(current($beanstalk->errors()));
}
//查看beanstalkd状态
//var_dump($beanstalk->stats());

//查看有多少个tube
//var_dump($beanstalk->listTubes());

$beanstalk->useTube(‘test‘);

//设置要监听的tube
$beanstalk->watch(‘test‘);

//取消对默认tube的监听,可以省略
$beanstalk->ignore(‘default‘);

//查看监听的tube列表
//var_dump($beanstalk->listTubesWatched());

//查看test的tube当前的状态
//var_dump($beanstalk->statsTube(‘test‘));

while (true) {
    //获取任务,此为阻塞获取,直到获取有用的任务为止
    $job = $beanstalk->reserve(); //返回格式array(‘id‘ => 123, ‘body‘ => ‘hello, beanstalk‘)

    //处理任务
    $result = doJob($job[‘body‘]);

    if ($result) {
        //删除任务
        $beanstalk->delete($job[‘id‘]);
    } else {
        //休眠任务
        $beanstalk->bury($job[‘id‘]);
    }
    //跳出无限循环
    if (file_exists(‘shutdown‘)) {
        file_put_contents(‘shutdown‘, ‘beanstalkd在‘.date(‘Y-m-d H:i:s‘).‘关闭‘);
        break;
    }
}
$beanstalk->disconnect();

除此之外:http://blog.csdn.net/black_ox/article/details/24792489

时间: 2024-08-09 23:59:43

Beanstalkd使用的相关文章

linux install beanstalkd

you can instal it via git and then copy systemd script: Step 0. Install git yum install git Step 1. Clone repository git clone git://github.com/kr/beanstalkd.git cd beanstalkd make cp beanstalkd /usr/bin/beanstalkd mkdir /var/lib/beanstalkd Step 2. M

使用beanstalkd实现定制化持续集成过程中pipeline - 持续集成系列

持续集成是一种项目管理和流程模型,依赖于团队中各个角色的配合.各个角色的意识和配合不是一朝一夕能练就的,我们的工作只是提供一种方案和能力,这就是持续集成能力的服务化.而在做持续集成能力服务化的过程中,最核心的一点就是,如何实现一个可定制化的任务流,即所谓的pipeline. 在传统的持续集成工具实现了pipeline功能,以供串联上下游job,并把多个job联系成一次完整的构建,例如jenkins的pipeline插件. 但是各种持续集成工具,或多或少都有自己的短板,总结起来如下: 1.配置并不

beanstalkd任务队列 linux平台安装测试

beanstalkd官网:http://kr.github.io/beanstalkd/ client-libraries https://github.com/kr/beanstalkd/wiki/client-libraries 1,安装 beanstalkd sudo apt-get install beanstalkd 启动:[email protected]:~$ sudo /etc/init.d/beanstalkd start 关停:[email protected]:~$ sud

Beanstalkd的使用(Golang)

最近需要引入一种新的消息队列,这个队列最好有专业.简单.消息不丢失等特性,但又不会引入过多的复杂性, 特别是在目前单枪匹马的情况下.然后发现Beanstalkd看起来是我所需要的. Beanstalkd 支持任务优先级 (priority), 延时 (delay), 超时重发 (time-to-run) 和预留 (buried), 同时支持binlog保证消息在挂掉后不会丢.最后速度还可以. 看了下源码,c语言代码量小而清晰.作者从07年维护到14年,Star也很高,质量应当是有保障的. 队列作

安装beanstalkd - centos

安装: wget https://github.com/kr/beanstalkd/archive/v1.9.tar.gz mv v1.9 beanstalkd_v1.9 mv beanstalkd_v1.9 beanstalkd_v1.9.tar.gz tar -zxvf beanstalkd_v1.9.tar.gz cd beanstalkd-1.9/ mkdir /usr/local/beanstalkd make install PERFIX=/usr/local/beanstalkd

Beanstalkd一个高性能分布式内存队列系统

流行的队列框架大致有:Memcacheq,Fqueue, RabbitMQ, Beanstalkd以及linkedin的kafka.RabbitMQ使用比较广泛,Beanstalkd是后起之秀.Beanstalkd之于RabbitMQ,就好比Nginx之于Apache,Varnish之于Squid.后面在项目中使用Beanstalkd的过程中,更发现其简单.轻量级.高性能.易使用等特点,以及优先级.多队列.持久化.分布式容错.超时控制等特性.下面简单介绍一下Beanstalkd. 设计思想 高性

C# Beanstalkd Client

http://bestmike007.com/Beanstalkd.Client/ Other Message Queue http://queues.io

消息队列_Beanstalkd-0001.Beanstalkd之轻量级分布式内存队列部署?

简单介绍: 说明: Beantalkd是一个高性能,轻量级的分布式消息队列,最初设计目的是想通过后台异步执行耗时任务降低WEB应用页面访问延迟,支持过1000万用户的应用,被豆瓣内部广泛使用. 几大特性: 1. 支持持久化,默认使用内存,但可启动时-b指定持久化目录,将任务写入Binlog,以相同参数启动会自动恢复Binlog中内容 2. 支持优先级0~2^32,任务优先级越小表示优先级越高,默认优先级为1024 3. 支持超时重发,预设过期时间或TTR时间内如果没有发送delete/relea

beanstalkd

安装: You need to have the EPEL repo (http://www.servermom.org/2-cents-tip-how-to-enable-epel-repo-on-centos-6-and-5/894/) yum install beanstalkd chkconfig beanstalkd on service beanstalkd start service beanstalkd status by default beanstalkd is open f