php使用gearman进行任务分发

一、安装gearman

下载gearman源码包

https://launchpad.net/gearmand/+download

如: gearmand-1.1.12.tar.gz

下载php的gearman扩展包

http://pecl.php.net/package/gearman

如: gearman-1.1.2.tgz

安装gearman

> yum install boost-devel gperf libevent-devel libuuid-devel
> tar xf gearmand-1.1.12.tar.gz
> cd gearmand-1.1.12
> ./configure
> make && make install

安装gearman的php扩展(建议php版本不要过高,因为php7的gearman扩展目前还没有出来)

> yum install autoconf
> tar xf gearman-1.1.2.tgz
> cd gearman-1.1.2
> /data/php56/bin/phpize
> ./configure --with-php-config=/data/php56/bin/php-config
> make && make install

修改php.ini

> vi /data/php56/lib/php.ini

添加如下两项

extension_dir=/data/php56/lib/php/extensions/no-debug-zts-20131226/
extension=gearman.so

查看扩展

> /data/php56/bin/php -m

  

二、简单的使用gearman

gearman中请求的处理过程一般涉及三种角色:client->job->worker
其中client是请求的发起者
job是请求的调度者,用于把客户的请求分发到不同的worker上进行工作
worker是请求的处理者

比如这里我们要处理client向job发送一个请求,来计算两个数之和,job负责调度worker来具体实现计算两数之和。

首先我们编写client.php

<?php
//创建一个客户端
$client = new GearmanClient();
//添加一个job服务
$client->addServer(‘127.0.0.1‘, 4730);
//doNormal是同步的,等待worker处理完成返回结果
//建议不要使用do()了
$ret = $client->doNormal(‘sum‘, serialize(array(10, 10)));

if($ret) {
    echo ‘计算结果:‘, $ret, "\n";
}

再编写worker.php

<?php
//创建一个worker
$worker = new GearmanWorker();
//添加一个job服务
$worker->addServer(‘127.0.0.1‘, 4730);
//注册一个回调函数,用于业务处理
$worker->addFunction(‘sum‘, function($job) {
    //workload()获取客户端发送来的序列化数据
    $data = unserialize($job->workload());

    return $data[0] + $data[1];
});

//死循环
while(true) {
    //等待job提交的任务
    $ret = $worker->work();
    if ($worker->returnCode() != GEARMAN_SUCCESS) {
        break;
    }
}

我们先启动gearmand服务

> mkdir -p /usr/local/var/log
> gearmand -d

运行worker文件

> /data/php56/bin/php /data/worker.php

再运行client文件

> /data/php56/bin/php /data/client.php

结果如下:

三、gearman异步的处理任务

这里我们client向job发送一个发送邮件的请求,不等待请求完成,继续向下执行。

client.php代码如下:

<?php
//创建一个客户端
$client = new GearmanClient();
//添加一个job服务
$client->addServer(‘127.0.0.1‘, 4730);
//doBackground异步,返回提交任务的句柄
$ret = $client->doBackground(‘sendEmail‘, json_encode(array(
    ‘email‘ => ‘[email protected]‘,
    ‘title‘ => ‘测试异步‘,
    ‘body‘ => ‘异步执行好牛B的样子‘,
)));

//继续执行下面的代码
echo "我的内心毫无波动,甚至还想笑\n";

do {
    sleep(1);

    //获取任务句柄的状态
    //jobStatus返回的是一个数组
    //第一个,表示工作是否已经知道
    //第二个,工作是否在运行
    //第三和第四,分别对应完成百分比的分子与分母
    $status = $client->jobStatus($ret);

    echo "完成情况:{$status[2]}/{$status[3]}\n";

    if(!$status[1]) {
        break;
    }
} while(true);

worker.php代码如下:

<?php
//创建一个worker
$worker = new GearmanWorker();
//添加一个job服务
$worker->addServer(‘127.0.0.1‘, 4730);
//注册一个回调函数,用于业务处理
$worker->addFunction(‘sendEmail‘, function($job) {
    //workload()获取客户端发送来的序列化数据
    $data = json_decode($job->workload(), true);
    //模拟发送邮件所用时间
    sleep(6);
    echo "发送{$data[‘email‘]}邮件成功\n";
});

//死循环
//等待job提交的任务
while($worker->work());  

结果如下:

四、gearman并行的执行多个任务

我们如何并行的计算两个数的累加和? 通过addTask添加多个任务到队列,然后进行并行计算。

client.php代码如下:

<?php
//创建一个客户端
$client = new GearmanClient();
//添加一个job服务
$client->addServer(‘127.0.0.1‘, 4730);
//设置任务完成时的回调函数
$client->setCompleteCallback(function($task) {
    //获取由worker返回的数据
    echo $task->data(), "\n";
});

//计算1到500的累加和
//添加五个任务到队列
$client->addTask(‘sum‘, json_encode(array(1, 100)));
$client->addTask(‘sum‘, json_encode(array(100, 200)));
$client->addTask(‘sum‘, json_encode(array(200, 300)));
$client->addTask(‘sum‘, json_encode(array(300, 400)));
$client->addTask(‘sum‘, json_encode(array(400, 500)));

//运行队列中的任务,do系列不需要runTask()
$client->runTasks();

worker.php代码如下:

<?php
//创建一个worker
$worker = new GearmanWorker();
//添加一个job服务
$worker->addServer(‘127.0.0.1‘, 4730);
//注册一个回调函数,用于业务处理
$worker->addFunction(‘sum‘, function($job) {
    //workload()获取客户端发送来的序列化数据
    $data = json_decode($job->workload(), true);
    sleep(1);
    $sum = 0;
    for($ix = $data[0]; $ix < $data[1]; ++$ix) {
        $sum += $ix;
    }
    return $sum;
});

//死循环
//等待job提交的任务
while($worker->work());

我们开启5个worker工作进程,当运行客户端请求时,5个计算任务几乎是同时返回结果。

结果如下:

时间: 2024-10-07 07:04:22

php使用gearman进行任务分发的相关文章

分布式的任务分发框架-Gearman

官方文档:http://gearman.org/getting-started/ 安装方法和示例都有,可以详细看一下. Gearman是一个分发任务的程序框架,可以用在各种场合,与Hadoop相比,Gearman更偏向于任务分发功能.它的任务分布非常简单,简单得可以只需要用脚本即可完成.Gearman最初用于LiveJournal的图片resize功能,由于图片resize需要消耗大量计算资源,因此需要调度到后端多台服务器执行,完成任务之后返回前端再呈现到界面. Gearman可以做什么 异步处

分布式任务分发框架Gearman教程和PHP实现实例

1.Gearman介绍和使用场景 Gearman是一个分发任务的程序框架,可以用在各种场合,与Hadoop相 比,Gearman更偏向于任务分发功能.它的任务分布非常简单,简单得可以只需要用脚本即可完成.Gearman最初用于LiveJournal的图片 resize功能,由于图片resize需要消耗大量计算资源,因此需要调度到后端多台服务器执行,完成任务之后返回前端再呈现到界面. 通常,多语言多系统之间的集成是个大问题,一般来说,人们多半会采用WebService的方式来处理此类集成问题,但不

Gearman的使用

简介 Gearman提供了一种通用的程序框架来将你的任务分发到不同的机器或者不同的进程当中.它提供了你进行并行工作的能力.负载均衡处理的能力,以及在不同程序语言之间沟通的能力.Gearman能够应用的领域非常广泛,从高可用的网站到数据库的复制任务.总之,Gearman就是负责分发处理的中枢系统,它的优点包括 开源:Gearman免费并且开源而且有一个非常活跃的开源社区,如果你想来做一些贡献,请点击 . 多语言支持:Gearman支持的语言种类非常丰富.让我们能够用一种语言来编写Worker程序,

Linux中Gearman安装与使用,分布式消息队列(CentOS-6.5:gearmand-1.1.12)

1 Gearman简介 1.1 概况 Gearman是一个用来把工作委派给其他机器.分布式的调用更适合做某项工作的机器.并发的做某项工作在多个调用间做负载均衡.或用来在调用其它语言的函数的系统. 1.2 组成 Gearman是一个分发任务的程序架构,由三部分组成: 1)Gearman client:提供gearman client API给应用程序调用.API可以使用C,PHP,PERL,MYSQL UDF等待呢个语言,它是请求的发起者. 2)Gearman job server:将客户端的请求

Gearman介绍

Gearman是一个分发任务的程序框架,可以用在各种场合,与Hadoop相比,Gearman更偏向于任务分发功能.它的 任务分布非常 简单,简单得可以只需要用脚本即可完成.Gearman最初用于LiveJournal的图片resize功能,由于图片resize需要消耗大量计算资 源,因此需要调度到后端多台服务器执行,完成任务之后返回前端再呈现到界面. oschina.net - 任务调度程序 Gearman

PHP-Gealman

一.简介 Gearman是一个分发任务的程序框架,它会对作业进行排队自动分配到一系列机器上.gearman跨语言跨平台,很方便的实现异步后台任务.php官方收录:http://php.net/manual/zh/book.gearman.php 如上图,一个Gearman请求的处理过程涉及三个角色:Client -> Job -> Worker. Client:请求的发起者,可以是C,PHP,Perl,MySQL UDF等等.Job:请求的调度者,用来负责协调把Client发出的请求转发给合适

开源服务器软件

Java缓存服务器 jmemcached http://www.oschina.net/p/jmemcached jmemcached 是一个Java版的 memcached 缓存服务器,基本上跟 memcached 是兼容的.jmemcached 是使用 Apache MINA 作为无堵塞的网络IO操作,但之后使用Netty作为网络异步实现机制. Web服务器 TornadoTornado web server 是使用Python编写出來的一个极轻量级.高可伸缩性和非阻塞IO的Web服务器软件

开源server软件

Java缓存server jmemcached http://www.oschina.net/p/jmemcached jmemcached 是一个Java版的 memcached 缓存server,基本上跟 memcached 是兼容的.jmemcached 是使用 Apache MINA 作为无阻塞的网络IO操作,但之后使用Netty作为网络异步实现机制. Webserver TornadoTornado web server 是使用Python编写出來的一个极轻量级.高可伸缩性和非堵塞IO

用Gearman分发PHP应用程序的工作负载

文章来源:PHP开发学习门户 地址:http://www.phpthinking.com/archives/518 尽管一个 Web 应用程序的大部分内容都与表示有关,但它的价值与竞争优势却可能体现在若干专有服务或算法方面.如果这类处理过于复杂或拖沓,最好是进行异步执行,以免 Web 服务器对传入的请求没有响应.实际上,将一个计算密集型的或专门化的功能放在一个或多个独立的专用服务器上运行,效果会更好. 常用的缩略词 API:应用程序编程接口 HTTP:超文本传输协议 LAMP:Linux.Apa