基于Celery的并行处理工程-OpenWorker快速安装

OpenWorker,欢迎参与:https://github.com/supergis/OpenWorker
OpenWorker是基于Python的并行处理框架,将集成Celery、Flower、Jobtastic和Rodeo工程,可以通过控制台或Web进行管理、提交任务等。

Celery 是一个简单灵活的Python并行处理框架,但是相关的几个工程需要独自安装和配置,给小白的使用带来困难。OpenWorker将这几个工程放到一起, 并增加了统一的安装脚本,让部署和安装、运行都更加方便。OpenWorker仅仅集成这些资源让数据研究者更易于使用,而不是替代原来的工程。由于这几 个项目还在快速发展,因此也编写合并和更新的脚本,实现与原作者的代码库保持一致。

1、并行处理框架:
Celery:http://www.celeryproject.org/
执行任务的分发和调度,使用消息总线进行通讯。
关于Celery的入门教程及参考:http://my.oschina.net/u/2306127/blog/420833

2、Web管理控制台:
Flower:https://github.com/mher/flower
在远程通过Web界面监视和管理任务执行情况。

3、任务进度通知:
Jobtastic:http://policystat.github.io/jobtastic/
为长时间运行的任务提供进度通知的Celery扩展库。

4、Web上Python控制台:
Rodeo:https://github.com/yhat/rodeo
可以在Web浏览器编写和执行Python代码,支持交互控制台,非常适合于探索式编程和数据研究。

快速安装脚本:

mkdir ./openworker

echo "============================================="
echo "install rodeo,remote web based python console..."
git clone  
cd rodeo
sudo python3 setup.py install
cd ..
echo "usage:"
echo "  rodeo ."

echo "============================================="
echo "install celery, parallel python exec-engine ..."
#celery
sudo pip3 install celery
echo "Usage:"
echo " celery -A tasks worker --loglevel=info"

echo "============================================="
echo "install flower ...
sudo pip install flower
echo "If want latest version,install use:"
echo "sudo pip install https://github.com/mher/flower/zipball/master"
echo "Or get source code:"
echo "git clone https://github.com/mher/flower.git"
echo "Usage:"
echo "1: flower --port=5555"
echo "2: celery flower -A proj --address=127.0.0.1 --port=5555"
echo "3: celery flower -A proj --broker=amqp://guest:[email protected]:5672//"

echo "============================================="
echo "install jobtastic-Job status feedback tool..."
sudo pip3 install jobtastic
echo "If you want latest version,install the source."
echo "git clone  
echo "cd jobtastic && sudo python3 setup.py install && cd .."

echo ""
echo "===OpenWorker Dependence Installed.======="

启动rodeo服务后,可以远程运行python脚本,再去启动Celery相关的python脚本,执行并行计算服务的操作。

celery已经与django等进行了整合,可以直接作为并行服务器运行一个自行开发的worker。

时间: 2024-11-03 18:57:04

基于Celery的并行处理工程-OpenWorker快速安装的相关文章

基于Celery的并行处理工程-OpenWorker

OpenWorker-初始建立(2015-05-29),欢迎参与:https://github.com/supergis/OpenWorker.OpenWorker-基于Python的并行处理框架,将集成Celery.Flower.Jobtastic和Rodeo工程,可以通过控制台或Web进行管理.提交任务等. Celery是一个简单灵活的Python并行处理框架,但是相关的几个工程需要独自安装和配置,给小白的使用带来困难.OpenWorker将这几个工程放到一起,并增加了统一的安装脚本,让部署

转载 - Vultr VPS注册开通且一键快速安装PPTP VPN和电脑连接使用

本文转载来自:https://www.vultrclub.com/139.html 从2014年Vultr VPS进入市场之后,作为有背景.实力的搅局者,是的最近两年VPS.服务器的用户成本降低.配置提升,在一定程度上也是由Vultr商家的出现导致的. 从配置新家比看,Vultr VPS还是有足够的优势的,比如全部SSD固态硬盘.768MB内存起步才5美金月付,而且新注册用户还赠送最高50美金(新注册Vultr账户赠送50美元快捷通道). 对于我们用户,选择VPS主机的时候要便宜.稳定且好用的,

基于WebForm+EasyUI的工程管理系统形成之旅 -- 登录窗口

上篇<基于WebForm+EasyUI的工程管理系统形成之旅 -- 登录设置>,主要是介绍系统浏览器及压缩图片工具在线下载安装,这些前期准备是非常重要的. 最近忙于将工程管理系统中各个模块,用业务流程方式串接起来,可能更新博客不是那么快,希望大家多多体谅. 1.登录界面 系统登录界面,如下界面所示. 基于WebForm+EasyUI的工程管理系统形成之旅 -- 登录窗口

快速安装可视化IDS系统 (带视频)

快速安装可视化IDS系统 (带视频) 本节为大家介绍的软件叫安全洋葱Security Onion,根OSSIM一样,它是基于DebianLinux的系统,内部集成了很多开源安全工具,NIDS.HIDS.各种监控工具等等,下面我们就一起体会一下它如何进行深层防御. 为了了解这套系统,首先得教小白如何快速安装这套可用的IDS系统.先要准备实验用的ISO安装文件(下载地址:https://sourceforge.net/projects/security-onion/  ).接着进行如下操作: 1.将

Redmine快速安装

Redmine快速安装手册 为了快速安装,使用的bitnami-redmine版本,安装好后各个功能正常. https://bitnami.com/stack/redmine 安装插件参考:http://www.redmine.org/projects/redmine/wiki/Plugins http://blog.csdn.net/benkaoya/article/details/8877945 安装插件注意: 插件有版本需求,如按错版本,服务无法启动: 需到你的安装目录下如:D:\Bitn

Zabbix 使用yum快速安装

两句百科的话: Zabbix基于WEB界面的提供分布式 系统监视以及网络监控的企业级开元解决方案: zabbix由2部分构成,zabbix server与可选组件zabbix agent. zabbix agent需要安装在被监视的目标服务器上,它主要完成对硬件信息或与操作系统有关的内存,CPU等信息的收集.zabbix agent可以运行在Linux,Solaris,HP-UX,AIX,Free BSD,Open BSD, OS X, Tru64/OSF1, Windows NT4.0, Wi

快速安装可视化IDS系统

快速安装可视化IDS系统 本节为大家介绍的软件叫安全洋葱Security Onion,根OSSIM一样,它是基于DebianLinux的系统,内部集成了很多开源安全工具,NIDS.HIDS.各种监控工具等等,下面我们就一起体会一下它如何进行深层防御. 为了了解这套系统,首先得教小白如何快速安装这套可用的IDS系统.先要准备实验用的ISO安装文件(下载地址:https://sourceforge.net/projects/security-onion/  ).接着进行如下操作: 1.将SO安装到硬

ubuntu下使用URLOS快速安装rTorrent (最快的BT下载工具)

rTorrent是一个非常简洁.优秀.非常轻量的BT客户端,它使用ncurses库以C++编写,将 rTorrent 用在安装有 GNU Screen 和 Secure Shell 的低端系统上作为远程的 BT 客户端是非常理想的. 一般来说,安装rTorrent以及ruTorrent比较麻烦,因为还得额外安装Web 服务器并配置,今天我来教大家一个快速安装rTorrent的方法,让我们来忘记复杂的命令行安装过程吧,使用URLOS点点鼠标就能搞定! 首先我们需要在Linux系统安装URLOS,U

借助URLOS快速安装nextcloud网盘

简介 nextcloud是一个免费专业的私有云存储网盘开源项目,可以让你简单快速地在个人/公司电脑.服务器等设备上架设一套属于自己或团队专属的云同步网盘,从而实现跨平台跨设备文件同步.共享. 今天我们介绍一种更快速的安装方法,那就是通过URLOS一键安装nextcloud网盘.urlos是什么? URLOS是一个云主机管理软件,基于Docker容器技术打包和运行应用,包含负载均衡和故障转移等高级功能,可自动识别机器和云应用的故障并将云应用转移至可用的机器上,单机故障并不影响业务开展. 你可以使用