Python环境下安装使用异步任务队列包Celery的基础教程


Posted in Python onMay 07, 2016

1.简介

celery(芹菜)是一个异步任务队列/基于分布式消息传递的作业队列。它侧重于实时操作,但对调度支持也很好。
celery用于生产系统每天处理数以百万计的任务。
celery是用Python编写的,但该协议可以在任何语言实现。它也可以与其他语言通过webhooks实现。
建议的消息代理RabbitMQ的,但提供有限支持Redis, Beanstalk, MongoDB, CouchDB, ,和数据库(使用SQLAlchemy的或Django的 ORM) 。
celery是易于集成Django, Pylons and Flask,使用 django-celery, celery-pylons and Flask-Celery 附加包即可。

2. 安装
有了上面的概念,需要安装这么几个东西:RabbitMQ、SQLAlchemy、Celery
安装方式也都很简单: RabbitMQ:
mac下:

brew install rabbitmq

linux:

sudo apt-get install rabbitmq-server

剩下两个都是Python的东西了,直接pip安装就好了,对于从来没有安装过MySQL驱动的同学可能需要安装MySQL-python。
安装完成之后,启动服务:

$ rabbitmq-server[回车]

启动后不要关闭窗口, 下面操作新建窗口(Tab)

3. 简单案例
确保你之前的RabbitMQ已经启动。
还是官网的那个例子,在任意目录新建一个tasks.py的文件,内容如下:

from celery import Celery

app = Celery('tasks', broker='amqp://guest@localhost//')

@app.task
def add(x, y):
  return x + y

在同级目录执行:

$ celery -A tasks worker --loglevel=info

该命令的意思是启动一个worker,把tasks中的任务(add(x,y))把任务放到队列中。
保持窗口打开,新开一个窗口进入交互模式,python或者ipython:

>>> from tasks import add
>>> add.delay(4, 4)

到此为止,你已经可以使用celery执行任务了,上面的python交互模式下简单的调用了add任务,并传递4,4参数。
但此时有一个问题,你突然想知道这个任务的执行结果和状态,到底完了没有。因此就需要设置backend了。
修改之前的tasks.py中的代码为:

# coding:utf-8
import subprocess
from time import sleep

from celery import Celery

backend = 'db+mysql://root:@192.168.0.102/celery'
broker = 'amqp://guest@192.168.0.102:5672'

app = Celery('tasks', backend=backend, broker=broker)


@app.task
def add(x, y):
  sleep(10)
  return x + y


@app.task
def hostname():
  return subprocess.check_output(['hostname'])

除了添加backend之外,上面还添加了一个who的方法用来测试多服务器操作。修改完成之后,还是按照之前的方式启动。
同样进入python的交互模型:

>>> from tasks import add, hostname
>>> r = add.delay(4, 4)
>>> r.ready() # 10s内执行,会输出False,因为add中sleep了10s
>>>
>>> r = hostname.delay()
>>> r.result # 输出你的hostname

4. 测试多服务器
做完上面的测试之后,产生了一个疑惑,Celery叫做分布式任务管理,那它的分布式体现在哪?它的任务都是怎么执行的?在哪个机器上执行的?
在当前服务器上的celery服务不关闭的情况下,按照同样的方式在另外一台服务器上安装Celery,并启动:

$ celery -A tasks worker --loglevel=info

发现前一个服务器的Celery服务中输出你刚启动的服务器的hostname,前提是那台服务器连上了你的rabbitmq。
然后再进入python交互模式:

>>> from tasks import hostname
>>>
>>> for i in range(10):
...   r = hostname.delay()
...   print r.result # 输出你的hostname
>>>

看你输入的内容已经观察两台服务器上你启动celery服务的输出。

5. RabbitMQ远程连接的问题
一开始测试时远程服务器无法连接本地的RabbitMQ服务,后来发现需要设置权限,在/usr/local/etc/rabbitmq/rabbitmq-env.conf这个文件中,修改NODE_IP_ADDRESS=127.0.0.1中的ip为0.0.0.0。

6. 总结的说
这篇文章简单的介绍了Celery的使用,重点还是在分布式的使用。觉得不太爽的地方是,在扩展时,需要重新把代码(tasks.py)部署一遍,而不是可以直接把tasks进行共享,可能Celery是通过task来进行不同的worker的匹配的?目前还不太了解,等深入使用之后再说。

Python 相关文章推荐
详解Django中的ifequal和ifnotequal标签使用
Jul 16 Python
Python中断言Assertion的一些改进方案
Oct 27 Python
Tornado 多进程实现分析详解
Jan 12 Python
Python自定义线程池实现方法分析
Feb 07 Python
解决pycharm运行时interpreter为空的问题
Oct 29 Python
使用python将最新的测试报告以附件的形式发到指定邮箱
Sep 20 Python
python实现局域网内实时通信代码
Dec 22 Python
Python如何实现在字符串里嵌入双引号或者单引号
Mar 02 Python
Python decimal模块使用方法详解
Jun 08 Python
python 字符串格式化的示例
Sep 21 Python
python tkinter实现连连看游戏
Nov 16 Python
python 高阶函数简单介绍
Feb 19 Python
Python编写电话薄实现增删改查功能
May 07 #Python
Python的dict字典结构操作方法学习笔记
May 07 #Python
Python 类与元类的深度挖掘 II【经验】
May 06 #Python
Python 类与元类的深度挖掘 I【经验】
May 06 #Python
Python 迭代器工具包【推荐】
May 06 #Python
Python中内建函数的简单用法说明
May 05 #Python
Python使用Paramiko模块编写脚本进行远程服务器操作
May 05 #Python
You might like
php批量删除操作代码分享
2017/02/26 PHP
JS getStyle获取最终样式函数代码
2010/04/01 Javascript
Textarea根据内容自适应高度
2013/10/28 Javascript
Bootstrap每天必学之进度条
2015/11/30 Javascript
详解Matlab中 sort 函数用法
2016/03/20 Javascript
angular基于路由控制ui-router实现系统权限控制
2016/09/27 Javascript
js前端实现多图图片上传预览的两个方法(推荐)
2016/11/18 Javascript
使用Angular缓存父页面数据的方法
2017/01/03 Javascript
JavaScript使用FileReader实现图片上传预览效果
2020/03/27 Javascript
VUE前端cookie简单操作
2017/10/17 Javascript
如何给element添加一个抽屉组件的方法步骤
2019/07/14 Javascript
Sublime Text3 配置 NodeJs 环境的方法
2020/05/20 NodeJs
Python判断值是否在list或set中的性能对比分析
2016/04/16 Python
python发送邮件功能实现代码
2016/07/15 Python
python利用跳板机ssh远程连接redis的方法
2019/02/19 Python
基于python进行抽样分布描述及实践详解
2019/09/02 Python
Python实现CNN的多通道输入实例
2020/01/17 Python
python中文分词库jieba使用方法详解
2020/02/11 Python
Python中zip()函数的解释和可视化(实例详解)
2020/02/16 Python
Django多数据库配置及逆向生成model教程
2020/03/28 Python
scrapy处理python爬虫调度详解
2020/11/23 Python
迷你唐卡软皮鞋:Minnetonka Moccasin
2018/05/01 全球购物
Hawes & Curtis澳大利亚官网:英国经典服饰品牌
2018/10/29 全球购物
请说出这段代码执行后a和b的值分别是多少
2015/03/28 面试题
个人求职简历中英文自我评价
2013/12/16 职场文书
广告学毕业生求职信
2014/01/30 职场文书
小学生检讨书大全
2014/02/06 职场文书
上课迟到检讨书
2014/02/19 职场文书
关于热爱祖国的演讲稿
2014/05/04 职场文书
关于爱国的演讲稿
2014/05/07 职场文书
保密工作承诺书
2014/08/29 职场文书
2015年七一建党节演讲稿
2015/03/19 职场文书
2015年行政执法工作总结
2015/05/23 职场文书
《蚂蚁和蝈蝈》教学反思
2016/02/22 职场文书
社区结对共建协议书
2016/03/23 职场文书
实现一个简单得数据响应系统
2021/11/11 Javascript