Django+Celery实现动态配置定时任务的方法示例


Posted in Python onMay 26, 2020

哈喽,今天给大家分享一篇Django+Celery实现动态配置定时任务,因为最近也是无意间看到一位大佬关于这块的文章,然后自己觉得不错,也想学习写一下,然后最终实现功能是在前端页面统一管理计划任务,大家可以在admin管理页面设置,也可以在自己写的前端页面删除添加编辑,实时生效,还可以监控这些监控任务是否运行成功失败。

补充:如果大家对celery不熟悉的话,建议先学习celery

Django+Celery实现动态配置定时任务的方法示例

一、安装

1.在Linux系统上安装模块

celery (3.1.26.post2)
celery-with-redis (3.0)
redis (2.10.6)
Django (2.1.10)
django-celery (3.3.1)

2.迁移生成表

python manage.py migrate

3.查看生成的表,这几张表是上面执行命令后生成的

Django+Celery实现动态配置定时任务的方法示例

二、配置

1.添加apps

INSTALLED_APPS = [
  'django.contrib.admin',
  'django.contrib.auth',
  'django.contrib.contenttypes',
  'django.contrib.sessions',
  'django.contrib.messages',
  'django.contrib.staticfiles',
  'djcelery',  #这是要添加的
]

2.配置django时区

LANGUAGE_CODE = 'en-us'
TIME_ZONE = 'Asia/Shanghai'
USE_I18N = True
USE_L10N = True
USE_TZ = False

3.Celery配置

BROKER_URL = 'redis://localhost:6379' #代理人
CELERY_RESULT_BACKEND = 'redis://localhost:6379' #结果存储地址
CELERY_ACCEPT_CONTENT = ['application/json'] #指定任务接收的内容序列化类型
CELERY_TASK_SERIALIZER = 'json' #任务序列化方式
CELERY_RESULT_SERIALIZER = 'json' #任务结果序列化方式
CELERY_TASK_RESULT_EXPIRES = 12 * 30 #超过时间
CELERY_MESSAGE_COMPRESSION = 'zlib' #是否压缩
CELERYD_CONCURRENCY = 4 #并发数默认已CPU数量定
CELERYD_PREFETCH_MULTIPLIER = 4 #celery worker 每次去redis取任务的数量
CELERYD_MAX_TASKS_PER_CHILD = 3 #每个worker最多执行3个任务就摧毁,避免内存泄漏
CELERYD_FORCE_EXECV = True #可以防止死锁
CELERY_ENABLE_UTC = False #关闭时区
CELERYBEAT_SCHEDULER = 'djcelery.schedulers.DatabaseScheduler' # 定时任务调度器

4.在你项目的app下面配置celery.py

import os
from celery import Celery,platforms
from django.conf import settings
os.environ.setdefault('DJANGO_SETTINGS_MODULE','blog.settings')
app = Celery('blog')
app.config_from_object('django.conf:settings')
app.autodiscover_tasks(lambda: settings.INSTALLED_APPS)
platforms.C_FORCE_ROOT = True

@app.task(bind=True)
def debug_task(self):
  print('Request: {0!r}'.format(self.request))

5.配置刚才app下面的__init__.py文件

from __future__ import absolute_import
from .celery import app as celery_app

6.在app下面创建一个tasks.py文件

from blog.celery import app
@app.task()
def get_date(x,y,s):#这里的函数留意一下,后面会用到
  print(s)
  return x + y

@app.task()
def get_task():
  return 'test'

@app.task()
def get_command_task():
  return 'success'

三、启动

1.进入你项目下面,执行启动worker,Worker是执行任务的单元,它实时监控消息队列,如果有任务就获取任务并执行它。

celery -A autoops worker -l info

2.进入你项目下面,执行启动beat,beat是定时把这个任务扔到队列中

celery -A autoops beat -l info

3.启动你的django项目

python manage.py runserver 192.168.10.133:8001

4.页面展示

4.1这个是admin页面下的,然后我自己重新写了,大家也可以自己写一个,admin和我自己写的页面实现的功能其实是一模一样的。

Django+Celery实现动态配置定时任务的方法示例

4.2.对应admin页面的crontabs

Django+Celery实现动态配置定时任务的方法示例

添加周期

Django+Celery实现动态配置定时任务的方法示例

编辑修改周期

Django+Celery实现动态配置定时任务的方法示例

5.tasks任务

5.1.大家可以看到我添加了一个名为测试的任务,每隔一分钟执行一次,任务模板其实就是你写的tasks文件里面函数

Django+Celery实现动态配置定时任务的方法示例

Django+Celery实现动态配置定时任务的方法示例

看一下worker进程日志输出

Django+Celery实现动态配置定时任务的方法示例

四、监控计划任务

celery作为一个分布式异步任务队列管理工具,通过界面化的方式来进行管控任务的执行状态和查看任务执行结果

flower作为web页面来管理celery后台任务,和任务队列是隔离的,也就是flower的运行与否并不会影响到任务队列的真正执行,但是flower中可以通过API接口来管理celery中的任务执行。

4.1安装flower,监控celery计划任务

pip3 install flower==0.9.2 -i http://pypi.douban.com/simple --trusted-host pypi.douban.com
pip install tornado==5.1.1
celery flower -A blog --port=5555 #进入项目目录启动flower

4.2打开浏览器,输入http://ip:5555 查看

Django+Celery实现动态配置定时任务的方法示例

Name: 表示该任务的名称,默认规则为该函数的路径规则,例如 {模块名}.{文件名}.{函数名}
UUID: 表示一个唯一字符串ID用于表示该任务
State: 表示该任务的状态,包括: SUCCESS / FAILURE / STARTED / RECEIVED
SUCCESS 表示该任务执行完毕且成功
FAILURE 表示该任务执行失败
STARTED 表示该任务正在执行
RECEIVED 表示该任务在worker中,只是被接收而已
args: 表示该任务的列表参数
kwargs: 表示该任务的字典参数
Result: 表示该任务函数的返回结果
Received: 表示该任务在worker接收到的时间
Started: 表示该任务在worker开始执行的时间
Runtime: 表示该任务在worker真正执行的耗时(单位:秒)
Worker: 表示该任务所在的worker名称

总结:django+celery实现的定时任务还是不错的,你可以在前端上查看管理所有定时任务,实时修改生效删除和禁用,所以有需求的话可以去试试。下次再分享啦

到此这篇关于Django+Celery实现动态配置定时任务的方法示例的文章就介绍到这了,更多相关Django Celery动态配置定时任务内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python and、or以及and-or语法总结
Apr 14 Python
自己编程中遇到的Python错误和解决方法汇总整理
Jun 03 Python
Python计算一个文件里字数的方法
Jun 15 Python
Python实现简单字典树的方法
Apr 29 Python
Python学习之Django的管理界面代码示例
Feb 10 Python
python 阶乘累加和的实例
Feb 01 Python
Python获取Redis所有Key以及内容的方法
Feb 19 Python
python-序列解包(对可迭代元素的快速取值方法)
Aug 24 Python
10行Python代码计算汽车数量的实现方法
Oct 23 Python
python 字典访问的三种方法小结
Dec 05 Python
python的json中方法及jsonpath模块用法分析
Dec 06 Python
Python函数对象与闭包函数
Apr 13 Python
python删除某个目录文件夹的方法
May 26 #Python
Pytorch使用PIL和Numpy将单张图片转为Pytorch张量方式
May 25 #Python
Pytorch转onnx、torchscript方式
May 25 #Python
使用pandas库对csv文件进行筛选保存
May 25 #Python
pytorch中 gpu与gpu、gpu与cpu 在load时相互转化操作
May 25 #Python
基于pandas向csv添加新的行和列
May 25 #Python
Python如何把十进制数转换成ip地址
May 25 #Python
You might like
PHP微信公众号自动发送红包API
2016/06/01 PHP
PHP 表单提交及处理表单数据详解及实例
2016/12/27 PHP
PHP addAttribute()函数讲解
2019/02/03 PHP
Laravel 关联模型-关联新增和关联更新的方法
2019/10/10 PHP
使用laravel的Eloquent模型如何获取数据库的指定列
2019/10/17 PHP
javascript 遍历验证所有文本框的值
2009/08/27 Javascript
比较全面的event对像在IE与FF中的区别 推荐
2009/09/21 Javascript
由JavaScript中call()方法引发的对面向对象继承机制call的思考
2011/09/12 Javascript
jQuery UI Autocomplete 1.8.16 中文输入修正代码
2012/04/16 Javascript
javascript两种function的定义介绍及区别说明
2013/05/02 Javascript
JS+CSS实现模仿浏览器网页字符查找功能的方法
2015/02/26 Javascript
javascript数组常用方法汇总
2016/09/10 Javascript
vue.js实现含搜索的多种复选框(附源码)
2017/03/23 Javascript
如何使用vuejs实现更好的Form validation?
2017/04/07 Javascript
手把手教你使用vue-cli脚手架(图文解析)
2017/11/08 Javascript
JS严格模式知识点总结
2018/02/27 Javascript
js中addEventListener()与removeEventListener()用法案例分析
2020/03/02 Javascript
javascript使用Blob对象实现的下载文件操作示例
2020/04/18 Javascript
node.js如何根据URL返回指定的图片详解
2020/10/21 Javascript
[43:26]完美世界DOTA2联赛PWL S2 Forest vs Rebirth 第二场 11.20
2020/11/23 DOTA
Python实现html转换为pdf报告(生成pdf报告)功能示例
2019/05/04 Python
python通过http下载文件的方法详解
2019/07/26 Python
一行python实现树形结构的方法
2019/08/09 Python
python 内置函数汇总详解
2019/09/16 Python
HTML5实现经典坦克大战坦克乱走还能发出一个子弹
2013/09/02 HTML / CSS
GNC健安喜美国官网:美国第一营养品牌
2016/07/22 全球购物
Clarins娇韵诗英国官网:来自法国的天然护肤品牌
2017/04/18 全球购物
合作意向书模板
2014/03/31 职场文书
设计顾问服务计划书
2014/05/04 职场文书
十佳标兵事迹材料
2014/08/18 职场文书
纪念九一八事变83周年国旗下讲话稿
2014/09/15 职场文书
思想纪律作风整顿剖析材料
2014/10/11 职场文书
色戒观后感
2015/06/12 职场文书
2015年除四害工作总结
2015/07/23 职场文书
2016年小学生寒假家长评语
2015/10/10 职场文书
错误码NET::ERR_CERT_DATE_INVALID证书已过期解决方法?
2022/07/07 数码科技