django 实现celery动态设置周期任务执行时间


Posted in Python onNovember 19, 2019

蓝鲸paas平台app开发经验分享

腾讯蓝鲸智云是一套基于PaaS的技术解决方案,提供了完善的前后台开发框架、调度引擎、公共组件等模块,帮助业务的产品和技术人员快速构建低成本、免运维的支撑工具和运营系统。

PaaS平台不仅将应用服务的运行和开发环境作为一种服务提供给开发者用户,更为开发者用户提供了高效便捷的开发服务,如:组件系统,统一登录,权限管理,后台框架,MagicBox,桌面/工作台等。

django 实现celery动态设置周期任务执行时间

PaaS平台提供支持多语言的开发框架,助力运维人员能基于平台之上以自己擅长的技术语言(Python、java等)开发运维自动化工具。

通过了解PaaS的设计理念,运维人员能够基于蓝鲸的PaaS平台,从零开始进行SaaS应用的实战开发,快速构建企业运维/运营系统,提升企业自动化水平。

开发背景

之前在一个银行自动化运维项目中,客户希望我们在蓝鲸PaaS上开发一个数据库巡检SaaS。具体需求如下:

为了保障数据库正常运行,保证数据的安全性、完整性和可用性,需要开发一个自动化巡检工具,代替原来的人工数据库巡检。并且巡检周期窗口分为日巡检、周巡检、月巡检、半年度巡检四类:

日巡检维护指每日按计划进行的巡检维护活动,以检查数据库运行状态、数据库备份状态和告警错误为主要内容。

周巡检维护指按一周为周期,在每周指定日按计划进行的巡检维护活动,它的工作内容是在日巡检维护工作内容的基础上添加数据库对象检查、安全性检查等内容组成。

月巡检维护指按一月为周期,在每月指定日按计划进行的巡检维护活动,它的工作内容是在周巡检维护工作内容的基础上添加系统参数配置检查、硬件与系统平台运行状态检查等内容组成。

年度巡检维护指按半年或者一年为周期,在指定日按计划进行的巡检维护活动,它的工作内容是在月巡检维护工作内容的基础上添加数据库性能诊断检查组成。

巡检实现方式分为两种:

1、立即巡检

用户首先选择某一业务下对应的目标主机,需要巡检的数据库实例(支持多选),设置数据采样区间(当前时间之前的任意时间段)。

django 实现celery动态设置周期任务执行时间

点击立即巡检按钮,等待数秒钟,巡检完成。点击查看详情,导出报告。

django 实现celery动态设置周期任务执行时间

2、定时巡检

用户可以根据需求设置每天、每周、每月来执行巡检任务。这里举例说明一下每周,用户首先需要配置某业务下面主机、数据库实例、巡检频率、巡检时长(任意天数)、执行时间(每周某一天的某时某分某秒),如下图:

django 实现celery动态设置周期任务执行时间

实现方式

针对以上需求,平时我们开发时使用periodic_task装饰器,程序启动后自动执行周期任务:

@periodic_task(run_every=crontab(minute='*/5', hour='*', day_of_week="*"))
def get_time():
  """
  celery 周期任务示例

  run_every=crontab(minute='*/5', hour='*', day_of_week="*"):每 5 分钟执行一次任务
  """
  now = datetime.datetime.now()
  logger.error(u"celery 周期任务调用成功,当前时间:{}".format(now))

crontab()实例化的时候没设置任何参数,都是使用默认值。crontab一共有7个参数,常用有5个参数分别为:

minute:分钟,范围0-59

hour:小时,范围0-23

day_of_week:星期几,范围0-6。以星期天为开始,即0为星期天。这个星期几还可以使用英文缩写表示,例如“sun”表示星期天

day_of_month:每月第几号,范围1-31

month_of_year:月份,范围1-12

以上方案有个弊端:

需要每次根据巡检是周几,来计算数据采样区间具体时间,然后触发定时任务,可能会存在误差。

定时任务无法直接取消

举例来说,假如客户选择每周三早上8点执行任务,采样区间为3天。假如首次10月1日8:00执行任务,触发定时任务获取9月28日8:00-10月1日8:00之间的数据;然后再次执行时间为10月8日,再次触发定时任务,循环执行。

最终,通过以下方式解决:

模板函数提前开发完成,加上@task()装饰器:

@task()
def auto_iip(**kwargs):
   logger.error(kwargs)
   '此处写逻辑代码'

测试每分钟执行一次,启动工程,启动celery,调用下面函数,OK,等待1分钟,sucess!

from djcelery.models import PeriodicTask, CrontabSchedule
from djcelery.schedulers import ModelEntry, DatabaseScheduler
def test_celery_task(date_data):
  crontab= CrontabSchedule.objects.create(
    hour='*',
    minute='*/1',
    day_of_week='*',
    day_of_month='*',
    month_of_year="*"
  )
  schedule = crontab.schedule

  create_or_update_task = DatabaseScheduler.create_or_update_task
  #'home_application.celery_tasks.auto_iip' home模块下的task。
  task_template='home_application.celery_tasks.auto_iip'
  #task_name自定义,不能重复。
  task_name = 'test'
  schedule_dict = {
    'schedule': schedule,
    'args': [],
    'kwargs': data,
    'task': task_template,
    'enabled': 1
  }
  create_or_update_task(task_name, **schedule_dict)

定时任务停止,直接根据task_name进行删除

def delete_celery_task(task_name):
  DatabaseScheduler.delete_task(task_name)

ok!大功告成。

以上这篇django 实现celery动态设置周期任务执行时间就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python函数参数类型*、**的区别
Apr 11 Python
Python记录详细调用堆栈日志的方法
May 05 Python
关于反爬虫的一些简单总结
Dec 13 Python
python寻找list中最大值、最小值并返回其所在位置的方法
Jun 27 Python
tensorflow 分类损失函数使用小记
Feb 18 Python
Python实现汇率转换操作
May 03 Python
Python基于pandas爬取网页表格数据
May 11 Python
解决keras,val_categorical_accuracy:,0.0000e+00问题
Jul 02 Python
python中关于数据类型的学习笔记
Jul 19 Python
详解python日志输出使用配置文件格式
Feb 10 Python
用 Python 元类的特性实现 ORM 框架
May 19 Python
刚学完怎么用Python实现定时任务,转头就跑去撩妹!
Jun 05 Python
python调用接口的4种方式代码实例
Nov 19 #Python
Python Django2.0集成Celery4.1教程
Nov 19 #Python
通过celery异步处理一个查询任务的完整代码
Nov 19 #Python
Django 自动生成api接口文档教程
Nov 19 #Python
wxpython实现按钮切换界面的方法
Nov 19 #Python
Python性能分析工具Profile使用实例
Nov 19 #Python
使用apiDoc实现python接口文档编写
Nov 19 #Python
You might like
mac下使用brew配置环境的步骤分享
2011/05/23 PHP
PHP超级全局变量数组小结
2012/10/04 PHP
解析Linux下Varnish缓存的配置优化
2013/06/20 PHP
thinkphp文件引用与分支结构用法实例
2014/11/26 PHP
PHP中预定义的6种接口介绍
2015/05/12 PHP
laravel config文件配置全局变量的例子
2019/10/13 PHP
JavaScript 异步调用框架 (Part 1 - 问题 & 场景)
2009/08/03 Javascript
JavaScript DOM学习第八章 表单错误提示
2010/02/19 Javascript
javascript数字时钟示例分享
2014/04/23 Javascript
javascript中动态函数用法实例分析
2015/05/14 Javascript
Bootstrap每天必学之按钮(一)
2015/11/24 Javascript
javascript获取select标签选中的值
2016/06/04 Javascript
js只执行1次的函数示例
2016/07/20 Javascript
简单的js计算器实现
2016/10/26 Javascript
JS回调函数基本定义与用法实例分析
2017/05/24 Javascript
Bootstrap Table从零开始
2017/06/30 Javascript
详解Javascript 中的 class、构造函数、工厂函数
2017/12/20 Javascript
简单了解JavaScript中常见的反模式
2019/06/21 Javascript
JS实现点击掉落特效
2021/01/29 Javascript
[54:47]Liquid vs VP Supermajor决赛 BO 第五场 6.10
2018/07/05 DOTA
python和ruby,我选谁?
2017/09/13 Python
使用python 和 lint 删除项目无用资源的方法
2017/12/20 Python
python实现拓扑排序的基本教程
2018/03/11 Python
TensorFlow基本的常量、变量和运算操作详解
2020/02/03 Python
TensorFlow实现指数衰减学习率的方法
2020/02/05 Python
Python任务调度利器之APScheduler详解
2020/04/02 Python
python import 上级目录的导入
2020/11/03 Python
python statsmodel的使用
2020/12/21 Python
台湾最大银发乐活百货:乐龄网
2018/05/21 全球购物
七一表彰活动方案
2014/01/18 职场文书
县政府班子个人对照检查材料
2014/10/05 职场文书
2014年营销工作总结
2014/11/22 职场文书
班主任先进事迹材料
2014/12/17 职场文书
2015入党自荐书范文
2015/03/05 职场文书
2015年幼儿园中班开学寄语
2015/05/27 职场文书
驾驶员管理制度范本
2015/08/06 职场文书