Python定时任务随机时间执行的实现方法


Posted in Python onAugust 14, 2019

背景:

有一个爬虫服务,需要定时从公开网站上拉取一些数据,为了避免被识别为爬虫(防爬虫的识别需要根据很多特征,时间仅仅是其中一个维度),需要在指定的时间内,随机生成一个时间爬取

脚本是python写的,直接上代码...

import logging
import traceback
from datetime import datetime
from apscheduler.schedulers.background import BackgroundScheduler
scheduler = BackgroundScheduler()
def spider_schedule():
  # spider_schedule是job_id
  scheduler.remove_job('spider_schedule')
  try:
    print 'spider start... ', datetime.now().strftime('%Y-%m-%d %X')
    #--------自己的业务代码-------
    pass
    #---------------------------
    print 'spider end... ', datetime.now().strftime('%Y-%m-%d %X')
  except Exception as e:
    print traceback.format_exc(e)
  finally:
    interval_minutes = random.randint(60, 120) # 1-120分钟随机选一个时间
    interval_seconds = random.randint(1, 60) # 1~60秒随机选一个时间
    scheduler.add_job(spider_schedule, 'interval', minutes=interval_minutes, seconds=interval_seconds, id='spider_schedule')
if __name__ == '__main__':
  scheduler.add_job(spider_schedule, 'interval', seconds=10, id='spider_schedule')
  scheduler.start()

ps:下面看下python定时执行任务的三种方式

#!/user/bin/env python
# @Time   :2018/6/7 16:31
# @Author  :PGIDYSQ
#@File   :PerformTaskTimer.py
#定时执行任务命令
#1.定时任务代码
import time,os,sched
# schedule = sched.scheduler(time.time,time.sleep)
# def perform_command(cmd,inc):
#   os.system(cmd)
#   print('task')
# def timming_exe(cmd,inc=60):
#   schedule.enter(inc,0,perform_command,(cmd,inc))
#   schedule.run()
# print('show time after 2 seconds:')
# timming_exe('echo %time%',2)
#2.周期性执行任务
schedule = sched.scheduler(time.time,time.sleep)
def perform_command(cmd,inc):
  #在inc秒后再次运行自己,即周期运行
  schedule.enter(inc, 0, perform_command, (cmd, inc))
  os.system(cmd)
def timming_exe(cmd,inc=60):
  schedule.enter(inc,0,perform_command,(cmd,inc))
  schedule.run()#持续运行,直到计划时间队列变成空为止
print('show time after 2 seconds:')
timming_exe('echo %time%',2)
#3.循环执行命令
# import time,os
# def re_exe(cmd,inc = 60):
#   while True:
#     os.system(cmd)
#     time.sleep(inc)
# re_exe("echo %time%",5)
Python 相关文章推荐
python赋值操作方法分享
Mar 23 Python
python采集博客中上传的QQ截图文件
Jul 18 Python
Python中字符编码简介、方法及使用建议
Jan 08 Python
进一步探究Python中的正则表达式
Apr 28 Python
老生常谈Python序列化和反序列化
Jun 28 Python
基于Python对象引用、可变性和垃圾回收详解
Aug 21 Python
selenium+python实现自动化登录的方法
Sep 04 Python
解决python selenium3启动不了firefox的问题
Oct 13 Python
举例讲解Python常用模块
Mar 08 Python
PYQT5设置textEdit自动滚屏的方法
Jun 14 Python
Python代码执行时间测量模块timeit用法解析
Jul 01 Python
python运算符之与用户交互
Apr 13 Python
查看Python依赖包及其版本号信息的方法
Aug 13 #Python
使用python实现unix2dos和dos2unix命令的例子
Aug 13 #Python
Python编写带选项的命令行程序方法
Aug 13 #Python
使用python模拟命令行终端的示例
Aug 13 #Python
在macOS上搭建python环境的实现方法
Aug 13 #Python
解决Mac下使用python的坑
Aug 13 #Python
python 接口实现 供第三方调用的例子
Aug 13 #Python
You might like
php做下载文件的实现代码及文件名中乱码解决方法
2011/02/03 PHP
CodeIgniter针对数据库的连接、配置及使用方法
2016/03/03 PHP
一个对于js this关键字的问题
2007/01/09 Javascript
JQuery自适应IFrame高度(支持嵌套 兼容IE,ff,safafi,chrome)
2011/03/28 Javascript
jQuery源码分析-02正则表达式 RegExp 常用正则表达式
2011/11/14 Javascript
js querySelector和getElementById通过id获取元素的区别
2012/04/20 Javascript
JavaScript高级程序设计(第3版)学习笔记13 ECMAScript5新特性
2012/10/11 Javascript
javascript常用代码段搜集
2014/12/04 Javascript
node.js中的fs.appendFile方法使用说明
2014/12/17 Javascript
手机端页面rem宽度自适应脚本
2015/05/20 Javascript
nodejs实现获取当前url地址及url各种参数值
2015/06/25 NodeJs
利用React-router+Webpack快速构建react程序
2016/10/27 Javascript
解决js ajax同步请求造成浏览器假死的问题
2018/01/18 Javascript
webpack 静态资源集中输出的方法示例
2018/11/09 Javascript
Python的另外几种语言实现
2015/01/29 Python
Python实现比较扑克牌大小程序代码示例
2017/12/06 Python
ubuntu17.4下为python和python3装上pip的方法
2018/06/12 Python
Django在pycharm下修改默认启动端口的方法
2019/07/26 Python
django与vue的完美结合_实现前后端的分离开发之后在整合的方法
2019/08/12 Python
python实现时间序列自相关图(acf)、偏自相关图(pacf)教程
2020/06/03 Python
浅谈Python爬虫原理与数据抓取
2020/07/21 Python
HTML5之web workers_动力节点Java学院整理
2017/07/17 HTML / CSS
Steve Madden官网:美国鞋类品牌
2017/01/29 全球购物
Bench加拿大官方网站:英国城市服装品牌
2017/11/03 全球购物
GetYourGuide台湾:预订旅游活动、景点和旅游项目
2019/06/10 全球购物
西部世纪面试题
2014/12/05 面试题
行政办公员自我评价分享
2013/12/14 职场文书
西门豹教学反思
2014/02/04 职场文书
人力管理专业毕业生求职信
2014/02/27 职场文书
小学阳光体育活动总结
2014/07/05 职场文书
2014年优秀党员材料
2014/12/18 职场文书
离婚协议书格式
2015/01/26 职场文书
2015年企业工作总结范文
2015/04/28 职场文书
初中体育教学随笔
2015/08/15 职场文书
员工给公司的建议书
2019/06/24 职场文书
导游词之唐山景点
2019/12/18 职场文书