Python while true实现爬虫定时任务


Posted in Python onJune 08, 2020

记得以前的windows 任务定时是可以的正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。

接下来记录下python 爬虫定时任务的几种解决方法。

今天是第一篇,后面会陆续更新。

首先最容易的是while true死循环挂起,上代码

import osimport timeimport sysfrom datetime import datetime, timedelta
def One_Plan():
   # 设置启动周期
   Second_update_time = 24 * 60 * 60
   
  # 当前时间
  now_Time = datetime.now()
  # 设置 任务启动时间
  plan_Time = now_Time.replace(hour=9, minute=0, second=0, microsecond=0) 
  # 设置差值,-1 day, 21:48:53.246576,类似于这样
  # time.sleep()需要传入int,所以下面使用.total_seconds() 
  # 主要用来计算差值,返回int,具体功能可以自行查阅相关资料
  delta = plan_Time - now_Time
  first_plan_Time = delta.total_seconds() % Second_update_time
  print("距离第一次执行需要睡眠%d秒" % first_plan_Time)
  return first_plan_Time

# while Ture代码块,挂起程序,睡眠时间结束后调用函数名进行执行
while True:

  s1 = One_Plan()
  time.sleep(s1)
  # 下面这里是自己定义的函数,想跑代码的可以换成hellow world函数或者注释掉这行测试下
  exe_file(D_list)
  print("正在执行首次更新程序")

个人感觉使用这种方式进行定时计划的启动如果为单个程序,并且一天执行一次的话没什么问题,如果要考虑到一天执行多个任务并且一天需要执行多次,短板一下就凸显出来了,

在工作的情况中还需要考虑到很多因素,比如爬虫程序需要在晚上12点和早上6点,9点,下午3点执行四次,并且需要同时执行4个爬虫,还需要考虑到网络是否稳定,如果程序挂掉该怎么处理等等因素

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python 文件操作实现代码
Oct 07 Python
Windows下安装Django框架的方法简明教程
Mar 28 Python
Django框架封装外部函数示例
May 28 Python
基于Python安装pyecharts所遇的问题及解决方法
Aug 12 Python
详解python中docx库的安装过程
Nov 08 Python
python实现tail实时查看服务器日志示例
Dec 24 Python
对Pytorch中Tensor的各种池化操作解析
Jan 03 Python
python实现简单的购物程序代码实例
Mar 03 Python
Python3爬虫中关于Ajax分析方法的总结
Jul 10 Python
python 使用递归的方式实现语义图片分割功能
Jul 16 Python
python实现文件+参数发送request的实例代码
Jan 05 Python
Python道路车道线检测的实现
Jun 27 Python
python 实现rolling和apply函数的向下取值操作
Jun 08 #Python
基于python计算滚动方差(标准差)talib和pd.rolling函数差异详解
Jun 08 #Python
Python实现查找数据库最接近的数据
Jun 08 #Python
python numpy库np.percentile用法说明
Jun 08 #Python
python thrift 实现 单端口多服务的过程
Jun 08 #Python
Python astype(np.float)函数使用方法解析
Jun 08 #Python
python opencv 实现读取、显示、写入图像的方法
Jun 08 #Python
You might like
怎么样可以把 phpinfo()屏蔽掉?
2006/11/24 PHP
基于PHP导出Excel的小经验 完美解决乱码问题
2013/06/10 PHP
PHP中的按位与和按位或操作示例
2014/01/27 PHP
PHP创建桌面快捷方式的实例代码
2014/02/17 PHP
PHP+MYSQL中文乱码问题
2015/07/01 PHP
PHP+ajax分页实例简析
2015/12/07 PHP
thinkPHP自动验证、自动添加及表单错误问题分析
2016/10/17 PHP
Yii2.0框架实现带分页的多条件搜索功能示例
2019/02/20 PHP
什么是DOM(Document Object Model)文档对象模型
2012/03/05 Javascript
JavaScript将字符串转换成字符编码列表的方法
2015/03/19 Javascript
JavaScript操作表单实例讲解(上)
2016/06/20 Javascript
微信小程序 require机制详解及实例代码
2016/12/14 Javascript
jQuery实现贪吃蛇小游戏(附源码下载)
2017/03/04 Javascript
Angular2使用Angular CLI快速搭建工程(一)
2017/05/21 Javascript
axios对请求各种异常情况处理的封装方法
2018/09/25 Javascript
js动态获取时间的方法分析
2019/08/02 Javascript
微信小程序swiper左右扩展各显示一半代码实例
2019/12/05 Javascript
使用js和canvas实现时钟效果
2020/09/08 Javascript
js 图片懒加载的实现
2020/10/21 Javascript
PyTorch上搭建简单神经网络实现回归和分类的示例
2018/04/28 Python
Python3连接SQLServer、Oracle、MySql的方法
2018/06/28 Python
Python实现Selenium自动化Page模式
2019/07/14 Python
python实现在函数中修改变量值的方法
2019/07/16 Python
Tensorflow模型实现预测或识别单张图片
2019/07/19 Python
Python数据持久化存储实现方法分析
2019/12/21 Python
python 5个实用的技巧
2020/09/27 Python
马来西亚最好的婴儿商店:Motherhood
2017/09/14 全球购物
德国玩具商店:Planet Happy DE
2021/01/16 全球购物
网上开商店的创业计划书
2014/01/19 职场文书
各营销点岗位职责范本
2014/03/05 职场文书
房产委托公证书样本
2014/04/04 职场文书
电子信息专业应届生自荐信
2014/06/04 职场文书
2014年依法行政工作总结
2014/11/19 职场文书
高中生毕业评语
2014/12/30 职场文书
新年祝酒词大全
2015/08/11 职场文书
Python软件包安装的三种常见方法
2022/07/07 Python