Python while true实现爬虫定时任务


Posted in Python onJune 08, 2020

记得以前的windows 任务定时是可以的正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。

接下来记录下python 爬虫定时任务的几种解决方法。

今天是第一篇,后面会陆续更新。

首先最容易的是while true死循环挂起,上代码

import osimport timeimport sysfrom datetime import datetime, timedelta
def One_Plan():
   # 设置启动周期
   Second_update_time = 24 * 60 * 60
   
  # 当前时间
  now_Time = datetime.now()
  # 设置 任务启动时间
  plan_Time = now_Time.replace(hour=9, minute=0, second=0, microsecond=0) 
  # 设置差值,-1 day, 21:48:53.246576,类似于这样
  # time.sleep()需要传入int,所以下面使用.total_seconds() 
  # 主要用来计算差值,返回int,具体功能可以自行查阅相关资料
  delta = plan_Time - now_Time
  first_plan_Time = delta.total_seconds() % Second_update_time
  print("距离第一次执行需要睡眠%d秒" % first_plan_Time)
  return first_plan_Time

# while Ture代码块,挂起程序,睡眠时间结束后调用函数名进行执行
while True:

  s1 = One_Plan()
  time.sleep(s1)
  # 下面这里是自己定义的函数,想跑代码的可以换成hellow world函数或者注释掉这行测试下
  exe_file(D_list)
  print("正在执行首次更新程序")

个人感觉使用这种方式进行定时计划的启动如果为单个程序,并且一天执行一次的话没什么问题,如果要考虑到一天执行多个任务并且一天需要执行多次,短板一下就凸显出来了,

在工作的情况中还需要考虑到很多因素,比如爬虫程序需要在晚上12点和早上6点,9点,下午3点执行四次,并且需要同时执行4个爬虫,还需要考虑到网络是否稳定,如果程序挂掉该怎么处理等等因素

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
github配置使用指南
Nov 18 Python
PyQt5每天必学之进度条效果
Apr 19 Python
Python基于百度AI的文字识别的示例
Apr 21 Python
python3中的md5加密实例
May 29 Python
Python 类的特殊成员解析
Jun 20 Python
Python日志无延迟实时写入的示例
Jul 11 Python
Pytorch 之修改Tensor部分值方式
Dec 27 Python
Python文本文件的合并操作方法代码实例
Mar 31 Python
python传到前端的数据,双引号被转义的问题
Apr 03 Python
使用matplotlib动态刷新指定曲线实例
Apr 23 Python
pycharm导入源码的具体步骤
Aug 04 Python
Python Selenium XPath根据文本内容查找元素的方法
Dec 07 Python
python 实现rolling和apply函数的向下取值操作
Jun 08 #Python
基于python计算滚动方差(标准差)talib和pd.rolling函数差异详解
Jun 08 #Python
Python实现查找数据库最接近的数据
Jun 08 #Python
python numpy库np.percentile用法说明
Jun 08 #Python
python thrift 实现 单端口多服务的过程
Jun 08 #Python
Python astype(np.float)函数使用方法解析
Jun 08 #Python
python opencv 实现读取、显示、写入图像的方法
Jun 08 #Python
You might like
CI框架源码阅读,系统常量文件constants.php的配置
2013/02/28 PHP
php版微信公众平台实现预约提交后发送email的方法
2016/09/26 PHP
PHP添加PNG图片背景透明水印操作类定义与用法示例
2019/03/12 PHP
jQuery Jcrop插件实现图片选取功能
2011/11/23 Javascript
基于KMP算法JavaScript的实现方法分析
2013/05/03 Javascript
php is_numberic函数造成的SQL注入漏洞
2014/03/10 Javascript
jQuery三级下拉列表导航菜单代码分享
2020/04/15 Javascript
jQuery 弹出层插件(推荐)
2016/05/24 Javascript
vue按需引入element Transfer 穿梭框
2017/09/30 Javascript
vue+socket.io+express+mongodb 实现简易多房间在线群聊示例
2017/10/21 Javascript
微信小程序之分享页面如何返回首页的示例
2018/03/28 Javascript
关于React动态加载路由处理的相关问题
2019/01/07 Javascript
electron踩坑之dialog中的callback解决
2020/10/06 Javascript
解决ant Design Search无法输入内容的问题
2020/10/29 Javascript
[01:00:30]TFT vs VGJ.T Supermajor 败者组 BO3 第一场 6.5
2018/06/06 DOTA
Python中分数的相关使用教程
2015/03/30 Python
Python函数中的函数(闭包)用法实例
2016/03/15 Python
python生成excel的实例代码
2017/11/08 Python
基于Python中单例模式的几种实现方式及优化详解
2018/01/09 Python
python 编码规范整理
2018/05/05 Python
python3中property使用方法详解
2019/04/23 Python
python多线程共享变量的使用和效率方法
2019/07/16 Python
python设置代理和添加镜像源的方法
2020/02/14 Python
Python3.6 中的pyinstaller安装和使用教程
2020/03/16 Python
django model 条件过滤 queryset.filter(**condtions)用法详解
2020/05/20 Python
Python socket服务常用操作代码实例
2020/06/22 Python
CSS3 二级导航菜单的制作的示例
2018/04/02 HTML / CSS
玩具反斗城西班牙网上商城:ToysRUs西班牙
2017/01/19 全球购物
德国最大的婴儿用品网上商店:Kidsroom.de(支持中文)
2020/09/02 全球购物
应届护士推荐信
2013/11/16 职场文书
《木笛》教学反思
2014/03/01 职场文书
机电职业生涯规划书范文
2014/03/08 职场文书
跟单业务员岗位职责
2014/03/08 职场文书
煤矿安全演讲稿
2014/05/09 职场文书
医德医风自我评价
2014/09/19 职场文书
医者仁心观后感
2015/06/17 职场文书