Python while true实现爬虫定时任务


Posted in Python onJune 08, 2020

记得以前的windows 任务定时是可以的正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。

接下来记录下python 爬虫定时任务的几种解决方法。

今天是第一篇,后面会陆续更新。

首先最容易的是while true死循环挂起,上代码

import osimport timeimport sysfrom datetime import datetime, timedelta
def One_Plan():
   # 设置启动周期
   Second_update_time = 24 * 60 * 60
   
  # 当前时间
  now_Time = datetime.now()
  # 设置 任务启动时间
  plan_Time = now_Time.replace(hour=9, minute=0, second=0, microsecond=0) 
  # 设置差值,-1 day, 21:48:53.246576,类似于这样
  # time.sleep()需要传入int,所以下面使用.total_seconds() 
  # 主要用来计算差值,返回int,具体功能可以自行查阅相关资料
  delta = plan_Time - now_Time
  first_plan_Time = delta.total_seconds() % Second_update_time
  print("距离第一次执行需要睡眠%d秒" % first_plan_Time)
  return first_plan_Time

# while Ture代码块,挂起程序,睡眠时间结束后调用函数名进行执行
while True:

  s1 = One_Plan()
  time.sleep(s1)
  # 下面这里是自己定义的函数,想跑代码的可以换成hellow world函数或者注释掉这行测试下
  exe_file(D_list)
  print("正在执行首次更新程序")

个人感觉使用这种方式进行定时计划的启动如果为单个程序,并且一天执行一次的话没什么问题,如果要考虑到一天执行多个任务并且一天需要执行多次,短板一下就凸显出来了,

在工作的情况中还需要考虑到很多因素,比如爬虫程序需要在晚上12点和早上6点,9点,下午3点执行四次,并且需要同时执行4个爬虫,还需要考虑到网络是否稳定,如果程序挂掉该怎么处理等等因素

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python判断给定的字符串是否是有效日期的方法
May 13 Python
Python实现Youku视频批量下载功能
Mar 14 Python
python删除不需要的python文件方法
Apr 24 Python
Python 打印中文字符的三种方法
Aug 14 Python
Python PyAutoGUI模块控制鼠标和键盘实现自动化任务详解
Sep 04 Python
python实现指定文件夹下的指定文件移动到指定位置
Sep 17 Python
Python将主机名转换为IP地址的方法
Aug 14 Python
Python 利用邮件系统完成远程控制电脑的实现(关机、重启等)
Nov 19 Python
python 实现字符串下标的输出功能
Feb 13 Python
CentOS 7如何实现定时执行python脚本
Jun 24 Python
Appium+Python实现简单的自动化登录测试的实现
Jan 26 Python
Python可视化学习之seaborn调色盘
Feb 24 Python
python 实现rolling和apply函数的向下取值操作
Jun 08 #Python
基于python计算滚动方差(标准差)talib和pd.rolling函数差异详解
Jun 08 #Python
Python实现查找数据库最接近的数据
Jun 08 #Python
python numpy库np.percentile用法说明
Jun 08 #Python
python thrift 实现 单端口多服务的过程
Jun 08 #Python
Python astype(np.float)函数使用方法解析
Jun 08 #Python
python opencv 实现读取、显示、写入图像的方法
Jun 08 #Python
You might like
PHP json格式和js json格式 js跨域调用实现代码
2012/09/08 PHP
js宝典学习笔记(上)
2007/01/10 Javascript
基于jQuery的input输入框下拉提示层(自动邮箱后缀名)
2012/06/14 Javascript
读取input:file的路径并显示本地图片的方法
2013/09/23 Javascript
教你使用javascript简单写一个页面模板引擎
2015/05/05 Javascript
WordPress中利用AJAX技术进行评论提交的实现示例
2016/01/12 Javascript
jQuery插件实现适用于移动端的地址选择器
2016/02/18 Javascript
微信小程序加载更多 点击查看更多
2016/11/29 Javascript
Angualrjs 表单验证的两种方式(失去焦点验证和点击提交验证)
2017/05/09 Javascript
jQuery+HTML5实现WebGL高性能烟花绽放动画效果【附demo源码下载】
2017/08/18 jQuery
Three.js利用顶点绘制立方体的方法详解
2017/09/27 Javascript
Node.js 使用jade模板引擎的示例
2018/05/11 Javascript
对vuejs的v-for遍历、v-bind动态改变值、v-if进行判断的实例讲解
2018/08/27 Javascript
详解element上传组件before-remove钩子问题解决
2020/04/08 Javascript
使用JavaScript和MQTT开发物联网应用示例解析
2020/08/07 Javascript
javascript实现多边形碰撞检测
2020/10/24 Javascript
[10:39]DOTA2上海特级锦标赛音乐会纪录片
2016/03/21 DOTA
简单介绍Python的Django框架加载模版的方式
2015/07/20 Python
Python实现的破解字符串找茬游戏算法示例
2017/09/25 Python
python实现人人自动回复、抢沙发功能
2018/06/08 Python
python装饰器常见使用方法分析
2019/06/26 Python
基于python实现把图片转换成素描
2019/11/13 Python
文件上传服务器-jupyter 中python解压及压缩方式
2020/04/22 Python
Python调用C语言程序方法解析
2020/07/07 Python
Python3爬虫中Selenium的用法详解
2020/07/10 Python
python编程的核心知识点总结
2021/02/08 Python
详解H5本地储存Web Storage
2017/07/03 HTML / CSS
C#和SQL Server的面试题
2016/08/12 面试题
写好自荐信的技巧
2013/11/08 职场文书
大专生毕业的自我评价
2014/02/06 职场文书
十八届三中全会报告学习材料
2014/02/17 职场文书
2014年幼儿园植树节活动方案
2014/03/02 职场文书
高中学生期末评语
2014/04/25 职场文书
行政二审代理词
2015/05/25 职场文书
搞笑欢迎词大全
2015/09/30 职场文书
Python jiaba库的使用详解
2021/11/23 Python