Python while true实现爬虫定时任务


Posted in Python onJune 08, 2020

记得以前的windows 任务定时是可以的正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。

接下来记录下python 爬虫定时任务的几种解决方法。

今天是第一篇,后面会陆续更新。

首先最容易的是while true死循环挂起,上代码

import osimport timeimport sysfrom datetime import datetime, timedelta
def One_Plan():
   # 设置启动周期
   Second_update_time = 24 * 60 * 60
   
  # 当前时间
  now_Time = datetime.now()
  # 设置 任务启动时间
  plan_Time = now_Time.replace(hour=9, minute=0, second=0, microsecond=0) 
  # 设置差值,-1 day, 21:48:53.246576,类似于这样
  # time.sleep()需要传入int,所以下面使用.total_seconds() 
  # 主要用来计算差值,返回int,具体功能可以自行查阅相关资料
  delta = plan_Time - now_Time
  first_plan_Time = delta.total_seconds() % Second_update_time
  print("距离第一次执行需要睡眠%d秒" % first_plan_Time)
  return first_plan_Time

# while Ture代码块,挂起程序,睡眠时间结束后调用函数名进行执行
while True:

  s1 = One_Plan()
  time.sleep(s1)
  # 下面这里是自己定义的函数,想跑代码的可以换成hellow world函数或者注释掉这行测试下
  exe_file(D_list)
  print("正在执行首次更新程序")

个人感觉使用这种方式进行定时计划的启动如果为单个程序,并且一天执行一次的话没什么问题,如果要考虑到一天执行多个任务并且一天需要执行多次,短板一下就凸显出来了,

在工作的情况中还需要考虑到很多因素,比如爬虫程序需要在晚上12点和早上6点,9点,下午3点执行四次,并且需要同时执行4个爬虫,还需要考虑到网络是否稳定,如果程序挂掉该怎么处理等等因素

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
介绍Python中的文档测试模块
Apr 28 Python
浅析Python的web.py框架中url的设定方法
Jul 11 Python
Python 常用 PEP8 编码规范详解
Jan 22 Python
Android 兼容性问题:java.lang.UnsupportedOperationException解决办法
Mar 19 Python
python实现拓扑排序的基本教程
Mar 11 Python
python发送告警邮件脚本
Sep 17 Python
python 在指定范围内随机生成不重复的n个数实例
Jan 28 Python
TensorFlow绘制loss/accuracy曲线的实例
Jan 21 Python
Python 实现日志同时输出到屏幕和文件
Feb 19 Python
python爬虫判断招聘信息是否存在的实例代码
Nov 20 Python
pytorch 一行代码查看网络参数总量的实现
May 12 Python
python编程简单几行代码实现视频转换Gif示例
Oct 05 Python
python 实现rolling和apply函数的向下取值操作
Jun 08 #Python
基于python计算滚动方差(标准差)talib和pd.rolling函数差异详解
Jun 08 #Python
Python实现查找数据库最接近的数据
Jun 08 #Python
python numpy库np.percentile用法说明
Jun 08 #Python
python thrift 实现 单端口多服务的过程
Jun 08 #Python
Python astype(np.float)函数使用方法解析
Jun 08 #Python
python opencv 实现读取、显示、写入图像的方法
Jun 08 #Python
You might like
关于BIG5-HKSCS的解决方法
2007/03/20 PHP
javascript十个最常用的自定义函数(中文版)
2009/09/07 Javascript
javascript和jquery修改a标签的href属性
2013/12/16 Javascript
jquery常用特效方法使用示例
2014/04/25 Javascript
javascript处理表单示例(javascript提交表单)
2014/04/28 Javascript
不得不分享的JavaScript常用方法函数集(上)
2015/12/23 Javascript
浅析JavaScript 箭头函数 generator Date JSON
2016/05/23 Javascript
浅谈jquery中的each方法$.each、this.each、$.fn.each
2016/06/23 Javascript
一个简单的JavaScript Map实例(分享)
2016/08/03 Javascript
JS及JQuery对Html内容编码,Html转义
2017/02/17 Javascript
JS 设置Cookie 有效期 检测cookie
2017/06/15 Javascript
Angular指令之restict匹配模式的详解
2017/07/27 Javascript
VUE前端cookie简单操作
2017/10/17 Javascript
快速搭建React的环境步骤详解
2017/11/06 Javascript
详解JavaScript中的数组合并方法和对象合并方法
2018/05/11 Javascript
js事件on动态绑定数据,绑定多个事件的方法
2018/09/15 Javascript
vue的.vue文件是怎么run起来的(vue-loader)
2018/12/10 Javascript
vue获取form表单的值示例
2019/10/29 Javascript
JavaScript indexOf()原理及使用方法详解
2020/07/09 Javascript
vue离开当前页面触发的函数代码
2020/09/01 Javascript
原生jQuery实现只显示年份下拉框
2020/12/24 jQuery
详解使用PyInstaller将Pygame库编写的小游戏程序打包为exe文件
2019/08/23 Python
Python操作列表常用方法实例小结【创建、遍历、统计、切片等】
2019/10/25 Python
基于python实现蓝牙通信代码实例
2019/11/19 Python
Python实现数值积分方式
2019/11/20 Python
解决pyshp UnicodeDecodeError的问题
2019/12/06 Python
对Tensorflow中tensorboard日志的生成与显示详解
2020/02/04 Python
Python基于argparse与ConfigParser库进行入参解析与ini parser
2021/02/02 Python
详解python的xlwings库读写excel操作总结
2021/02/26 Python
美国一家全面的在线零售鞋类公司:SHOEBACCA
2017/01/06 全球购物
捷克时尚网上商店:OTTO
2018/03/15 全球购物
社区清明节活动总结
2014/07/04 职场文书
毕业班工作总结
2015/08/10 职场文书
详解如何修改nginx的默认端口
2021/03/31 Servers
MySQL中varchar和char类型的区别
2021/11/17 MySQL
Nginx使用ngx_http_upstream_module实现负载均衡功能示例
2022/08/05 Servers