详解程序意外中断自动重启shell脚本(以Python为例)


Posted in Python onJuly 26, 2019

我们经常需要在后台运行一些python脚本,来监控系统或者做一些其他事情;但是 由于各种各样的原因,排除python脚本代码的问题,脚本运行过程中会挂掉。为了不天天耗在上面等重启,可以制作shell脚本对程序予以监控,对于意外中断的程序自动重启。

以控制 python自动重启的shell脚本为例:

cd Desktop
vim run.sh #新建名为run的shell脚本

写入(此处以名为run的Python脚本为例)

#!/bin/bash
while [ 1 ];do
 python run.py
done
chmod 777 run.sh #设置shell脚本权限
./run.sh   #运行shell脚本

详解程序意外中断自动重启shell脚本(以Python为例)

详解程序意外中断自动重启shell脚本(以Python为例)

可见Python脚本意外中断(被kill)后,由于shell脚本的循环语句,实现了自动重启。

详解程序意外中断自动重启shell脚本(以Python为例)

在测试完确保能够正常运行后,切换为后台运行:关于后台运行命令原理,点此查看。

nohup ./run5.py &

详解程序意外中断自动重启shell脚本(以Python为例)

此外,做爬虫项目时,我们需要考虑一个爬虫在爬取时会遇到各种情况(网站验证,ip封禁),导致爬虫程序中断,这时我们已经爬取过一些数据,再次爬取时这些数据就可以忽略,所以我们需要在爬虫项目中设置一个中断重连的功能,使其在重新运行时从之前断掉的位置重新爬取数据。此代码参见自 匡虐博客

import os
class UrlManager(object):
 def __init__(self):						#建立两个数组的文件
  with open('new_urls.txt','r+') as new_urls:
   self.new_urls = new_urls.read()
  with open('old_urls.txt','r+') as old_urls:
   self.old_urls = old_urls.read()

 def add_new_url(self, url): 				 #添加url到new_ulrs文件中
  if url is None:
   return
  if url not in self.new_urls and url not in self.old_urls:
   with open('new_urls.txt', 'a') as new_urls:
    new_urls.write(url)
  else:
   print('url had done')

 def add_new_urls(self, urls):				#添加多个url到new_ulrs文件中
  # if urls is None or (len(url) == 0 for url in urls):
  if urls is None:
   print('url is none')
   return
  for url in urls:
   if urls is None:
    print('url is none')
    return
   else:
    self.add_new_url(url)

 def has_new_url(self):
  return len(self.new_urls) != 0

 def get_new_url(self):				
  new_url = get_last_line('new_urls.txt') 	#读取new_urls文件中最后一个url
  del_last_url('new_urls.txt',new_url)		#删除new_urls文件中最后一个url
  add_old_urls('old_urls.txt',new_url)		#将读取出来的url添加入old_urls数组中
  return new_url

	def get_last_line(inputfile):
	 filesize = os.path.getsize(inputfile)
	 blocksize = 1024
	 dat_file = open(inputfile, 'rb')
	
	 last_line = b""
	 lines = []
	 if filesize > blocksize:
	  maxseekpoint = (filesize // blocksize) # 这里的除法取的是floor
	  maxseekpoint -= 1
	  dat_file.seek(maxseekpoint * blocksize)
	  lines = dat_file.readlines()
	  while ((len(lines) < 2) | ((len(lines) >= 2) & (lines[1] == b'\r\n'))): # 因为在Windows下,所以是b'\r\n'
	   # 如果列表长度小于2,或者虽然长度大于等于2,但第二个元素却还是空行
	   # 如果跳出循环,那么lines长度大于等于2,且第二个元素肯定是完整的行
	   maxseekpoint -= 1
	   dat_file.seek(maxseekpoint * blocksize)
	   lines = dat_file.readlines()
	 elif filesize: # 文件大小不为空
	  dat_file.seek(0, 0)
	  lines = dat_file.readlines()
	 if lines: # 列表不为空
	  for i in range(len(lines) - 1, -1, -1):
	   last_line = lines[i].strip()
	   if (last_line != b''):
	    break # 已经找到最后一个不是空行的
	 dat_file.close()
	 return last_line
	
	def del_last_url(fname,part):
	 with open(fname,'rb+') as f:
	  a = f.read()
	 a = a.replace(part,b'')
	 with open(fname,'wb+') as f:
	  f.write(a)
	  
	def add_old_urls(fname,new_url):
	 line = new_url + b'\r'
	 with open(fname,'ab') as f:
	  f.write(line)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
用python实现批量重命名文件的代码
May 25 Python
讲解Python的Scrapy爬虫框架使用代理进行采集的方法
Feb 18 Python
详解 Python 读写XML文件的实例
Aug 02 Python
Window10+Python3.5安装opencv的教程推荐
Apr 02 Python
10 行 Python 代码教你自动发送短信(不想回复工作邮件妙招)
Oct 11 Python
django drf框架中的user验证以及JWT拓展的介绍
Aug 12 Python
Python如何使用Gitlab API实现批量的合并分支
Nov 27 Python
对tensorflow中cifar-10文档的Read操作详解
Feb 10 Python
使用python 计算百分位数实现数据分箱代码
Mar 03 Python
Python如何在单元测试中给对象打补丁
Aug 03 Python
Python二元算术运算常用方法解析
Sep 15 Python
Python列表元素删除和remove()方法详解
Jan 04 Python
python的pstuil模块使用方法总结
Jul 26 #Python
python爬虫项目设置一个中断重连的程序的实现
Jul 26 #Python
python通过http下载文件的方法详解
Jul 26 #Python
快速解决vue.js 模板和jinja 模板冲突的问题
Jul 26 #Python
Python调用C语言的实现
Jul 26 #Python
Python实现的企业粉丝抽奖功能示例
Jul 26 #Python
对Django外键关系的描述
Jul 26 #Python
You might like
php切割页面div内容的实现代码分享
2012/07/31 PHP
linux下安装php的memcached客户端
2014/08/03 PHP
PHP提示Cannot modify header information - headers already sent by解决方法
2014/09/22 PHP
php使用parse_url和parse_str解析URL
2015/02/22 PHP
bindParam和bindValue的区别以及在Yii2中的使用详解
2018/03/12 PHP
PHP中echo与print区别点整理
2021/03/09 PHP
jquery 输入框数字限制插件
2009/11/10 Javascript
得到form下的所有的input的js代码
2013/11/07 Javascript
javascript动态添加、修改、删除对象的属性与方法详解
2014/01/27 Javascript
用jquery仿做发微博功能示例
2014/04/18 Javascript
JavaScript中document对象使用详解
2015/01/06 Javascript
jQuery实现鼠标经过事件的延时处理效果
2020/08/20 Javascript
解决JS无法调用Controller问题的方法
2015/12/31 Javascript
在线引用最新jquery文件的实现方法
2016/08/26 Javascript
layer弹出的iframe层在执行完毕后关闭当前弹出层的方法
2018/08/17 Javascript
在Vue中实现随hash改变响应菜单高亮
2020/03/09 Javascript
vue脚手架项目创建步骤详解
2021/03/02 Vue.js
在Django中同时使用多个配置文件的方法
2015/07/22 Python
Python实现希尔排序算法的原理与用法实例分析
2017/11/23 Python
python实现自动发送邮件
2018/06/20 Python
python实现机器人卡牌
2019/10/06 Python
Python+OpenCV 实现图片无损旋转90°且无黑边
2019/12/12 Python
Python中的xlrd模块使用原理解析
2020/05/21 Python
css3教程之倾斜页面
2014/01/27 HTML / CSS
快速实现一个简单的canvas迷宫游戏的示例
2018/07/04 HTML / CSS
面试自我评价范文
2014/09/17 职场文书
校园运动会广播稿
2014/10/06 职场文书
投资合作意向书范本
2015/05/08 职场文书
小学生运动会广播
2015/08/19 职场文书
财务人员入职担保书
2015/09/22 职场文书
2016中秋晚会开幕词
2016/03/03 职场文书
学会掌握自己命运的十条黄金法则:
2019/08/08 职场文书
浅谈MySql整型索引和字符串索引失效或隐式转换问题
2021/11/20 MySQL
详解Golang如何优雅的终止一个服务
2022/03/21 Golang
《废话连篇——致新手》——chinapizza
2022/04/05 无线电
windows11选中自动复制怎么开启? Win11自动复制所选内容的方法
2022/07/23 数码科技