python脚本后台执行方式


Posted in Python onDecember 21, 2019

在Linux中,可以使用nohup将脚本放置后台运行,如下:

nohup python myscript.py params1 > nohup.out 2>&1 &

1

但直接使用上面代码,无法在程序运行过程中查看Python中的print "computing" 输出结果,比如在每次循环中使用print语句等。原因是python的输出有缓冲,导致nohup.out不能够马上看到输出。

解决方法:

使用-u参数,使得python不启用缓冲。

修改命令如下:

nohup python -u myscript.py params1 > nohup.out 2>&1 &
from https://www.ibm.com/developerworks/cn/linux/l-cn-nohup/

我们经常会碰到这样的问题,用 telnet/ssh 登录了远程的 Linux 服务器,运行了一些耗时较长的任务, 结果却由于网络的不稳定导致任务中途失败。如何让命令提交后不受本地关闭终端窗口/网络断开连接的干扰呢?下面举了一些例子, 您可以针对不同的场景选择不同的方式来处理这个问题。

nohup/setsid/&

场景:

如果只是临时有一个命令需要长时间运行,什么方法能最简便的保证它在后台稳定运行呢?

hangup 名称的来由

在 Unix 的早期版本中,每个终端都会通过 modem 和系统通讯。当用户 logout 时,modem 就会挂断(hang up)电话。 同理,当 modem 断开连接时,就会给终端发送 hangup 信号来通知其关闭所有子进程。

解决方法:

我们知道,当用户注销(logout)或者网络断开时,终端会收到 HUP(hangup)信号从而关闭其所有子进程。因此,我们的解决办法就有两种途径:要么让进程忽略 HUP 信号,要么让进程运行在新的会话里从而成为不属于此终端的子进程。

1. nohup

nohup 无疑是我们首先想到的办法。顾名思义,nohup 的用途就是让提交的命令忽略 hangup 信号。让我们先来看一下 nohup 的帮助信息:

NOHUP(1)   User Commands   NOHUP(1)
 
NAME
 nohup - run a command immune to hangups, with output to a non-tty
 
SYNOPSIS
 nohup COMMAND [ARG]...
 nohup OPTION
 
DESCRIPTION
 Run COMMAND, ignoring hangup signals.
 
 --help display this help and exit
 
 --version
  output version information and exit

可见,nohup 的使用是十分方便的,只需在要处理的命令前加上 nohup 即可,标准输出和标准错误缺省会被重定向到 nohup.out 文件中。一般我们可在结尾加上"&"来将命令同时放入后台运行,也可用">filename 2>&1"来更改缺省的重定向文件名。

nohup 示例

[root@pvcent107 ~]# nohup ping www.ibm.com &
[1] 3059
nohup: appending output to `nohup.out'
[root@pvcent107 ~]# ps -ef |grep 3059
root 3059 984 0 21:06 pts/3 00:00:00 ping www.ibm.com
root 3067 984 0 21:06 pts/3 00:00:00 grep 3059
[root@pvcent107 ~]#

2。setsid

nohup 无疑能通过忽略 HUP 信号来使我们的进程避免中途被中断,但如果我们换个角度思考,如果我们的进程不属于接受 HUP 信号的终端的子进程,那么自然也就不会受到 HUP 信号的影响了。setsid 就能帮助我们做到这一点。让我们先来看一下 setsid 的帮助信息:

SETSID(8)   Linux Programmer's Manual   SETSID(8)
 
NAME
 setsid - run a program in a new session
 
SYNOPSIS
 setsid program [ arg ... ]
 
DESCRIPTION
 setsid runs a program in a new session.

可见 setsid 的使用也是非常方便的,也只需在要处理的命令前加上 setsid 即可。

setsid 示例

[root@pvcent107 ~]# setsid ping www.ibm.com
[root@pvcent107 ~]# ps -ef |grep www.ibm.com
root 31094 1 0 07:28 ? 00:00:00 ping www.ibm.com
root 31102 29217 0 07:29 pts/4 00:00:00 grep www.ibm.com
[root@pvcent107 ~]#

值得注意的是,上例中我们的进程 ID(PID)为31094,而它的父 ID(PPID)为1(即为 init 进程 ID),并不是当前终端的进程 ID。请将此例与nohup 例中的父 ID 做比较。

3。&

这里还有一个关于 subshell 的小技巧。我们知道,将一个或多个命名包含在“()”中就能让这些命令在子 shell 中运行中,从而扩展出很多有趣的功能,我们现在要讨论的就是其中之一。

当我们将"&"也放入“()”内之后,我们就会发现所提交的作业并不在作业列表中,也就是说,是无法通过jobs来查看的。让我们来看看为什么这样就能躲过 HUP 信号的影响吧。

subshell 示例

[root@pvcent107 ~]# (ping www.ibm.com &)
[root@pvcent107 ~]# ps -ef |grep www.ibm.com
root 16270 1 0 14:13 pts/4 00:00:00 ping www.ibm.com
root 16278 15362 0 14:13 pts/4 00:00:00 grep www.ibm.com
[root@pvcent107 ~]#

从上例中可以看出,新提交的进程的父 ID(PPID)为1(init 进程的 PID),并不是当前终端的进程 ID。因此并不属于当前终端的子进程,从而也就不会受到当前终端的 HUP 信号的影响了。

disown

场景:

我们已经知道,如果事先在命令前加上 nohup 或者 setsid 就可以避免 HUP 信号的影响。但是如果我们未加任何处理就已经提交了命令,该如何补救才能让它避免 HUP 信号的影响呢?

解决方法:

这时想加 nohup 或者 setsid 已经为时已晚,只能通过作业调度和 disown 来解决这个问题了。让我们来看一下 disown 的帮助信息:

disown [-ar] [-h] [jobspec ...]
 Without options, each jobspec is removed from the table of
 active jobs. If the -h option is given, each jobspec is not
 removed from the table, but is marked so that SIGHUP is not
 sent to the job if the shell receives a SIGHUP. If no jobspec
 is present, and neither the -a nor the -r option is supplied,
 the current job is used. If no jobspec is supplied, the -a
 option means to remove or mark all jobs; the -r option without
 a jobspec argument restricts operation to running jobs. The
 return value is 0 unless a jobspec does not specify a valid
 job.

可以看出,我们可以用如下方式来达成我们的目的。

灵活运用 CTRL-z

在我们的日常工作中,我们可以用 CTRL-z 来将当前进程挂起到后台暂停运行,执行一些别的操作,然后再用 fg 来将挂起的进程重新放回前台(也可用 bg 来将挂起的进程放在后台)继续运行。这样我们就可以在一个终端内灵活切换运行多个任务,这一点在调试代码时尤为有用。因为将代码编辑器挂起到后台再重新放回时,光标定位仍然停留在上次挂起时的位置,避免了重新定位的麻烦。

用disown -h jobspec来使某个作业忽略HUP信号。

用disown -ah 来使所有的作业都忽略HUP信号。

用disown -rh 来使正在运行的作业忽略HUP信号。

需要注意的是,当使用过 disown 之后,会将把目标作业从作业列表中移除,我们将不能再使用jobs来查看它,但是依然能够用ps -ef查找到它。

但是还有一个问题,这种方法的操作对象是作业,如果我们在运行命令时在结尾加了"&"来使它成为一个作业并在后台运行,那么就万事大吉了,我们可以通过jobs命令来得到所有作业的列表。但是如果并没有把当前命令作为作业来运行,如何才能得到它的作业号呢?答案就是用 CTRL-z(按住Ctrl键的同时按住z键)了!

CTRL-z 的用途就是将当前进程挂起(Suspend),然后我们就可以用jobs命令来查询它的作业号,再用bg jobspec来将它放入后台并继续运行。需要注意的是,如果挂起会影响当前进程的运行结果,请慎用此方法。

disown 示例1(如果提交命令时已经用“&”将命令放入后台运行,则可以直接使用“disown”)

[root@pvcent107 build]# cp -r testLargeFile largeFile &
[1] 4825
[root@pvcent107 build]# jobs
[1]+ Running   cp -i -r testLargeFile largeFile &
[root@pvcent107 build]# disown -h %1
[root@pvcent107 build]# ps -ef |grep largeFile
root 4825 968 1 09:46 pts/4 00:00:00 cp -i -r testLargeFile largeFile
root 4853 968 0 09:46 pts/4 00:00:00 grep largeFile
[root@pvcent107 build]# logout

disown 示例2(如果提交命令时未使用“&”将命令放入后台运行,可使用 CTRL-z 和“bg”将其放入后台,再使用“disown”)

[root@pvcent107 build]# cp -r testLargeFile largeFile2
 
[1]+ Stopped   cp -i -r testLargeFile largeFile2
[root@pvcent107 build]# bg %1
[1]+ cp -i -r testLargeFile largeFile2 &
[root@pvcent107 build]# jobs
[1]+ Running   cp -i -r testLargeFile largeFile2 &
[root@pvcent107 build]# disown -h %1
[root@pvcent107 build]# ps -ef |grep largeFile2
root 5790 5577 1 10:04 pts/3 00:00:00 cp -i -r testLargeFile largeFile2
root 5824 5577 0 10:05 pts/3 00:00:00 grep largeFile2
[root@pvcent107 build]#
screen

场景:

我们已经知道了如何让进程免受 HUP 信号的影响,但是如果有大量这种命令需要在稳定的后台里运行,如何避免对每条命令都做这样的操作呢?

解决方法:

此时最方便的方法就是 screen 了。简单的说,screen 提供了 ANSI/VT100 的终端模拟器,使它能够在一个真实终端下运行多个全屏的伪终端。screen 的参数很多,具有很强大的功能,我们在此仅介绍其常用功能以及简要分析一下为什么使用 screen 能够避免 HUP 信号的影响。我们先看一下 screen 的帮助信息:

SCREEN(1)        SCREEN(1)
 
NAME
 screen - screen manager with VT100/ANSI terminal emulation
 
SYNOPSIS
 screen [ -options ] [ cmd [ args ] ]
 screen -r [[pid.]tty[.host]]
 screen -r sessionowner/[[pid.]tty[.host]]
 
DESCRIPTION
 Screen is a full-screen window manager that multiplexes a physical
 terminal between several processes (typically interactive shells).
 Each virtual terminal provides the functions of a DEC VT100 terminal
 and, in addition, several control functions from the ISO 6429 (ECMA
 48, ANSI X3.64) and ISO 2022 standards (e.g. insert/delete line and
 support for multiple character sets). There is a scrollback history
 buffer for each virtual terminal and a copy-and-paste mechanism that
 allows moving text regions between windows.

使用 screen 很方便,有以下几个常用选项:

用screen -dmS session name来建立一个处于断开模式下的会话(并指定其会话名)。

用screen -list 来列出所有会话。

用screen -r session name来重新连接指定会话。

用快捷键CTRL-a d 来暂时断开当前会话。

screen 示例

[root@pvcent107 ~]# screen -dmS Urumchi
[root@pvcent107 ~]# screen -list
There is a screen on:
 12842.Urumchi (Detached)
1 Socket in /tmp/screens/S-root.
 
[root@pvcent107 ~]# screen -r Urumchi

当我们用“-r”连接到 screen 会话后,我们就可以在这个伪终端里面为所欲为,再也不用担心 HUP 信号会对我们的进程造成影响,也不用给每个命令前都加上“nohup”或者“setsid”了。这是为什么呢?让我来看一下下面两个例子吧。

1. 未使用 screen 时新进程的进程树

[root@pvcent107 ~]# ping www.google.com &
[1] 9499
[root@pvcent107 ~]# pstree -H 9499
init─┬─Xvnc
 ├─acpid
 ├─atd
 ├─2*[sendmail] 
 ├─sshd─┬─sshd───bash───pstree
 │ └─sshd───bash───ping

我们可以看出,未使用 screen 时我们所处的 bash 是 sshd 的子进程,当 ssh 断开连接时,HUP 信号自然会影响到它下面的所有子进程(包括我们新建立的 ping 进程)。

2. 使用了 screen 后新进程的进程树

[root@pvcent107 ~]# screen -r Urumchi
[root@pvcent107 ~]# ping www.ibm.com &
[1] 9488
[root@pvcent107 ~]# pstree -H 9488
init─┬─Xvnc
 ├─acpid
 ├─atd
 ├─screen───bash───ping
 ├─2*[sendmail]

而使用了 screen 后就不同了,此时 bash 是 screen 的子进程,而 screen 是 init(PID为1)的子进程。那么当 ssh 断开连接时,HUP 信号自然不会影响到 screen 下面的子进程了。

总结

现在几种方法已经介绍完毕,我们可以根据不同的场景来选择不同的方案。nohup/setsid 无疑是临时需要时最方便的方法,disown 能帮助我们来事后补救当前已经在运行了的作业,而 screen 则是在大批量操作时不二的选择了。

以上这篇python脚本后台执行方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python修改Excel数据的实例代码
Nov 01 Python
Python利用Beautiful Soup模块创建对象详解
Mar 27 Python
Python3 中把txt数据文件读入到矩阵中的方法
Apr 27 Python
对python中使用requests模块参数编码的不同处理方法
May 18 Python
selenium+python实现1688网站验证码图片的截取功能
Aug 14 Python
用python一行代码得到数组中某个元素的个数方法
Jan 28 Python
解决Python正则表达式匹配反斜杠''\''问题
Jul 17 Python
Python中字典与恒等运算符的用法分析
Aug 22 Python
详解django中Template语言
Feb 22 Python
Django调用百度AI接口实现人脸注册登录代码实例
Apr 23 Python
Python使用pycharm导入pymysql教程
Sep 16 Python
Python 中Operator模块的使用
Jan 30 Python
Python模块的制作方法实例分析
Dec 21 #Python
基于Python 中函数的 收集参数 机制
Dec 21 #Python
Python3 解决读取中文文件txt编码的问题
Dec 20 #Python
python 类之间的参数传递方式
Dec 20 #Python
使用pyinstaller逆向.pyc文件
Dec 20 #Python
Python3 实现减少可调用对象的参数个数
Dec 20 #Python
python获取引用对象的个数方式
Dec 20 #Python
You might like
通过对php一些服务器端特性的配置加强php的安全
2006/10/09 PHP
用php写的serv-u的web申请账号的程序
2006/10/09 PHP
php访问查询mysql数据的三种方法
2006/10/09 PHP
解决phpmyadmin中缺少mysqli扩展问题的方法
2013/05/06 PHP
php页面跳转session cookie丢失导致不能登录等问题的解决方法
2016/12/12 PHP
jquery 学习笔记一
2010/04/07 Javascript
JQuery Study Notes 学习笔记(一)
2010/08/04 Javascript
jquery下动态显示jqGrid以及jqGrid的属性设置容易出现问题的解决方法
2010/10/22 Javascript
一个简单的js树形菜单
2011/12/09 Javascript
js URL参数的拼接方法比较
2012/02/15 Javascript
给html超链接设置事件不使用href来完成跳
2014/04/20 Javascript
使用js获取图片原始尺寸
2014/12/03 Javascript
javascript常用的方法分享
2015/07/01 Javascript
基于JavaScript实现移动端TAB触屏切换效果
2015/10/20 Javascript
利用Vue.js框架实现火车票查询系统(附源码)
2017/02/27 Javascript
从零开始学习Node.js系列教程之SQLite3和MongoDB用法分析
2017/04/13 Javascript
妙用缓存调用链实现JS方法的重载
2018/04/30 Javascript
node.JS事件机制与events事件模块的使用方法详解
2020/02/06 Javascript
vant组件中 dialog的确认按钮的回调事件操作
2020/11/04 Javascript
vue中h5端打开app(判断是安卓还是苹果)
2021/02/26 Vue.js
Python完全新手教程
2007/02/08 Python
python算法学习之基数排序实例
2013/12/18 Python
python实现用于测试网站访问速率的方法
2015/05/26 Python
Python数据分析之双色球中蓝红球分析统计示例
2018/02/03 Python
对python同一个文件夹里面不同.py文件的交叉引用方法详解
2018/12/15 Python
Python实现简单层次聚类算法以及可视化
2019/03/18 Python
Python 最强编辑器详细使用指南(PyCharm )
2019/09/16 Python
pandas将多个dataframe以多个sheet的形式保存到一个excel文件中
2019/10/10 Python
python实现拉普拉斯特征图降维示例
2019/11/25 Python
python脚本实现mp4中的音频提取并保存在原目录
2020/02/27 Python
利用Python如何实时检测自身内存占用
2020/05/09 Python
Python如何读写二进制数组数据
2020/08/01 Python
Python如何批量生成和调用变量
2020/11/21 Python
荷兰多品牌网上鞋店:Stoute Schoenen
2017/08/24 全球购物
运动会标语
2014/06/21 职场文书
pytorch 6 batch_train 批训练操作
2021/05/28 Python