在服务器端实现无间断部署Python应用的教程


Posted in Python onApril 16, 2015

 当你开始着手部署应用时,最简单的方式莫过于使用管理员身份重启my_app或者所有服务,使产品升级至当前版本。开始的时候一切都很好,但是最终你会发现一旦应用启动以后,在重启期间去尝试连接会得到众多HTTP 503 错误。

最后你可能发现Gunicorn和uWSGI可以在不关闭套接字的情况下重新加载你的应用,这样在你的应用启动时,网络请求仅仅是被延时了一点点。只要你的应用不会花费很长时间在启动上,它就会工作的很好。不幸的是,现有的许多应用可能会花费1分钟的时间在启动上,对于等待在套接字上的链接来说,这太长了。

Gunicorn使用kill -HUP $PID,通过关闭所有工作进程,然后再启动它们来重新加载。但是工作进程缓慢的初始化过程往往会导致问题的产生。uWSGI使用链式重载,它每次只会启动一个工作进程。我需要对Tornado的支持,它当前并不十分适合uWSGI。

使用负载均衡器

一种常见的技术是从负载均衡器中移除单个服务器,升级/重启应用,然后再把它加载回来。我们正在使用负载均衡器,但是为了调度整个过程,在配置节点的时候需要协调使用HAProxy来管理套接字。我们当前的部署方案是同时部署到所有节点,而不是一个接一个的来,一个相当大的变化。在等待LBs(译注:负载均衡器)将节点移出池期间,可以使用404'ing状态页来欺骗healthcheck。这比我想要的时间要多一点,对于每个服务器来说,两次healthcheck失败间隔5秒钟,这包括了升级完成后web进程恢复的时间。

Gunicorn 重载 ++

Gunicorn会自动重启失败的web进程,所以它可能会杀掉每个进程,在其间休眠,直到所有的子进程执行完毕。这很有效,不过如果应用启动的次数变动显著的话,我们要么会为重启等待过长时间,要么会等待不长的时间并承担一些故障宕机的风险。

因为Gunicorn包含了指向应用的Python钩子,所以完全可能写出一小段代码,在工作进程准备就绪的时候通知重启进程。Gunicorn并不包含需要的钩子,但做出改变非常简单。在新版本发布前它需要一些修改。

现在重启进程发挥了这样的事实优势,就是说单个的soket具有接受连接的多个进程。重启只会极微弱的减少服务能力(1/N),但我们因此可以继续处理流量而无需让连接等待过长时间。

这种进程一般是这样的
 

for child_pid of gunicorn-master:
 kill child_pid
 wait for app startup

我的第一个版本使用shell和nc来监听应用启动的UDP数据包。尽管将我们的进程管理器集成到shell环境比我预想的要麻烦一点,但它工作的很好。

重启脚本被调用的时候应该带上Gunicorn的PID,就是masterrestart.sh的 $PID
 

echo 'Killing children of ' $1;
 
children=$(pgrep -P $1)
for child in $children
do
 echo 'Killing' $child
 kill $child
 response=$(timeout 60 nc -w 0 -ul 4012)
 if [ "$response" != '200 OK' ]; then
  echo 'BROKEN'
  exit 1;
 fi
done

在串联上post_worker_init脚本,以便app运行的时候通知重启脚本。
 

import socket
import time
 
def post_worker_init(worker):
 _send_udp('200 OK\n')
 
def _send_udp(message):
 
 udp_ip = "127.0.0.1"
 udp_port = 4012
 
 sock = socket.socket(socket.AF_INET, # Internet
       socket.SOCK_DGRAM) # UDP
 sock.sendto(message, (udp_ip, udp_port))
如果我们有这样一个WSGI( Python Web Server Gateway Interface)应用:
 
from werkzeug.wrappers import Request, Response
 
@Request.application
def application(request):
 resp = Response('Hello World!')
 if request.path == '/_status':
  resp.status = '200 OK'
 else:
  resp.status ='404 Not Found'
 return resp

我们甚至可以去做检查/_status页面之类的事情,以此来验证应用是否已运行。
 

def post_worker_init(worker):
 env = {
  'REQUEST_METHOD': 'GET',
  'PATH_INFO': '/_status',
 }
 def start_response(*args, **kwargs):
  _send_udp(args[0])
 
 worker.wsgi(env, start_response)

注意不要试图在这个健康检测中运行太多的应用,如果不管什么原因你的post_worker_init产生了一个错误,那么工作进程将会退出,并阻止应用的启动。在你检查可能失效的DB链接的时候这会是一个问题,即使你的应用可以工作,它也无法再次启动。

现在通过一分钟的应用启动,我们实现了滚动重启,而无需停止应用或者丢弃任何链接!

Python 相关文章推荐
python爬虫爬取淘宝商品信息
Feb 23 Python
Pipenv一键搭建python虚拟环境的方法
May 22 Python
关于Python中的向量相加和numpy中的向量相加效率对比
Aug 26 Python
python selenium循环登陆网站的实现
Nov 04 Python
深入浅析python变量加逗号,的含义
Feb 22 Python
Python 给下载文件显示进度条和下载时间的实现
Apr 02 Python
python2.7使用scapy发送syn实例
May 05 Python
python线程池如何使用
May 28 Python
django教程如何自学
Jul 31 Python
零基础学python应该从哪里入手
Aug 11 Python
Django model class Meta原理解析
Nov 14 Python
Python3压缩和解压缩实现代码
Mar 01 Python
使用Protocol Buffers的C语言拓展提速Python程序的示例
Apr 16 #Python
使用Python编写一个模仿CPU工作的程序
Apr 16 #Python
利用Python中的mock库对Python代码进行模拟测试
Apr 16 #Python
使用Python脚本来控制Windows Azure的简单教程
Apr 16 #Python
在Python下利用OpenCV来旋转图像的教程
Apr 16 #Python
在Python中使用Neo4j数据库的教程
Apr 16 #Python
使用Python的Zato发送AMQP消息的教程
Apr 16 #Python
You might like
推荐Discuz!5的PHP代码高亮显示与实现可运行代码
2007/03/15 PHP
php记录日志的实现代码
2011/08/08 PHP
如何在symfony中导出为CSV文件中的数据
2011/10/06 PHP
Smarty模板学习笔记之Smarty简介
2014/05/20 PHP
php实现字符串首字母大写和单词首字母大写的方法
2015/03/14 PHP
smarty模板引擎之配置文件数据和保留数据
2015/03/30 PHP
php5与php7的区别点总结
2019/10/11 PHP
PHP与Web页面的交互示例详解一
2020/08/04 PHP
Jquery replace 字符替换实现代码
2010/12/02 Javascript
Javascript 实现的数独解题算法网页实例
2013/10/15 Javascript
用nodejs的实现原理和搭建服务器(动态)
2016/08/10 NodeJs
BootStrap Table 设置height表头与内容无法对齐的问题
2016/12/28 Javascript
原生js实现淘宝购物车功能
2020/06/23 Javascript
详解webpack多页面配置记录
2018/01/22 Javascript
原生JS实现循环Nodelist Dom列表的4种方式示例
2018/02/11 Javascript
vue引入js数字小键盘的实现代码
2018/05/14 Javascript
解决vue跨域axios异步通信问题
2019/04/17 Javascript
解决layui 三级联动下拉框更新时回显的问题
2019/09/03 Javascript
webpack+vue-cil 中proxyTable配置接口地址代理操作
2020/07/18 Javascript
Python ORM框架SQLAlchemy学习笔记之映射类使用实例和Session会话介绍
2014/06/10 Python
Python编程入门的一些基本知识
2015/05/13 Python
Python3如何解决字符编码问题详解
2017/04/23 Python
Python之Scrapy爬虫框架安装及使用详解
2017/11/16 Python
Python如何抓取天猫商品详细信息及交易记录
2018/02/23 Python
Python3简单爬虫抓取网页图片代码实例
2019/08/26 Python
Django rest framework分页接口实现原理解析
2020/08/21 Python
儿科主治医生个人求职信
2013/09/23 职场文书
写给爸爸的道歉信
2014/01/15 职场文书
高一学生评语大全
2014/04/25 职场文书
充分就业社区汇报材料
2014/05/07 职场文书
面试自我评价范文
2014/09/17 职场文书
欢迎新生标语
2014/10/06 职场文书
计划生育个人总结
2015/03/02 职场文书
2015年学生管理工作总结
2015/05/26 职场文书
小学一年级语文教学反思
2016/03/03 职场文书
2019垃圾分类宣传口号汇总
2019/08/16 职场文书