在服务器端实现无间断部署Python应用的教程


Posted in Python onApril 16, 2015

 当你开始着手部署应用时,最简单的方式莫过于使用管理员身份重启my_app或者所有服务,使产品升级至当前版本。开始的时候一切都很好,但是最终你会发现一旦应用启动以后,在重启期间去尝试连接会得到众多HTTP 503 错误。

最后你可能发现Gunicorn和uWSGI可以在不关闭套接字的情况下重新加载你的应用,这样在你的应用启动时,网络请求仅仅是被延时了一点点。只要你的应用不会花费很长时间在启动上,它就会工作的很好。不幸的是,现有的许多应用可能会花费1分钟的时间在启动上,对于等待在套接字上的链接来说,这太长了。

Gunicorn使用kill -HUP $PID,通过关闭所有工作进程,然后再启动它们来重新加载。但是工作进程缓慢的初始化过程往往会导致问题的产生。uWSGI使用链式重载,它每次只会启动一个工作进程。我需要对Tornado的支持,它当前并不十分适合uWSGI。

使用负载均衡器

一种常见的技术是从负载均衡器中移除单个服务器,升级/重启应用,然后再把它加载回来。我们正在使用负载均衡器,但是为了调度整个过程,在配置节点的时候需要协调使用HAProxy来管理套接字。我们当前的部署方案是同时部署到所有节点,而不是一个接一个的来,一个相当大的变化。在等待LBs(译注:负载均衡器)将节点移出池期间,可以使用404'ing状态页来欺骗healthcheck。这比我想要的时间要多一点,对于每个服务器来说,两次healthcheck失败间隔5秒钟,这包括了升级完成后web进程恢复的时间。

Gunicorn 重载 ++

Gunicorn会自动重启失败的web进程,所以它可能会杀掉每个进程,在其间休眠,直到所有的子进程执行完毕。这很有效,不过如果应用启动的次数变动显著的话,我们要么会为重启等待过长时间,要么会等待不长的时间并承担一些故障宕机的风险。

因为Gunicorn包含了指向应用的Python钩子,所以完全可能写出一小段代码,在工作进程准备就绪的时候通知重启进程。Gunicorn并不包含需要的钩子,但做出改变非常简单。在新版本发布前它需要一些修改。

现在重启进程发挥了这样的事实优势,就是说单个的soket具有接受连接的多个进程。重启只会极微弱的减少服务能力(1/N),但我们因此可以继续处理流量而无需让连接等待过长时间。

这种进程一般是这样的
 

for child_pid of gunicorn-master:
 kill child_pid
 wait for app startup

我的第一个版本使用shell和nc来监听应用启动的UDP数据包。尽管将我们的进程管理器集成到shell环境比我预想的要麻烦一点,但它工作的很好。

重启脚本被调用的时候应该带上Gunicorn的PID,就是masterrestart.sh的 $PID
 

echo 'Killing children of ' $1;
 
children=$(pgrep -P $1)
for child in $children
do
 echo 'Killing' $child
 kill $child
 response=$(timeout 60 nc -w 0 -ul 4012)
 if [ "$response" != '200 OK' ]; then
  echo 'BROKEN'
  exit 1;
 fi
done

在串联上post_worker_init脚本,以便app运行的时候通知重启脚本。
 

import socket
import time
 
def post_worker_init(worker):
 _send_udp('200 OK\n')
 
def _send_udp(message):
 
 udp_ip = "127.0.0.1"
 udp_port = 4012
 
 sock = socket.socket(socket.AF_INET, # Internet
       socket.SOCK_DGRAM) # UDP
 sock.sendto(message, (udp_ip, udp_port))
如果我们有这样一个WSGI( Python Web Server Gateway Interface)应用:
 
from werkzeug.wrappers import Request, Response
 
@Request.application
def application(request):
 resp = Response('Hello World!')
 if request.path == '/_status':
  resp.status = '200 OK'
 else:
  resp.status ='404 Not Found'
 return resp

我们甚至可以去做检查/_status页面之类的事情,以此来验证应用是否已运行。
 

def post_worker_init(worker):
 env = {
  'REQUEST_METHOD': 'GET',
  'PATH_INFO': '/_status',
 }
 def start_response(*args, **kwargs):
  _send_udp(args[0])
 
 worker.wsgi(env, start_response)

注意不要试图在这个健康检测中运行太多的应用,如果不管什么原因你的post_worker_init产生了一个错误,那么工作进程将会退出,并阻止应用的启动。在你检查可能失效的DB链接的时候这会是一个问题,即使你的应用可以工作,它也无法再次启动。

现在通过一分钟的应用启动,我们实现了滚动重启,而无需停止应用或者丢弃任何链接!

Python 相关文章推荐
python实现合并两个数组的方法
May 16 Python
Python字符串格式化输出方法分析
Apr 13 Python
总结python爬虫抓站的实用技巧
Aug 09 Python
Python IDLE入门简介
Dec 08 Python
Python File readlines() 使用方法
Mar 19 Python
Python OpenCV处理图像之图像像素点操作
Jul 10 Python
安装docker-compose的两种最简方法
Jul 30 Python
Django项目之Elasticsearch搜索引擎的实例
Aug 21 Python
Python操作Sonqube API获取检测结果并打印过程解析
Nov 27 Python
Tensorflow轻松实现XOR运算的方式
Feb 03 Python
记录模型训练时loss值的变化情况
Jun 16 Python
Pytorch如何切换 cpu和gpu的使用详解
Mar 01 Python
使用Protocol Buffers的C语言拓展提速Python程序的示例
Apr 16 #Python
使用Python编写一个模仿CPU工作的程序
Apr 16 #Python
利用Python中的mock库对Python代码进行模拟测试
Apr 16 #Python
使用Python脚本来控制Windows Azure的简单教程
Apr 16 #Python
在Python下利用OpenCV来旋转图像的教程
Apr 16 #Python
在Python中使用Neo4j数据库的教程
Apr 16 #Python
使用Python的Zato发送AMQP消息的教程
Apr 16 #Python
You might like
国产动画《伍六七》原声大碟大卖,啊哈娱乐引领音乐赋能IP的新尝试
2020/03/08 国漫
不用GD库生成当前时间的PNG格式图象的程序
2006/10/09 PHP
使用composer命令加载vendor中的第三方类库 的方法
2019/07/09 PHP
Laravel框架表单验证操作实例分析
2019/09/30 PHP
在网站上应该用的30个jQuery插件整理
2011/11/03 Javascript
动态的9*9乘法表效果的实现代码
2016/05/16 Javascript
jQuery实现遍历复选框的方法示例
2017/03/06 Javascript
js鼠标经过tab选项卡时实现切换延迟
2017/03/24 Javascript
jQuery日程管理控件glDatePicker用法详解
2017/03/29 jQuery
JavaScript闭包的简单应用
2017/09/01 Javascript
分享vue里swiper的一些坑
2018/08/30 Javascript
浅谈 Webpack 如何处理图片(开发、打包、优化)
2019/05/15 Javascript
vue-i18n实现中英文切换的方法
2020/07/06 Javascript
如何利用JavaScript编写更好的条件语句详解
2020/08/10 Javascript
js实现三角形粒子运动
2020/09/22 Javascript
[10:42]Team Liquid Vs Newbee
2018/06/07 DOTA
python socket多线程通讯实例分析(聊天室)
2016/04/06 Python
Python基于回溯法子集树模板解决m着色问题示例
2017/09/07 Python
基于Python开发chrome插件的方法分析
2018/07/07 Python
python高效过滤出文件夹下指定文件名结尾的文件实例
2018/10/21 Python
python-opencv 将连续图片写成视频格式的方法
2019/01/08 Python
python处理DICOM并计算三维模型体积
2019/02/26 Python
详解PyCharm安装MicroPython插件的教程
2019/06/24 Python
Pyqt QImage 与 np array 转换方法
2019/06/27 Python
Django 自动生成api接口文档教程
2019/11/19 Python
python 输出列表元素实例(以空格/逗号为分隔符)
2019/12/25 Python
python实现简单颜色识别程序
2020/02/19 Python
HTML5 新标签全部总汇(推荐)
2016/06/13 HTML / CSS
Trunki英国官网:儿童坐骑式行李箱
2017/05/30 全球购物
Solid & Striped官网:美国泳装品牌
2019/06/19 全球购物
美国牙科折扣计划:DentalPlans.com
2019/08/26 全球购物
医院总经理职责
2013/12/26 职场文书
银行见习期自我鉴定
2014/01/29 职场文书
体育课课后反思
2014/04/24 职场文书
西安兵马俑导游词
2015/02/02 职场文书
教师节班会主持词
2015/07/06 职场文书