在服务器端实现无间断部署Python应用的教程


Posted in Python onApril 16, 2015

 当你开始着手部署应用时,最简单的方式莫过于使用管理员身份重启my_app或者所有服务,使产品升级至当前版本。开始的时候一切都很好,但是最终你会发现一旦应用启动以后,在重启期间去尝试连接会得到众多HTTP 503 错误。

最后你可能发现Gunicorn和uWSGI可以在不关闭套接字的情况下重新加载你的应用,这样在你的应用启动时,网络请求仅仅是被延时了一点点。只要你的应用不会花费很长时间在启动上,它就会工作的很好。不幸的是,现有的许多应用可能会花费1分钟的时间在启动上,对于等待在套接字上的链接来说,这太长了。

Gunicorn使用kill -HUP $PID,通过关闭所有工作进程,然后再启动它们来重新加载。但是工作进程缓慢的初始化过程往往会导致问题的产生。uWSGI使用链式重载,它每次只会启动一个工作进程。我需要对Tornado的支持,它当前并不十分适合uWSGI。

使用负载均衡器

一种常见的技术是从负载均衡器中移除单个服务器,升级/重启应用,然后再把它加载回来。我们正在使用负载均衡器,但是为了调度整个过程,在配置节点的时候需要协调使用HAProxy来管理套接字。我们当前的部署方案是同时部署到所有节点,而不是一个接一个的来,一个相当大的变化。在等待LBs(译注:负载均衡器)将节点移出池期间,可以使用404'ing状态页来欺骗healthcheck。这比我想要的时间要多一点,对于每个服务器来说,两次healthcheck失败间隔5秒钟,这包括了升级完成后web进程恢复的时间。

Gunicorn 重载 ++

Gunicorn会自动重启失败的web进程,所以它可能会杀掉每个进程,在其间休眠,直到所有的子进程执行完毕。这很有效,不过如果应用启动的次数变动显著的话,我们要么会为重启等待过长时间,要么会等待不长的时间并承担一些故障宕机的风险。

因为Gunicorn包含了指向应用的Python钩子,所以完全可能写出一小段代码,在工作进程准备就绪的时候通知重启进程。Gunicorn并不包含需要的钩子,但做出改变非常简单。在新版本发布前它需要一些修改。

现在重启进程发挥了这样的事实优势,就是说单个的soket具有接受连接的多个进程。重启只会极微弱的减少服务能力(1/N),但我们因此可以继续处理流量而无需让连接等待过长时间。

这种进程一般是这样的
 

for child_pid of gunicorn-master:
 kill child_pid
 wait for app startup

我的第一个版本使用shell和nc来监听应用启动的UDP数据包。尽管将我们的进程管理器集成到shell环境比我预想的要麻烦一点,但它工作的很好。

重启脚本被调用的时候应该带上Gunicorn的PID,就是masterrestart.sh的 $PID
 

echo 'Killing children of ' $1;
 
children=$(pgrep -P $1)
for child in $children
do
 echo 'Killing' $child
 kill $child
 response=$(timeout 60 nc -w 0 -ul 4012)
 if [ "$response" != '200 OK' ]; then
  echo 'BROKEN'
  exit 1;
 fi
done

在串联上post_worker_init脚本,以便app运行的时候通知重启脚本。
 

import socket
import time
 
def post_worker_init(worker):
 _send_udp('200 OK\n')
 
def _send_udp(message):
 
 udp_ip = "127.0.0.1"
 udp_port = 4012
 
 sock = socket.socket(socket.AF_INET, # Internet
       socket.SOCK_DGRAM) # UDP
 sock.sendto(message, (udp_ip, udp_port))
如果我们有这样一个WSGI( Python Web Server Gateway Interface)应用:
 
from werkzeug.wrappers import Request, Response
 
@Request.application
def application(request):
 resp = Response('Hello World!')
 if request.path == '/_status':
  resp.status = '200 OK'
 else:
  resp.status ='404 Not Found'
 return resp

我们甚至可以去做检查/_status页面之类的事情,以此来验证应用是否已运行。
 

def post_worker_init(worker):
 env = {
  'REQUEST_METHOD': 'GET',
  'PATH_INFO': '/_status',
 }
 def start_response(*args, **kwargs):
  _send_udp(args[0])
 
 worker.wsgi(env, start_response)

注意不要试图在这个健康检测中运行太多的应用,如果不管什么原因你的post_worker_init产生了一个错误,那么工作进程将会退出,并阻止应用的启动。在你检查可能失效的DB链接的时候这会是一个问题,即使你的应用可以工作,它也无法再次启动。

现在通过一分钟的应用启动,我们实现了滚动重启,而无需停止应用或者丢弃任何链接!

Python 相关文章推荐
巧用Python装饰器 免去调用父类构造函数的麻烦
May 18 Python
python回调函数的使用方法
Jan 23 Python
python进阶教程之异常处理
Aug 30 Python
详解Python中的Cookie模块使用
Jul 06 Python
Sanic框架配置操作分析
Jul 17 Python
python使用PyQt5的简单方法
Feb 27 Python
解决python tkinter界面卡死的问题
Jul 17 Python
python字典的常用方法总结
Jul 31 Python
Python3 Tkinkter + SQLite实现登录和注册界面
Nov 19 Python
什么是python的列表推导式
May 26 Python
python 基于selectors库实现文件上传与下载
Dec 31 Python
python实现调用摄像头并拍照发邮箱
Apr 27 Python
使用Protocol Buffers的C语言拓展提速Python程序的示例
Apr 16 #Python
使用Python编写一个模仿CPU工作的程序
Apr 16 #Python
利用Python中的mock库对Python代码进行模拟测试
Apr 16 #Python
使用Python脚本来控制Windows Azure的简单教程
Apr 16 #Python
在Python下利用OpenCV来旋转图像的教程
Apr 16 #Python
在Python中使用Neo4j数据库的教程
Apr 16 #Python
使用Python的Zato发送AMQP消息的教程
Apr 16 #Python
You might like
雄兵连三大错觉:凯莎没了,凉冰阵亡了,华烨觉得自己又行了
2020/04/09 国漫
一个程序下载的管理程序(三)
2006/10/09 PHP
浅析Laravel5中队列的配置及使用
2016/08/04 PHP
php简单压缩css样式示例
2016/09/22 PHP
JQuery 简便实现页面元素数据验证功能
2007/03/24 Javascript
jQuery使用手册之一
2007/03/24 Javascript
js以对象为索引的关联数组
2010/07/04 Javascript
js网页侧边随页面滚动广告效果实现
2011/04/14 Javascript
兼容IE和Firefox的javascript获取iframe文档内容的函数
2011/08/15 Javascript
jQuery图片的展开和收缩实现代码
2013/04/16 Javascript
jQuery中RadioButtonList的功能及用法实例介绍
2013/08/23 Javascript
javascript中的取反再取反~~没有意义
2014/04/06 Javascript
js实现精美的图片跟随鼠标效果实例
2015/05/16 Javascript
js简单网速测试方法完整实例
2015/12/15 Javascript
Vue表单验证插件的制作过程
2017/04/01 Javascript
基于vue的短信验证码倒计时demo
2017/09/13 Javascript
解决vue-cli webpack打包开启Gzip 报错问题
2019/07/24 Javascript
浅谈layui使用模板引擎动态渲染元素要注意的问题
2019/09/14 Javascript
Ajax获取node服务器数据的完整步骤
2020/09/20 Javascript
vue-router路由懒加载及实现的3种方式
2021/02/28 Vue.js
[04:44]DOTA2西游记战队视频彩蛋流出 师徒开黑巧遇林书豪
2016/08/03 DOTA
Python ORM框架SQLAlchemy学习笔记之关系映射实例
2014/06/10 Python
Django中使用Celery的方法示例
2018/11/29 Python
Python实现的多进程拷贝文件并显示百分比功能示例
2019/04/09 Python
PyTorch中 tensor.detach() 和 tensor.data 的区别详解
2020/01/06 Python
python将unicode和str互相转化的实现
2020/05/11 Python
详解Django ORM引发的数据库N+1性能问题
2020/10/12 Python
Python调用Redis的示例代码
2020/11/24 Python
全球酒店比价网:HotelsCombined
2017/06/20 全球购物
Styleonme中文网:韩国高档人气品牌
2017/06/21 全球购物
企业总经理职责
2014/02/02 职场文书
餐厅采购员岗位职责
2014/03/06 职场文书
药学职务聘任书
2014/03/29 职场文书
工资收入证明样本(5篇)
2014/09/16 职场文书
学生无故旷课检讨书
2014/09/20 职场文书
详解Python小数据池和代码块缓存机制
2021/04/07 Python