Python Web框架Tornado运行和部署


Posted in Python onOctober 19, 2020

本文实例为大家分享了Python Web框架Tornado运行和部署的详细内容,供大家参考,具体内容如下

一、运行和部署

因为Tornado内置了自己的HTTPServer,运行和部署它与其他Python web框架不太一样。你需要写一个main()函数来启动服务,而不是配置一个WSGI容器来运行你的应用:

def main():
 app = make_app()
 app.listen(8888)
 IOLoop.current().start()

if __name__ == '__main__':
 main()

配置你的操作系统或者进程管理器来运行这个程序以启动服务。注意,增加每个进程允许打开的最大文件句柄数是可能是必要的(为了避免“Too many open files” 的错误)。为了增加这个上限(例如设置为50000 ) 你可以使用ulimit命令,修改/etc/security/limits.conf 或者设置minfds 在你的supervisord配置中。

二、进程和端口

由于Python的GIL(全局解释器锁),为了充分利用多CPU的机器,运行多个Python 进程是很有必要的。通常,最好是每个CPU运行一个进程。

Tornado包含了一个内置的多进程模式来一次启动多个进程,这需要一个在main 函数上做点微小的改变:

def main():
 app = make_app()
 server = tornado.httpserver.HTTPServer(app)
 server.bind(8888)
 server.start(0) # forks one process per cpu
 IOLoop.current().start()

这是最简单的方式来启动多进程并让他们共享同样的端口,虽然它有一些局限性。首先,每个子进程将有它自己的IOLoop,所以fork之前,不接触全局 IOLoop 实例是重要的(甚至是间接的)。其次,在这个模型中,很难做到零停机 (zero-downtime)更新。最后,因为所有的进程共享相同的端口,想单独监控它们就更加困难了。

对更复杂的部署,建议启动独立的进程,并让它们各自监听不同的端口, supervisord 的“进程组(process groups)”功能是一个很好的方式。当每个进程使用不同的端口,一个外部的负载均衡器,例如HAProxy或nginx通常需要对外向访客提供一个单一的地址。

三、运行在负载均衡器后面

当运行在一个负载均衡器例如nginx,建议传递xheaders=True 给 HTTPServer 的构造器。这将告诉Tornado使用类似 X-Real-IP 这样的HTTP头来获取用户的IP地址而不是把所有流量都认为来自于负载均衡器的IP地址。

这是一份原始的nginx配置文件,在结构上类似于我们在FriendFeed所使用的配置。这是假设nginx和Tornado server运行在同一台机器上的,并且四个 Tornado server 正运行在8000 - 8003端口:

user nginx;
worker_processes 1;

error_log /var/log/nginx/error.log;
pid /var/run/nginx.pid;

events {
 worker_connections 1024;
 use epoll;
}

http {
 # Enumerate all the Tornado servers here
 upstream frontends {
  server 127.0.0.1:8000;
  server 127.0.0.1:8001;
  server 127.0.0.1:8002;
  server 127.0.0.1:8003;
 }

 include /etc/nginx/mime.types;
 default_type application/octet-stream;

 access_log /var/log/nginx/access.log;

 keepalive_timeout 65;
 proxy_read_timeout 200;
 sendfile on;
 tcp_nopush on;
 tcp_nodelay on;
 gzip on;
 gzip_min_length 1000;
 gzip_proxied any;
 gzip_types text/plain text/html text/css text/xml
    application/x-javascript application/xml
    application/atom+xml text/javascript;

 # Only retry if there was a communication error, not a timeout
 # on the Tornado server (to avoid propagating "queries of death"
 # to all frontends)
 proxy_next_upstream error;

 server {
  listen 80;

  # Allow file uploads
  client_max_body_size 50M;

  location ^~ /static/ {
   root /var/www;
   if ($query_string) {
    expires max;
   }
  }
  location = /favicon.ico {
   rewrite (.*) /static/favicon.ico;
  }
  location = /robots.txt {
   rewrite (.*) /static/robots.txt;
  }

  location / {
   proxy_pass_header Server;
   proxy_set_header Host $http_host;
   proxy_redirect off;
   proxy_set_header X-Real-IP $remote_addr;
   proxy_set_header X-Scheme $scheme;
   proxy_pass http://frontends;
  }
 }
}

四、静态文件和文件缓存

Tornado中,你可以通过在应用程序中指定特殊的 static_path 来提供静态文件服务:

settings = {
 "static_path": os.path.join(os.path.dirname(__file__), "static"),
 "cookie_secret": "__TODO:_GENERATE_YOUR_OWN_RANDOM_VALUE_HERE__",
 "login_url": "/login",
 "xsrf_cookies": True,
}
application = tornado.web.Application([
 (r"/", MainHandler),
 (r"/login", LoginHandler),
 (r"/(apple-touch-icon\.png)", tornado.web.StaticFileHandler,
  dict(path=settings['static_path'])),
], **settings)

这些设置将自动的把所有以 /static/ 开头的请求交由static目录,例如http://localhost:8888/static/foo.png 将会通过指定的static目录提供 foo.png 文件。我们也会自动从static目录提供 /robots.txt 和 /favicon.ico (尽管它们并没有以 /static/ 前缀开始)。

在上面的设置中,我们明确的配置Tornado从 StaticFileHandler 根下获取 apple-touch-icon.png 文件,虽然文件在static文件目录中。(正则表达式捕获组必须告诉 StaticFileHandler 请求的文件名,调用捕获组把文件名作为方法的参数传递给处理程序) 你可以做同样的事情,比如从网站的根提供 sitemap.xml 文件。 当然,你也可以通过在你的HTML中使用 <link /> 标签来避免伪造根目录的 apple-touch-icon.png 。

为了改善性能,通常情况下,让浏览器主动缓存静态资源是个好主意, 这样浏览器就不会发送不必要的可能在渲染页面时阻塞的 If-Modified-Since 或 Etag 请求了, Tornado使用 静态内容版本(static content versioning) 来支持此项功能。

为了使用这些功能,在你的模板中使用 static_url 方法,而不是直接在你的HTML中输入静态文件的URL:

<html>
 <head>
  <title>FriendFeed - {{ _("Home") }}</title>
 </head>
 <body>
  <div><img src="{{ static_url("images/logo.png") }}"/></div>
 </body>
</html>

static_url() 函数将把相对路径翻译成一个URI类似于 /static/images/logo.png?v=aae54.其中的 v 参数是 logo.png 内容的哈希(hash),并且它的存在使得Tornado服务向用户的浏览器发送缓存头,这将使浏览器无限期的缓存内容。

因为参数 v 是基于文件内容的,如果你更新一个文件并重启服务,它将发送一个新的 v 值,所以用户的浏览器将会自动的拉去新的文件。如果文件的内容没有改变,浏览器将会继续使用本地缓存的副本,而不会从服务器检查更新,显著的提高了渲染性能。

在生产中,你可能想提供静态文件通过一个更优的静态服务器, 比如nginx,你可以配置任何web服务器识别通过 static_url() 提供的版本标签并相应的设置缓存头。下面是我们在 FriendFeed 使用的nginx相关配置的一部分:

location /static/ {
 root /var/friendfeed/static;
 if ($query_string) {
  expires max;
 }
 }

五、Debug模式和自动重载

如果传递 debug=True 配置给 Application 的构造函数,应用程序将会运行在debug/开发模式。 在这个模式下,为了方便于开发的一些功能将被启用( 每一个也可以作为独立的标签使用,如果它们都被专门指定,那它们都将获得独立的优先级):

1、autoreload=True: 应用程序将会观察它的源文件是否改变,并且当任何文件改变的时候便重载它自己。这减少了在开发中需要手动重启服务的需求。然而,在debug模式下,某些错误(例如import的时候有语法错误)会导致服务 关闭,并且无法自动恢复。
2、compiled_template_cache=False: 模板将不会被缓存。
3、static_hash_cache=False: 静态文件哈希 (被 static_url 函数使用) 将不会被缓存。
4、serve_traceback=True: 当一个异常在 RequestHandler 中没有捕获,将会生成一个包含调用栈信息的错误页。
自动重载(autoreload)模式和 HTTPServer 的多进程模式不兼容,你不能给 HTTPServer.start 传递 1 以外的参数(或者调用 tornado.process.fork_processes) 当你使用自动重载模式的时候。

debug模式的自动重载功能可作为一个独立的模块位于 tornado.autoreload。以下两者可以结合使用,在语法错误之时提供额外的健壮性: 设置 autoreload=True 可以在app运行时检测文件修改,还有启动 python -m tornado.autoreload myserver.py 来捕获任意语法错误或者其他的启动时错误。

重载会丢失任何Python解释器命令行参数(-u). 因为它使用 sys.executable 和 sys.argv 重新执行Python。此外,修改这些变量将造成重载错误。

在一些平台(包括Windows 和Mac OSX 10.6之前),进程不能被“原地”更新,所以当检测到代码更新,旧服务就会退出然后启动一个新服务。这已经被公知来混淆一些IDE。

六、WSGI和Google App Engine

Tornado通常是独立运行的,不需要一个WSGI容器。然而,在一些环境中 (例如Google App Engine),只运行WSGI,应用程序不能独立运行自己的服务。在这种情况下,Tornado支持一个有限制的操作模式,不支持异步操作但允许一个Tornado's功能的子集在仅WSGI环境中。以下功能在WSGI模式下是不支持的,包括协程,@asynchronous 装饰器,AsyncHTTPClient,auth 模块和WebSockets。

你可以使用 tornado.wsgi.WSGIAdapter 把一个Tornado Application 转换成WSGI应用。在这个例子中, 配置你的WSGI容器发 现 application 对象:

import tornado.web
import tornado.wsgi

class MainHandler(tornado.web.RequestHandler):
 def get(self):
  self.write("Hello, world")

tornado_app = tornado.web.Application([
 (r"/", MainHandler),
])
application = tornado.wsgi.WSGIAdapter(tornado_app)

以上就是本文的全部内容,希望对大家的学习有所帮助。

Python 相关文章推荐
天翼开放平台免费短信验证码接口使用实例
Dec 18 Python
Python中实现远程调用(RPC、RMI)简单例子
Apr 28 Python
Python字符串逐字符或逐词反转方法
May 21 Python
pandas object格式转float64格式的方法
Apr 10 Python
python 日期操作类代码
May 05 Python
python实现贪吃蛇小游戏
Mar 21 Python
Python基于mysql实现学生管理系统
Feb 21 Python
Django网络框架之HelloDjango项目创建教程
Jun 06 Python
解决Pytorch 加载训练好的模型 遇到的error问题
Jan 10 Python
如何在python开发工具PyCharm中搭建QtPy环境(教程详解)
Feb 04 Python
PIL.Image.open和cv2.imread的比较与相互转换的方法
Jun 03 Python
在tensorflow以及keras安装目录查询操作(windows下)
Jun 19 Python
Python爬虫爬验证码实现功能详解
Apr 14 #Python
Python实现简单登录验证
Apr 13 #Python
Python数组定义方法
Apr 13 #Python
Python基于select实现的socket服务器
Apr 13 #Python
Python简单实现子网掩码转换的方法
Apr 13 #Python
Python多进程分块读取超大文件的方法
Apr 13 #Python
Python字符串拼接、截取及替换方法总结分析
Apr 13 #Python
You might like
多文件上载系统完整版
2006/10/09 PHP
PHP无限分类的类
2007/01/02 PHP
php获取通过http协议post提交过来xml数据及解析xml
2012/12/16 PHP
php处理restful请求的路由类分享
2014/02/27 PHP
php实现读取内存顺序号
2015/03/29 PHP
比较完整的微信开发php代码
2016/08/02 PHP
js中return false(阻止)的用法
2013/08/14 Javascript
Javascript模拟加速运动与减速运动代码分享
2014/12/11 Javascript
jQuery实现统计输入文字个数的方法
2015/03/11 Javascript
jQuery获得包含margin的outerWidth和outerHeight的方法
2015/03/25 Javascript
基于jquery实现日历签到功能
2020/09/11 Javascript
jQuery Validate初步体验(一)
2015/12/12 Javascript
jQuery控制div实现随滚动条滚动效果
2016/06/07 Javascript
JS中使用mailto实现将用户在网页中输入的内容传递到本地邮件客户端
2016/10/08 Javascript
前端js实现文件的断点续传 后端PHP文件接收
2016/10/14 Javascript
文件上传插件SWFUpload的使用指南
2016/11/29 Javascript
Node.js复制文件的方法示例
2016/12/29 Javascript
vue.js获取数据库数据实例代码
2017/05/26 Javascript
使用JS中的Replace()方法遇到的问题小结
2017/10/20 Javascript
React数据传递之组件内部通信的方法
2017/12/31 Javascript
Vue组件间数据传递的方式(3种)
2020/07/13 Javascript
[05:53]敌法师的金色冠名ID"BurNIng",是传说,是荣耀
2020/07/11 DOTA
python重试装饰器示例
2014/02/11 Python
5款非常棒的Python工具
2018/01/05 Python
python3.6 实现AES加密的示例(pyCryptodome)
2018/01/10 Python
Python实现PS滤镜的万花筒效果示例
2018/01/23 Python
Python生成验证码、计算具体日期是一年中的第几天实例代码详解
2019/10/16 Python
在TensorFlow中屏蔽warning的方式
2020/02/04 Python
Python实现曲线拟合的最小二乘法
2021/02/19 Python
戴尔美国官网:Dell
2016/08/31 全球购物
大学生党员自我批评
2014/02/14 职场文书
2015年人事专员工作总结
2015/04/29 职场文书
初中团委工作总结
2015/08/13 职场文书
2019个人半年工作总结
2019/06/21 职场文书
员工保密协议范本,您一定得收藏!很有用!
2019/08/08 职场文书
Python基础之Socket通信原理
2021/04/22 Python