zoukankan      html  css  js  c++  java
  • Python生产环境部署(fastcgi,uwsgi)

    Python部署web开发程序的几种方法

    • fastcgi ,通过flup模块来支持,在nginx里对应的配置指令是 fastcgi_pass

    • http,nginx使用proxy_pass转发,这个要求后端appplication必须内置一个能处理高并发的http server,在python的web框架当中,只能选择tornado.

    • uwsgi,包括4部分组成:

      • uwsgi协议
      • web server内置支持协议模块
      • application服务器协议支持模块
      • 进程控制程序

      nginx从0.8.4开始内置支持uwsgi协议,uwsgi协议非常简单,一个4个字节header+一个body,body可以是很多协议的包,比如说http,cgi等(通过header里面字段标示)。

      uwsgi的特点在于自带的进程控制程序.它是用c语言编写,使用natvie函数,其实和spawn-fcgi/php-fpm类似。所以uwsgi可以支持多种应用框架,包括(python,lua,ruby,erlang,go)等等

    • mod_python,这是apache内置的模块,很严重的依赖于mod_python编译使用的python版本,和apache配套使用,不推荐

    • cgi,这个太old,不推荐,而且nginx不支持cgi方式,只能用lighttpd或者apache

    • spawn-fcgi,这个是fastcgi多进程管理程序,lighttpd安装包附带的,和 flup效果一样,区别是flup是 python代码级引入,spawn-fcgi是外部程序。spawn-fcgi用途很广,可以支持任意语言开发的代码,php,python,perl,只要你代码实现了fastcgi接口,它都可以帮你管理你的进程

    • scgi,全名是Simple Common Gateway Interface,也是cgi的替代版本,scgi协议很简单,我觉得和fastcgi差不多,只是没有怎么推广开来,nginx对应的配置指令是scgi_pass,你想用就用,flup也支持。

    • Gunicorn,和uwsgi类似的工具,从rails的部署工具(Unicorn)移植过来的。但是它使用的协议是 WSGI,全称是Python Web Server Gateway Interface ,这是python2.5时定义的官方标准(PEP 333 ),根红苗正,而且部署比较简单,http://gunicorn.org/ 上有详细教程

    • mod_wsgi,apache的一个module,也是支持WSGI协议,https://code.google.com/p/modwsgi/

    uwsgi

    安装uwsgi

    pip install uwsgi

    配置uwsgi

    uwsgi 有多种配置可用:

    1,ini 
    2,xml 
    3,json
    4,yaml

    配置示例

    $ cat etc/uwsgi.ini 
    [uwsgi]
    socket = 127.0.0.1:9005
    chdir = /Users/suoning/python_project/trunk/
    wsgi-file = main.py
    processes = 4
    stats = 127.0.0.1:9000
    daemonize = /tmp/uwsgiServer.log
    pidfile = /tmp/uwsgi.pid
    vacuum = true
    log-maxsize = 50000000
    disable-logging = true
    callable = app
    $

    配置参数详解:

    常用选项:

    socket : 地址和端口号,例如:socket = 127.0.0.1:50000

    processes : 开启的进程数量

    workers : 开启的进程数量,等同于processes(官网的说法是spawn the specified number of  workers / processes

    chdir : 指定运行目录(chdir to specified directory before apps loading)

    wsgi-file : 载入wsgi-file(load .wsgi file)

    stats : 在指定的地址上,开启状态服务(enable the stats server on the specified address)

    threads : 运行线程。由于GIL的存在,我觉得这个真心没啥用。(run each worker in prethreaded mode with the specified number of threads)

    master : 允许主进程存在(enable master process)

    daemonize : 使进程在后台运行,并将日志打到指定的日志文件或者udp服务器(daemonize uWSGI)。实际上最常用的,还是把运行记录输出到一个本地文件上。

    log-maxsize :以固定的文件大小(单位KB),切割日志文件。 例如:log-maxsize = 50000000  就是50M一个日志文件。 

    pidfile : 指定pid文件的位置,记录主进程的pid号。

    vacuum : 当服务器退出的时候自动清理环境,删除unix socket文件和pid文件(try to remove all of the generated file/sockets)

    disable-logging : 不记录请求信息的日志。只记录错误以及uWSGI内部消息到日志中。如果不开启这项,那么你的日志中会大量出现这种记录:

    [pid: 347|app: 0|req: 106/367] 117.116.122.172 () {52 vars in 961 bytes} [Thu Jul  7 19:20:56 2016] POST /post => generated 65 bytes in 6 msecs (HTTP/1.1 200) 2 headers in 88 bytes (1 switches on core 0)

    配置nginx

    $ cat etc/nginx/servers/pan.conf 
    
    server {
        listen       80;
        server_name  localhost;
    
        location / {
            include uwsgi_params;
            uwsgi_pass 127.0.0.1:9005;
        }
    
        location /webstatic/ {
            expires 7d;
            add_header Cache-Control public;
            alias /Users/suoning/probject/python_project/webstatic/trunk/;
        }
    
    }
    
    $ 
    $ nginx -t
    nginx: the configuration file /usr/local/etc/nginx/nginx.conf syntax is ok
    nginx: configuration file /usr/local/etc/nginx/nginx.conf test is successful
    $ 
    $ nginx -s reload
    $ 

    配置application

    flask 示例

    ...
    app = Flask('pan')
    ...
    
    if __name__ == '__main__':
        # app.run(host='0.0.0.0', port=5000)
        app.run()
    
    # 注意:变量app对应uwsgi配置文件uwsgi.ini中 callable = app 

    启动uwsgi

    $ 
    $ uwsgi --ini /usr/local/etc/uwsgi.ini
    [uWSGI] getting INI configuration from /usr/local/etc/uwsgi.ini
    $ 
    $ ps -ef|grep uwsgi
      501 11428     1   0 11:40下午 ??         0:01.23 uwsgi --ini /usr/local/etc/uwsgi.ini
      501 11432 11428   0 11:40下午 ??         0:00.00 uwsgi --ini /usr/local/etc/uwsgi.ini
      501 11433 11428   0 11:40下午 ??         0:00.00 uwsgi --ini /usr/local/etc/uwsgi.ini
      501 11434 11428   0 11:40下午 ??         0:00.00 uwsgi --ini /usr/local/etc/uwsgi.ini
      501 11435 11428   0 11:40下午 ??         0:00.00 uwsgi --ini /usr/local/etc/uwsgi.ini
      501 11440 69240   0 11:40下午 ttys000    0:00.00 grep uwsgi
    $ 
    $ lsof -i tcp:9000
    COMMAND   PID    USER   FD   TYPE             DEVICE SIZE/OFF NODE NAME
    uwsgi   11428 suoning   28u  IPv4 0x5583e11534d24e73      0t0  TCP localhost:cslistener (LISTEN)
    $
    $ lsof -i tcp:9005
    COMMAND   PID    USER   FD   TYPE             DEVICE SIZE/OFF NODE NAME
    uwsgi   11428 suoning    6u  IPv4 0x5583e11535699e73      0t0  TCP localhost:9005 (LISTEN)
    uwsgi   11432 suoning    6u  IPv4 0x5583e11535699e73      0t0  TCP localhost:9005 (LISTEN)
    uwsgi   11433 suoning    6u  IPv4 0x5583e11535699e73      0t0  TCP localhost:9005 (LISTEN)
    uwsgi   11434 suoning    6u  IPv4 0x5583e11535699e73      0t0  TCP localhost:9005 (LISTEN)
    uwsgi   11435 suoning    6u  IPv4 0x5583e11535699e73      0t0  TCP localhost:9005 (LISTEN)
    $

    FCGI

    参考:http://webpy.org/cookbook/fastcgi-nginx

    配置Nginx

    $ cat etc/nginx/servers/pan.conf 
    
    server {
        listen       80;
        server_name  localhost;
    
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    
        location / {
            fastcgi_param REQUEST_METHOD $request_method;
            fastcgi_param QUERY_STRING $query_string;
            fastcgi_param CONTENT_TYPE $content_type;
            fastcgi_param CONTENT_LENGTH $content_length;
            fastcgi_param GATEWAY_INTERFACE CGI/1.1;
            fastcgi_param SERVER_SOFTWARE nginx/$nginx_version;
            fastcgi_param REMOTE_ADDR $remote_addr;
            fastcgi_param REMOTE_PORT $remote_port;
            fastcgi_param SERVER_ADDR $server_addr;
            fastcgi_param SERVER_PORT $server_port;
            fastcgi_param SERVER_NAME $server_name;
            fastcgi_param SERVER_PROTOCOL $server_protocol;
            fastcgi_param SCRIPT_FILENAME $fastcgi_script_name;
            fastcgi_param PATH_INFO $fastcgi_script_name;
            fastcgi_pass 127.0.0.1:9005;
        }
    
        location /webstatic/ {
            expires 7d;
            add_header Cache-Control public;
            alias /Users/suoning/probject/python_project/webstatic/trunk/;
        }
    
    }
    
    $

    配置application

    简单示例

    from flup.server.fcgi import WSGIServer
    from pan import app
    
    WSGIServer(
        app,
        bindAddress=(host, port),
    maxThreads
    =threads ).run()

    生产环境示例

    #!/usr/bin/env python
    # -*- coding: utf-8 -*-
    __author__ = 'suoning'
    
    
    import sys
    import argparse
    from flup.server.fcgi import WSGIServer
    from lib.daemon import Daemon
    from pan import app
    
    APP_NAME = 'pan_platform'
    APP_INST_NAME = '20170501'
    
    parser = argparse.ArgumentParser(description=u'Run an pan FastCGI server')
    parser.add_argument('command', type=str,
                        help=u'command [start|stop|restart]',
                        choices=['start', 'stop', 'restart'])
    parser.add_argument('-p', '--port', type=int,
                        help=u'port of this server', required=True)
    parser.add_argument('-t', '--threads', type=int, default=50,
                        help=u'max number of threads')
    parser.add_argument('-host', '--host', default='0.0.0.0',
                        help=u'Listen to the main clause')
    
    
    class panPlatformDaemon(Daemon):
        def run(self):
            # 运行服务
            try:
                WSGIServer(
                    app,
                    bindAddress=(args.host, args.port),
                    maxThreads=args.threads,
                    umask=0111
                ).run()
            except:
                sys.stderr.write('oops')
    
    
    def gen_pidfile(port):
        return '/var/run/%s_%s_%d.pid' % (APP_NAME, APP_INST_NAME, port)
    
    
    if __name__ == '__main__':
        args = parser.parse_args()
        daemon = panPlatformDaemon(gen_pidfile(args.port))
        if 'start' == args.command:
            daemon.start()
        elif 'stop' == args.command:
            daemon.stop()
        elif 'restart' == args.command:
            daemon.restart()
        else:
            print "Unknown command"
            sys.exit(2)
        sys.exit(0)

    fastcgi协议和http协议在代码部署中的的优劣对比

    • fastcgi虽然是二进制协议,相对于http协议,并不节省资源。二进制协议,只能节省数字的表达,比如 1234567,用字符串表示需要7个Byte,用数字就是4个Byte,而字符串到哪里都一样

    • fastcgi在传输数据的时候,为了兼容cgi协议,还要带上一堆cgi的环境变量,所以和http协议相比,用fastcgi传输数据并不省,反而多一些

    • fastcgi 唯一的优点是,它是长连接的,用户并发1000个request,fastcgi可能就用10个 链接转发给后端的appplication,如果用http协议,那来多少给多少,会向后端appplication 发起1000个请求

    • http代理转发方式,在面对超高并发的情况下会出问题,因为,tcp协议栈当中,port是int16整型 你本地新建一个connect,需要消耗一个端口,最多能到65536。外部并发几十万个请求,port池耗干,你的服务器只能拒绝响应了

    CGI, FCGI, SCGI, WSGI 区别

    WIKI Links:

    CGI - http://en.wikipedia.org/wiki/Common_Gateway_Interface
    FCGI - http://en.wikipedia.org/wiki/Fcgi
    SCGI - http://en.wikipedia.org/wiki/SCGI
    WSGI - http://en.wikipedia.org/wiki/Wsgi
     
    Other reference:
    http://helpful.knobs-dials.com/index.php/CGI%2C_FastCGI%2C_SCGI%2C_WSGI%2C_servlets_and_such#FastCGI_and_SCGI
     
    CGI = Common Gateway Interface
    顾名思义,它是一种接口规范。该规范详细定义了Web服务器中运行的服务器代理程序,怎样获取及返回网页生成过程中,服务器环境上下文和HTTP协议中的参数名称,如大家所熟知的:REQUEST_METHOD,QUERY_STRING,CONTENT_TYPE等等。绝大部分的Web服务器程序,是以脚本的形式代理接受并处理HTTP请求,返回HTTP页面或响应。这些脚本程序,就是大家所熟知的PHP、ASP、JSP等等。
     
    FCGI = Fast CGI
    它其实是CGI在具体实现中的的一个变种。其设计思路是,通过减少CGI代理程序和Web宿主服务程序的通信开销,从而达到提高Web服务性能的最终目的。由此可见,FCGI在规范上跟CGI并没有不同,只是具体实现方式上有所改进:CGI的做法是,对于每个HTTP请求,Web宿主服务程序都建立新的进程以调用服务器脚本,相应该请求;FCGI的做法是,建立一个独立的FCGI服务程序进程,和Web宿主服务程序进程通信,FCGI服务进程被一旦启动后,自己分配资源、创建线程响应HTTP请求、并决定自身生命周期,从而大大降低了系统为了创建进程而做出的资源开销。现代流行的Web服务器程序,如PHP、ASP.Net,基本都是FCGI的实现。
     
    SCGI = Simple CGI
    它是FCGI在精简数据协议和响应过程后的产物。其设计目的是为了适应越来越多基于AJAX或REST的HTTP请求,而做出更快更简洁的应答。并且SCGI约定,当服务器返回对一个HTTP协议请求响应后,立刻关闭该HTTP连接。所以不难看出,SCGI更加适合于普遍意义上SOA所提倡的“请求-忘记”这种通信模式。
     
    WSGI = Web Server Gateway Interface
    此协议是Python语言的专利,它定义了一组在Web服务宿主程序和HTTP响应代理程序之间通信的普遍适用的接口。它的产生是因为Python程序员注意到,对于Web框架和Web宿主服务器程序间,有严重的耦合性,比如说,某些框架是针对Apache的mod_python设计的。于是,WSGI就定义了一套非常低级别的接口。常见的Python Web框架都实现了这个协议:如 CherryPy, Django, web.py, web2py, TurboGears, Tornado, Pylons, BlueBream, Google App Engine[dubious – discuss], Trac, Flask, Pyramid,等等.
  • 相关阅读:
    变量的创建和初始化
    HDU 1114 Piggy-Bank (dp)
    HDU 1421 搬寝室 (dp)
    HDU 2059 龟兔赛跑 (dp)
    HDU 2571 命运 (dp)
    HDU 1574 RP问题 (dp)
    HDU 2577 How to Type (字符串处理)
    HDU 1422 重温世界杯 (dp)
    HDU 2191 珍惜现在,感恩生活 (dp)
    HH实习 acm算法部 1689
  • 原文地址:https://www.cnblogs.com/suoning/p/6786621.html
Copyright © 2011-2022 走看看