最近模型部署用flask给接口,模型实验室的部署流程中需用gunicorn来部署flask服务。为什么要用gunicorn呢,简单点就是为了并发。
1、模块安装
pip install flask
pip install gunicorn
2、用flask写一个简单的web服务
# main.py
from flask import Flask app = Flask(__name__) @app.route('/') def index(): return 'hello world' def main(): app.run(debug=True) if __name__ == '__main__': main()
3、启动
我们知道直接运行main.py函数就可以启动flask服务,但是我们这里要用gunicorn,也很简单
gunicorn main:app
- main是flask的启动python文件,我们这是main.py,
- app则是flask应用程序实例,我们mian.py里实例名为app
这样运行的话, gunicorn 默认作为一个监听 127.0.0.1:8000 的web server,可以在本机通过: http://127.0.0.1:8000 访问。
如果要通过网络访问,则需要绑定不同的地址(也可以同时设置监听端口),设置0.0.0.0可以监听到所有ip的请求:
gunicorn -b 0.0.0.0:8080 main:app
在多核服务器上,为了支持更多的并发访问并充分利用资源,可以使用更多的 gunicorn 进程:
gunicorn -w 4 -b 0.0.0.0:8080 main:app
- -b 表示 gunicorn 开发的访问地址
- -w 表示工作进程数
4、配置文件
通过gunicorn -h
可以看到gunicorn有非常多的配置项,因此通常会写成一个配置文件来进行配置。
比如我这边写成gunicorn.conf文件
# gunicorn.conf bind = "0.0.0.0:5000" workers = 4 backlog = 2048 pidfile = "log/gunicorn.pid" accesslog = "log/access.log" errorlog = "log/debug.log" timeout = 600 debug=False capture_output = True
debug=False: 生产环境不用这个配置项,但调试的时候debug=True还是挺好用的。而且,开启debug项后,在启动gunicorn的时候可以看到所有可配置项的配置
注意上面log项,如果需要将这些log文件统一放到log文件夹下,事先要先建好,不然运行时会报错。
运行代码为:
gunicorn --config gunicorn.conf main:app