System Info / 系統信息
系统为Linux
两张A100显卡。
Reproduction / 复现过程
参考官方给出的Flask示例,改为WSGI服务启动后发现不支持并发。
wsgi.py
from glmocr.config import load_config
from glmocr.server import create_app
config = load_config("config.yaml")
app = create_app(config)
app.config["pipeline"].start()
通过命令启动:
gunicorn -w 2 --threads 8 -b 0.0.0.0:5002 wsgi:app
同时调用接口http://localhost:5002/glmocr/parse 解析多张图片时,发现并不支持并发处理。
请问要如何调整?
Expected behavior / 期待表现
如何部署才能支持并发处理?
System Info / 系統信息
系统为Linux
两张A100显卡。
Reproduction / 复现过程
参考官方给出的Flask示例,改为WSGI服务启动后发现不支持并发。
wsgi.py
通过命令启动:
gunicorn -w 2 --threads 8 -b 0.0.0.0:5002 wsgi:app
同时调用接口http://localhost:5002/glmocr/parse 解析多张图片时,发现并不支持并发处理。
请问要如何调整?
Expected behavior / 期待表现
如何部署才能支持并发处理?