创建必要的目录和文件
在 work 目录下创建 food_predict 文件夹,并在该目录下分别创建 module.py __init__.py ,其中 module.py 作为 Module 的入口,用来实现逻辑预测功能。
安装模型
在 module.py 中编写好代码后,就可以通过 hub install xxx 的方式来安装模型了。(终端运行)
hub install work/module
出现下面描述表示安装成功:
W0808 20:41:13.413141 209 device_context.cc:404] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 11.0, Runtime API Version: 10.1
W0808 20:41:13.418172 209 device_context.cc:422] device: 0, cuDNN Version: 7.6.
[2021-08-08 20:41:17,047] [ INFO] - Successfully installed food_predict-1.0.0
部署方法
- 在 终端-1 运行命令 hub serving start -m mnist_predict 。如果它出现下面的提示说明部署成功
W0723 21:44:42.436631 3845 device_context.cc:404] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 10.1, Runtime API Version: 10.1
W0723 21:44:42.441895 3845 device_context.cc:422] device: 0, cuDNN Version: 7.6.
* Serving Flask app "paddlehub.serving.app_compat" (lazy loading)
* Environment: production
WARNING: This is a development server. Do not use it in a production deployment.
Use a production WSGI server instead.
* Debug mode: off
* Running on http://0.0.0.0:8866/ (Press CTRL+C to quit)
2.通过POST请求实现预测