首页 飞桨领航团 帖子详情
[AI达人创造营]|第六课:基于Hub Serving模型部署
收藏
快速回复
飞桨领航团 文章AI达人创造营 451 0
[AI达人创造营]|第六课:基于Hub Serving模型部署
收藏
快速回复
飞桨领航团 文章AI达人创造营 451 0

创建必要的目录和文件


在 work 目录下创建 food_predict 文件夹,并在该目录下分别创建 module.py __init__.py ,其中 module.py 作为 Module 的入口,用来实现逻辑预测功能。

安装模型


在 module.py 中编写好代码后,就可以通过 hub install xxx 的方式来安装模型了。(终端运行)

hub install work/module

出现下面描述表示安装成功:

W0808 20:41:13.413141 209 device_context.cc:404] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 11.0, Runtime API Version: 10.1
W0808 20:41:13.418172 209 device_context.cc:422] device: 0, cuDNN Version: 7.6.
[2021-08-08 20:41:17,047] [ INFO] - Successfully installed food_predict-1.0.0

部署方法

  1. 在 终端-1 运行命令 hub serving start -m mnist_predict 。如果它出现下面的提示说明部署成功

        

W0723 21:44:42.436631 3845 device_context.cc:404] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 10.1, Runtime API Version: 10.1

W0723 21:44:42.441895 3845 device_context.cc:422] device: 0, cuDNN Version: 7.6.

    * Serving Flask app "paddlehub.serving.app_compat" (lazy loading)

    * Environment: production

       WARNING: This is a development server. Do not use it in a production deployment.

       Use a production WSGI server instead.

    * Debug mode: off

    * Running on http://0.0.0.0:8866/ (Press CTRL+C to quit)

    2.通过POST请求实现预测

0
收藏
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户