PaddleHub风格转换模型显存不释放
收藏
我把paddlehub的风格转换预训练模型部署在了一个flask接口中作为后台服务器，但是在前端传来的图片处理完之后显存并没有得到释放，这就导致后面的图片无法再进行处理，怎样能在长期运行中把显存释放掉？
0
收藏
请登录后评论
您好！使用serving部署module预测时，当你的请求结束，只能说明客服端预测完成，但是服务端的进程还在运行，也就是说加载的module没有消亡，自然还会继续占用显存。
paddle 2.1 接口已经增加了释放显存api接口 try_shrink_memory()，您可以试试使用这个接口终止服务端进程，这样显存就会释放回收。
更详细的内容请参考文档： https://paddleinference.paddlepaddle.org.cn/api_reference/python_api_doc/Predictor.html