有关ON_INFER的日志问题
收藏
最近在研究情感分析的senta,先将senta服务部署在本地机器上执行预测,无多余日志输出:
2020-05-27 10:31:41,541-INFO: senta content is 其中质量最好的是传统美式肌肉车Challenger,最差的是Durango, cost: 0:00:01.293515
2020-05-27 10:31:41,546-INFO: 127.0.0.1 - - [27/May/2020 10:31:41] "POST /emotion_senta HTTP/1.1" 200 -
但是部署到远程服务器的docker上,在每次预测前会打印
The NaiveExecutor can not work properly if the cmake flag ON_INFER is not set.
Unlike the training phase, all the scopes and variables will be reused to save the allocation overhead.
Please re-compile the inference library by setting the cmake flag ON_INFER=ON if you are running Paddle Inference
这样的日志,导致每次预测返回时间都特别长,本地是windows机器,没有出现过这样的日志,本地预测在1s左右,远程服务器会达到5s以上
服务器机器类型:centos:7.3 是用docker部署的, paddlepaddle 是1.8.1的
本地windows: paddlepaddle是1.6.3的
有大佬可以请教一下吗
0
收藏
请登录后评论
服务在进行懒加载,大概5分钟的样子,之后就不会报上述的日志了
辛苦提一下issue吧,让开发的小哥哥看看
https://github.com/PaddlePaddle/Paddle/issues