首页 Paddle框架 帖子详情
有关ON_INFER的日志问题
收藏
快速回复
Paddle框架 问答深度学习模型训练炼丹技巧 1693 2
有关ON_INFER的日志问题
收藏
快速回复
Paddle框架 问答深度学习模型训练炼丹技巧 1693 2

最近在研究情感分析的senta,先将senta服务部署在本地机器上执行预测,无多余日志输出:

2020-05-27 10:31:41,541-INFO: senta content is 其中质量最好的是传统美式肌肉车Challenger,最差的是Durango, cost: 0:00:01.293515
2020-05-27 10:31:41,546-INFO: 127.0.0.1 - - [27/May/2020 10:31:41] "POST /emotion_senta HTTP/1.1" 200 -

但是部署到远程服务器的docker上,在每次预测前会打印
The NaiveExecutor can not work properly if the cmake flag ON_INFER is not set.
Unlike the training phase, all the scopes and variables will be reused to save the allocation overhead.
Please re-compile the inference library by setting the cmake flag ON_INFER=ON if you are running Paddle Inference
这样的日志,导致每次预测返回时间都特别长,本地是windows机器,没有出现过这样的日志,本地预测在1s左右,远程服务器会达到5s以上


 服务器机器类型:centos:7.3  是用docker部署的,    paddlepaddle 是1.8.1的
本地windows: paddlepaddle是1.6.3的

有大佬可以请教一下吗

0
收藏
回复
全部评论(2)
时间顺序
向上帝买的名字
#2 回复于2020-05

服务在进行懒加载,大概5分钟的样子,之后就不会报上述的日志了

0
回复
thinc
#3 回复于2020-05

辛苦提一下issue吧,让开发的小哥哥看看

https://github.com/PaddlePaddle/Paddle/issues

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户