hub serving启动训练模型后部分入参莫名其妙返回101状态
收藏
使用paddleX训练了一个目标检测模型,使用了fasterRCNN预训练模型,部署之后部分图片传入总是报101的错误,一时不知道怎么定位,具体如下:
模型参数配置:
在paddleX下点击测试也没有问题,正常输出,
然后就使用hub convert命令转换,再hub install 安装,再启动,启动参数如下:
```
"boatCountDetectV2": {
"init_args": {
"version": "2.0.1"
},
"predict_args": {
"batch_size": 1,
"use_gpu": false
}
}
```
然后按照使用方法调用,大部分情况都是正常的,可以得到预测信息,
在hub控制台看到请求是成功的,正常的话,结果应该在results这个数组中,但是部分图片hub服务返回data却是错误内容,results也是空字符串,内容如下:
{ msg: 'list index out of range', results: '', status: '101' }
网上也找了一圈,大概是python的数组使用问题,但是我都是按照标准步骤来的,而且是有的图片可以有的却不行,也不是分表率的问题。其它的预训练模型也没有这个错误,就是fastRCNN的预训练模型有这个问题,烦请各位大佬遇到过类似问题的不吝赐教,实在是找不到排查方向,感谢!
0
收藏
请登录后评论
关于『
在hub控制台看到请求是成功的,正常的话,结果应该在results这个数组中,但是部分图片hub服务返回data却是错误内容,results也是空字符串,内容如下:
{ msg: 'list index out of range', results: '', status: '101' }
』 ,其实服务器返回200只是代表了服务响应成功,并不是代表了推理成功。在推理过程中如果发生了异常,就会把异常信息打包成数据包发给用户,就像你现在看到的这个信息,msg是异常信息。从异常信息可以看出来,应该是模型推理时候发生了异常,你可以不使用服务,而是直接去使用模型来推理一下你的那张图试试看,应该报的就是这个异常。所以排查方向其实是模型代码的原因,这边建议查一下所依赖的套件或者模型的版本号啥的。有时候可能是依赖的模型版本升级了或者套件代码升级了,但是使用到的代码没有同步跟着升级导致的