用coco数据集、shufflenetv2-ssd,也就是轻量级竞赛里的内容,epoch_num =8 或10,训练出的模型,使用score.py评分时报内存异常,提交到百度后台大概半小时左右可以出成绩(之前正常模型十几分钟),异常截图如下。同样代码和数据epoch_num=1训练出的模型评分正常。 aistudio(paddle 1.5.0)和本地(1.6.1)都出。
mark
这是显存溢出了,减小batch吧
感觉你这种情况是内存溢出,而不是显存溢出。因为你用了coco数据集,这个数据集是非常大的,所以不要一次性将所有图片加载到内存,而是按需读取。
把bs改成1试试
用coco数据集、shufflenetv2-ssd,也就是轻量级竞赛里的内容,epoch_num =8 或10,训练出的模型,使用score.py评分时报内存异常,提交到百度后台大概半小时左右可以出成绩(之前正常模型十几分钟),异常截图如下。同样代码和数据epoch_num=1训练出的模型评分正常。
aistudio(paddle 1.5.0)和本地(1.6.1)都出。