求教：paddlehub设置early stop

项目

数据集

课程

比赛

模型库

活动

论坛

访问飞桨官网

项目

数据集

课程

比赛

模型库

活动

论坛

访问飞桨官网

红皮小猪发布于2020-03

如题，基于paddlehub finetune ernie_tiny文本分类模型，发现模型可能过拟合了，找了文档貌似没看到可以设置early stop的参数，请问给为大佬怎么搞？或者其他调参经验也请大神们指教哈，感谢感恩！！

全部评论(8)

AIStudio810261

#2 回复于2020-03

PaddleHub 没有early stop的选项，解决方法有两种
1. 训练时 epoch 设置稍小一点 https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L81
2. 加大正则项系数 https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L74

AIStudio810258

#3 回复于2020-03

我看有按loss或分类精度保存魔性的。相当于early stop 了吧，反正精度最高的模型也保存了，然后手动重启吧。

水水水的老师

#4 回复于2020-03

https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L74

https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L81

红皮小猪

#5 回复于2020-03

AIStudio810261 #2

PaddleHub 没有early stop的选项，解决方法有两种 1. 训练时 epoch 设置稍小一点 https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L81 2. 加大正则项系数 https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L74

展开

多谢大神，我试一下！

红皮小猪

#6 回复于2020-03

AIStudio810258 #3

我看有按loss或分类精度保存魔性的。相当于early stop 了吧，反正精度最高的模型也保存了，然后手动重启吧。

多谢哈，刚入门不太懂

红皮小猪

#7 回复于2020-03

水水水的老师 #4

https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L74 https://github.com/PaddlePaddle/PaddleHub/blob/release/v1.6/demo/text_classification/text_classifier.py#L81

展开

多谢多谢，刚入门不太懂

水水水的老师

#8 回复于2020-03

红皮小猪 #7

多谢多谢，刚入门不太懂

慢慢学就行半年入门一年多熟练

AIStudio810258

#9 回复于2020-03

水水水的老师 #4

展开

正规军。学习了。