深度学习调参有哪些经验呢?
多看论文多总结
调参感觉不如数据处理作用大
当然,如果你做得少,先从简单的开始
比如无脑adam,调整学习率,搞好了再尝试其他的
数据增强
学习率调度
迁移学习
多模型融合
我见过有融合十几个模型的
预处理he超参数的选择
图像增强,丰富数据集,防止过拟合
多看论文多总结
调参感觉不如数据处理作用大
当然,如果你做得少,先从简单的开始
比如无脑adam,调整学习率,搞好了再尝试其他的
数据增强
学习率调度
迁移学习
多模型融合
我见过有融合十几个模型的
预处理he超参数的选择
图像增强,丰富数据集,防止过拟合