首页 Paddle框架 帖子详情
为什么别人用同样的模型可以到很高的精度?
收藏
快速回复
Paddle框架 问答模型训练炼丹技巧 1683 29
为什么别人用同样的模型可以到很高的精度?
收藏
快速回复
Paddle框架 问答模型训练炼丹技巧 1683 29

深度学习调参有哪些经验呢?

0
收藏
回复
全部评论(29)
时间顺序
自尊心3
#2 回复于2020-04

无他,唯手熟尔。炼丹肯定是越炼越熟练的嘛

0
回复
AIStudio810258
#3 回复于2020-04

刚开始时先熟练“丹炉的使用技巧”,比如优化器、动态学习率、early stop什么的。熟练了后,研究研究训练数据的分布与调整、数据増广什么的。

0
回复
勤奋的我爱提问
#4 回复于2020-04
刚开始时先熟练“丹炉的使用技巧”,比如优化器、动态学习率、early stop什么的。熟练了后,研究研究训练数据的分布与调整、数据増广什么的。

除了这些还有吗,总感觉还有自己不知道的什么秘密,比赛的时候别人的成绩飞升,自己百般尝试却没什么效果。

0
回复
AIStudio810258
#5 回复于2020-04
除了这些还有吗,总感觉还有自己不知道的什么秘密,比赛的时候别人的成绩飞升,自己百般尝试却没什么效果。

可以看看练习赛的分享。

0
回复
m
mumu
#6 回复于2020-04

一次次尝试

0
回复
AIStudio810258
#7 回复于2020-04
除了这些还有吗,总感觉还有自己不知道的什么秘密,比赛的时候别人的成绩飞升,自己百般尝试却没什么效果。

都是公开的“秘密”,smote调整数据分配不平衡,各种数据増广,sample pairing/mixup

0
回复
AIStudio810258
#8 回复于2020-04

图片数据増广可以看我的帖子。

 

来AI Studio互粉吧~等你哦~ https://aistudio.baidu.com/aistudio/personalcenter/thirdview/76563

【项目分享】

训练数据太少?过拟合?一文带你领略“数据增长魔法”
https://aistudio.baidu.com/aistudio/projectdetail/408059

一文帮你理解用Paddle训练模型的原理1-手写回归模型
https://aistudio.baidu.com/aistudio/projectdetail/367090

一文帮你理解用Paddle训练模型的原理2-权值可视化(VisualDL)
https://aistudio.baidu.com/aistudio/projectdetail/386954

0
回复
thinc
#9 回复于2020-04

只要特征提取的好,调参只是锦上添花,别太多依靠挑挑参就能得到好模型

0
回复
AIStudio810258
#10 回复于2020-04
thinc #9
只要特征提取的好,调参只是锦上添花,别太多依靠挑挑参就能得到好模型

深度学习中,特征是网络自己提取的吧

0
回复
AIStudio810258
#11 回复于2020-04
thinc #9
只要特征提取的好,调参只是锦上添花,别太多依靠挑挑参就能得到好模型

是不是指部分直观明显的特征靠人工提取然后再做特征融合。

0
回复
HolliZhao
#12 回复于2020-04

数据和模型起主要作用,基本上这2个要素配合好了,精度效果飞升! 调参是在前2样无法改动的情况下 可以起到一定优化作用。

0
回复
thinc
#13 回复于2020-04
深度学习中,特征是网络自己提取的吧

深度学习相比于机器学习最重要的特点就是特征自动提取了

0
回复
thinc
#14 回复于2020-04
是不是指部分直观明显的特征靠人工提取然后再做特征融合。

dl现在一般都是做end to end,只要把原始数据丢进去就能出结果

0
回复
水水水的老师
#15 回复于2020-04

调的多了

自然就有经验了

0
回复
自尊心3
#16 回复于2020-04

先了解基本的原理才是最核心的东西

0
回复
AIStudio810258
#17 回复于2020-04
thinc #14
dl现在一般都是做end to end,只要把原始数据丢进去就能出结果

嗯,这个方向是理想的目标方向,通用人工智能。现在模型结构也都是研究机器寻解怎么用基础的那些部件。

0
回复
AIStudio810258
#18 回复于2020-04
调的多了 自然就有经验了

嗯,玩多了,就有感觉了

0
回复
AIStudio810258
#19 回复于2020-04

嗯,基本功很重要。调参就是想方设法降低模型的bias和varience

0
回复
自尊心3
#20 回复于2020-04
嗯,基本功很重要。调参就是想方设法降低模型的bias和varience

调参换言之就是人工优化问题

0
回复
何必固執丶
#21 回复于2020-04

程序的效率 取决于你的优化

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户