首页 Paddle框架 帖子详情
请问精度对齐是什么意思
收藏
快速回复
Paddle框架 问答深度学习 2162 15
请问精度对齐是什么意思
收藏
快速回复
Paddle框架 问答深度学习 2162 15

一直有看到 精度对齐这个词,不是很理解。请教一下。

0
收藏
回复
全部评论(15)
时间顺序
thinc
#2 回复于2020-12

应该是验证集上的精度和实际测试中的精度不太匹配,可能少几个点

0
回复
悠哈大飞
#3 回复于2020-12

那请问,怎么去对齐呢。验证集和测试集精度应该会差一点的吧

0
回复
MR.三水九
#4 回复于2020-12

不懂+1 课程里听到有老师提过这个概念。

0
回复
thinc
#5 回复于2020-12
那请问,怎么去对齐呢。验证集和测试集精度应该会差一点的吧

这个我不太清楚,可能是一些逻辑上的问题,也可能是BUG,可以去百度上找找

0
回复
AIStudio810260
#6 回复于2020-12

啊?不是复现时候的说法吗?复现的精度要和原文对齐

0
回复
AIStudio810260
#7 回复于2020-12
thinc #2
应该是验证集上的精度和实际测试中的精度不太匹配,可能少几个点

这是过拟合吧?

0
回复
Teylet
#8 回复于2020-12

学到了

0
回复
thinc
#9 回复于2020-12
这是过拟合吧?

验证集【狗头】

0
回复
skywalk163
#10 回复于2021-02

精度对齐,就是指计算过程里面的值一模一样。

比如用飞桨代码改写pytorch或tensorflow论文程序,理论上最终的精度值应该一样,但是如果每次都全跑一遍来比较,耗时耗力,可以直接从开头就进行比较,比如查看loss值,如果第一个epoch的第一个step的loss值就不一样,就证明精度没有对齐,那么要么是代码没有写对,要么是两个框架的算子计算不一致,就可以提前发现问题,可以先集中精力处理前面两个问题,而不用每次都全跑一遍了。 

0
回复
悠哈大飞
#11 回复于2021-02
精度对齐,就是指计算过程里面的值一模一样。 比如用飞桨代码改写pytorch或tensorflow论文程序,理论上最终的精度值应该一样,但是如果每次都全跑一遍来比较,耗时耗力,可以直接从开头就进行比较,比如查看loss值,如果第一个epoch的第一个step的loss值就不一样,就证明精度没有对齐,那么要么是代码没有写对,要么是两个框架的算子计算不一致,就可以提前发现问题,可以先集中精力处理前面两个问题,而不用每次都全跑一遍了。 
展开

原来是这样。感谢解惑

0
回复
AIStudio810259
#12 回复于2021-02
精度对齐,就是指计算过程里面的值一模一样。 比如用飞桨代码改写pytorch或tensorflow论文程序,理论上最终的精度值应该一样,但是如果每次都全跑一遍来比较,耗时耗力,可以直接从开头就进行比较,比如查看loss值,如果第一个epoch的第一个step的loss值就不一样,就证明精度没有对齐,那么要么是代码没有写对,要么是两个框架的算子计算不一致,就可以提前发现问题,可以先集中精力处理前面两个问题,而不用每次都全跑一遍了。 
展开

哇,抄笔记。

0
回复
AIStudio810258
#13 回复于2021-02

就是控制好初始化、随机数种子等“随机”因素,时自己复现的模型和官方源码模型的输出一致

1
回复
AIStudio810258
#14 回复于2021-02

误差在1e-6以内应该就算对齐了

0
回复
七年期限
#15 回复于2021-02
精度对齐,就是指计算过程里面的值一模一样。 比如用飞桨代码改写pytorch或tensorflow论文程序,理论上最终的精度值应该一样,但是如果每次都全跑一遍来比较,耗时耗力,可以直接从开头就进行比较,比如查看loss值,如果第一个epoch的第一个step的loss值就不一样,就证明精度没有对齐,那么要么是代码没有写对,要么是两个框架的算子计算不一致,就可以提前发现问题,可以先集中精力处理前面两个问题,而不用每次都全跑一遍了。 
展开

0
回复
乌拉__----
#16 回复于2021-02
精度对齐,就是指计算过程里面的值一模一样。 比如用飞桨代码改写pytorch或tensorflow论文程序,理论上最终的精度值应该一样,但是如果每次都全跑一遍来比较,耗时耗力,可以直接从开头就进行比较,比如查看loss值,如果第一个epoch的第一个step的loss值就不一样,就证明精度没有对齐,那么要么是代码没有写对,要么是两个框架的算子计算不一致,就可以提前发现问题,可以先集中精力处理前面两个问题,而不用每次都全跑一遍了。 
展开

涨知识惹~

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户