请问精度对齐是什么意思
收藏
一直有看到 精度对齐这个词,不是很理解。请教一下。
0
收藏
请登录后评论
应该是验证集上的精度和实际测试中的精度不太匹配,可能少几个点
那请问,怎么去对齐呢。验证集和测试集精度应该会差一点的吧
不懂+1 课程里听到有老师提过这个概念。
这个我不太清楚,可能是一些逻辑上的问题,也可能是BUG,可以去百度上找找
啊?不是复现时候的说法吗?复现的精度要和原文对齐
这是过拟合吧?
学到了
验证集【狗头】
精度对齐,就是指计算过程里面的值一模一样。
比如用飞桨代码改写pytorch或tensorflow论文程序,理论上最终的精度值应该一样,但是如果每次都全跑一遍来比较,耗时耗力,可以直接从开头就进行比较,比如查看loss值,如果第一个epoch的第一个step的loss值就不一样,就证明精度没有对齐,那么要么是代码没有写对,要么是两个框架的算子计算不一致,就可以提前发现问题,可以先集中精力处理前面两个问题,而不用每次都全跑一遍了。
原来是这样。感谢解惑
哇,抄笔记。
就是控制好初始化、随机数种子等“随机”因素,时自己复现的模型和官方源码模型的输出一致
误差在1e-6以内应该就算对齐了
赞
涨知识惹~