首页 Paddle框架 帖子详情
前向计算精度对齐的问题
收藏
快速回复
Paddle框架 问答深度学习 632 8
前向计算精度对齐的问题
收藏
快速回复
Paddle框架 问答深度学习 632 8

请教大佬们,影响前向计算结果的因素都有哪些呢?

1
收藏
回复
全部评论(8)
时间顺序
AIStudio810258
#2 回复于2021-05

我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?

1
回复
AIStudio810258
#3 回复于2021-05

在ai studio上用paddle框架没有这个每次运行的随机误差,但在我本地跑pythorch时就会出现这个问题

1
回复
AIStudio810258
#4 回复于2021-05

模型的组件、结构时完全一样的

0
回复
AIStudio810258
#5 回复于2021-05
在ai studio上用paddle框架没有这个每次运行的随机误差,但在我本地跑pythorch时就会出现这个问题

这个和自动使用混合精度之类的设置什么的有关么?

0
回复
AIStudio810258
#6 回复于2021-05
这个和自动使用混合精度之类的设置什么的有关么?

不知道这个误差来自哪里,和什么因素有关呢?

0
回复
AIStudio810258
#7 回复于2021-05

这个和bn有关系么?

0
回复
aistudio_6
#8 回复于2021-05

我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?

0
回复
aistudio_6
#9 回复于2021-05
我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?我设置了固定的卷积层以及其它子层的初始化值,和输入模型的数据,但在进行前向计算时,每次的结果竟然有1e-3左右的误差,这是哪里来的?
展开

回复楼层

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户