首页 Paddle框架 帖子详情
求助,我在使用混合精度训练时,遇到了以下问题
收藏
快速回复
Paddle框架 问答模型训练 1019 3
求助,我在使用混合精度训练时,遇到了以下问题
收藏
快速回复
Paddle框架 问答模型训练 1019 3
AssertionError: Variable dtype not match, Variable [ dygraph_tmp_11 ] need tensor with dtype float32 but load tensor with dtype float16 可amp不是本身就要使用float16计算的嘛?
附上部分代码:
class D_m(nn.Layer):
    def __init__(self):
        super().__init__()
        self.from_rgb=nn.utils.spectral_norm(conv(3,16,1,bias=True))
        ......
    def forward(self,x):
        x=self.from_rgb(x)
        .....
        return x
D=D_m()
......
with paddle.amp.auto_cast():
    r=D(batch)
     ​

十分感谢!

0
收藏
回复
全部评论(3)
时间顺序
FutureSI
#2 回复于2021-06

一般paddle都是要求双精度float32

0
回复
FutureSI
#3 回复于2021-06

我理解框架自动进行混合精度运算

0
回复
FutureSI
#4 回复于2021-06

参考文档:

https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/01_paddle2.0_introduction/basic_concept/amp_cn.html#zidonghunhejingduxunlian

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户