首页 Paddle框架 帖子详情
paddle.amp.decorate函数在O2模式下将模型内部的Bn层参数也转换为了fp16
收藏
快速回复
Paddle框架 问答模型训练 280 1
paddle.amp.decorate函数在O2模式下将模型内部的Bn层参数也转换为了fp16
收藏
快速回复
Paddle框架 问答模型训练 280 1

这是bug吗?我看文档里说是会跳过ln层和bn层的

 

dis,dis_optimizer = paddle.amp.decorate(
    models=dis,
    optimizers=dis_optimizer,
    level='O2',
)
print(f'{dis.net[1].net[1]}:{dis.net[1].net[1].state_dict()}')


1
收藏
回复
全部评论(1)
时间顺序
JavaRoom
#2 回复于2022-02

我看不懂,去github可能会好点。

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户