paddle.amp.decorate函数在O2模式下将模型内部的Bn层参数也转换为了fp16
收藏
这是bug吗?我看文档里说是会跳过ln层和bn层的
dis,dis_optimizer = paddle.amp.decorate( models=dis, optimizers=dis_optimizer, level='O2', ) print(f'{dis.net[1].net[1]}:{dis.net[1].net[1].state_dict()}')
1
收藏
请登录后评论
我看不懂,去github可能会好点。