paddle.amp.decorate函数在O2模式下将模型内部的Bn层参数也转换为了fp16
收藏
这是bug吗?我看文档里说是会跳过ln层和bn层的
dis,dis_optimizer = paddle.amp.decorate(
models=dis,
optimizers=dis_optimizer,
level='O2',
)
print(f'{dis.net[1].net[1]}:{dis.net[1].net[1].state_dict()}')
1
收藏
请登录后评论
我看不懂,去github可能会好点。