飞桨2.0版本动态图DataParallel用法有哪些简化?
老版本用法依然兼容,建议使用以下新用法:apply_collective_grads、scale_loss可以删除不使用。loss会根据环境除以相应的卡数,scale_loss不再进行任何处理。
老版本用法依然兼容,建议使用以下新用法:apply_collective_grads、scale_loss可以删除不使用。loss会根据环境除以相应的卡数,scale_loss不再进行任何处理。