我一个模型里有两个网络使用同一个loss进行优化,这两个网络可以公用一个·优化器么?如果可以,是在优化器的parameters参数里指定么?
可以的,可以将model1 和 model2的参数分别导出到 list1 与 list2 中,然后将 list1 与 list2 相加,传递给 parameters参数里就可以; 这部分可以参考:https://github.com/miraiwk/UGATIT-paddle/blob/master/UGATIT.py#L139-L148
哦,原来这样就可以了。谢谢大佬!
少加一个优化器应该能省些内存吧
原来我是直接用一个list包了两个模型的parameters,试过了不行。原来把两个parameters的list直接接一起就ok了
可以的,可以将model1 和 model2的参数分别导出到 list1 与 list2 中,然后将 list1 与 list2 相加,传递给 parameters参数里就可以; 这部分可以参考:https://github.com/miraiwk/UGATIT-paddle/blob/master/UGATIT.py#L139-L148
哦,原来这样就可以了。谢谢大佬!
少加一个优化器应该能省些内存吧
原来我是直接用一个list包了两个模型的parameters,试过了不行。原来把两个parameters的list直接接一起就ok了