Fleet Collective 开发,用 optimizer 和Strategy 一层。model 一层?
收藏
使用 Fleet Collective 模式进行开发时,已使用 fleet.distributed_optimizer 对 optimizer 和 fleet.DistributedStrategy 包了一层。想确认模型是否也需要使用 fleet.distributed_model 再包一层?
旧鸱c_
已解决
2#
回复于2021-08
需要将fleet.distributed_model在封装一层。原因是动态图主要在fleet.distributed_model进行分布式设计,静态图是在fleet.distributed_optimizer进行分布式设计。所以,如果不区分动态图和静态图,两个接口都是需要的。
0
收藏
请登录后评论
需要将fleet.distributed_model在封装一层。原因是动态图主要在fleet.distributed_model进行分布式设计,静态图是在fleet.distributed_optimizer进行分布式设计。所以,如果不区分动态图和静态图,两个接口都是需要的。