首页 PaddleNLP 帖子详情
PaddleNLP内文本摘要分布式
收藏
快速回复
PaddleNLP 问答NLP训练 1954 2
PaddleNLP内文本摘要分布式
收藏
快速回复
PaddleNLP 问答NLP训练 1954 2

PaddleNLP中的文本摘要算法text_summarization/pointer_summarizer,怎么改成分布式的?我尝试了官方文档的方法,使用collective模式并配置了strategy = fleet.DistributedStrategy();fleet.init(is_collective=True, strategy=strategy);optimizer =fleet.distributed_optimizer(optimizer),然后使用paddle.distributed.launch选了两块gpu来运行,但训练过程感觉像是有两个worker各跑各的,模型也是分别保存,并不是同步训练模型,请问是哪里还需要配置么?

0
收藏
回复
全部评论(2)
时间顺序
应十五
#2 回复于2021-08

参考:https://github.com/PaddlePaddle/PaddleNLP/issues/855

0
回复
linjieccc
#3 回复于2021-08

你好,麻烦提供下版本和环境信息

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户