首页 Paddle框架 帖子详情
使用多卡进行并行训练时,如何配置DataLoader进行异步数据读取? 已解决
收藏
快速回复
Paddle框架 问答模型训练 383 1
使用多卡进行并行训练时,如何配置DataLoader进行异步数据读取? 已解决
收藏
快速回复
Paddle框架 问答模型训练 383 1

使用多卡进行并行训练时,如何配置DataLoader进行异步数据读取?

旧鸱c_
已解决
2# 回复于2021-08
paddle中多卡训练时设置异步读取和单卡场景并无太大差别,动态图模式下,由于目前仅支持多进程多卡,每个进程将仅使用一个设备,比如一张GPU卡,这种情况下,与单卡训练无异,只需要确保每个进程使用的是正确的卡即可。 具体示例请参考飞桨API paddle.io.DataLoader中的示例。
展开
0
收藏
回复
全部评论(1)
时间顺序
旧鸱c_
#2 回复于2021-08

paddle中多卡训练时设置异步读取和单卡场景并无太大差别,动态图模式下,由于目前仅支持多进程多卡,每个进程将仅使用一个设备,比如一张GPU卡,这种情况下,与单卡训练无异,只需要确保每个进程使用的是正确的卡即可。
具体示例请参考飞桨API paddle.io.DataLoader中的示例。

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户