怎样自定义单机多卡训练的卡数量？
收藏
怎样自定义单机多卡训练的卡数量？
旧鸱c_
已解决
2#
回复于2021-08
如果直接使用飞桨模型套件（paddleclas，paddleseg等）或高层API写的代码，可以直接用这条命令指定显卡启动程序，文档源代码不用改（文档内不要用set_device指定卡）： python3 -m paddle.distributed.launch --gpus="1, 3" train.py 使用基础API的场景下，在程序中修改三处： 第1处改动，import库import paddle.distributed as dist 第2处改动，初始化并行环境dist.init_parallel_env() 第3处改动，对模型增加paddle.DataParallel封装 net = paddle.DataParallel(paddle.vision.models.LeNet()) 修改完毕就可以使用 python3 -m paddle.distributed.launch --gpus="1, 3" xxx 来启动了。可参考AIstudio项目示例
0
收藏
请登录后评论
如果直接使用飞桨模型套件（paddleclas，paddleseg等）或高层API写的代码，可以直接用这条命令指定显卡启动程序，文档源代码不用改（文档内不要用set_device指定卡）： python3 -m paddle.distributed.launch --gpus="1, 3" train.py 使用基础API的场景下，在程序中修改三处：
第1处改动，import库import paddle.distributed as dist
第2处改动，初始化并行环境dist.init_parallel_env()
第3处改动，对模型增加paddle.DataParallel封装 net = paddle.DataParallel(paddle.vision.models.LeNet()) 修改完毕就可以使用 python3 -m paddle.distributed.launch --gpus="1, 3" xxx 来启动了。可参考AIstudio项目示例