单卡训练到4卡训练学习率要怎么变？4卡是单卡的四倍吗。就BML和脚本任务的四卡模式
另外，BS是不用变吗？单卡是64的话 多卡也是64吧
参考下 [1706.02677] Accurate, Large Minibatch SGD: Training ImageNet in 1 Hour (arxiv.org) ，BS要和学习率同步改变。但是实际操作都是自己试的。 pytotch的时候 我都按照单卡配置，一般不改。
谢谢
张佬你是不是昨天在群里问了，我一晃神给忘了回了。
之前作者群里面讨论过了说按单卡的配置就行，多卡会默认帮你乘以卡数
对 问了的 群里没回 我就来正规的地方问了
谢谢解答
学习了
参考下 [1706.02677] Accurate, Large Minibatch SGD: Training ImageNet in 1 Hour (arxiv.org) ，BS要和学习率同步改变。但是实际操作都是自己试的。 pytotch的时候 我都按照单卡配置，一般不改。
谢谢
张佬你是不是昨天在群里问了，我一晃神给忘了回了。
之前作者群里面讨论过了说按单卡的配置就行，多卡会默认帮你乘以卡数
对 问了的 群里没回 我就来正规的地方问了
谢谢解答
学习了