首页 炼丹房 帖子详情
data生成速度跟不上gpu训练速度怎么办呀
收藏
快速回复
炼丹房 问答新手上路 1620 9
data生成速度跟不上gpu训练速度怎么办呀
收藏
快速回复
炼丹房 问答新手上路 1620 9

如题~静等大佬~

0
收藏
回复
全部评论(9)
时间顺序
乌拉__----
#2 回复于2020-09

自己顶下~

0
回复
furoce
#3 回复于2020-09

可以把data放内存里么,或者先生成完data再训练

0
回复
AIStudio810260
#4 回复于2020-09

把data存起来,然后一次性读?

0
回复
AIStudio810258
#5 回复于2020-09

数据量不大可以一次读取,然后每轮shuffle。

0
回复
乌拉__----
#6 回复于2020-09

感谢大家!(抱拳)

0
回复
暮光の灵
#7 回复于2020-09

这是怎么知道跟不上速度的

0
回复
3
337954205
#8 回复于2020-09

cpu跟不上gpu吧  

要么优化cpu部分的代码,减少减少预处理的时间让它跑快点

要么数据量小就全生成完了都读到内存或显存

要么数据量大就干脆把预处理部分全做了直接弄一个预处理完的数据集,让gpu能直接读

要么就土豪做派,自己配机器让cpu跟的上gpu

0
回复
3
337954205
#9 回复于2020-09
这是怎么知道跟不上速度的

看gpu使用率,要是在训练中一直有很长时间的0使用率,十有八九是gpu在等cpu往过送数据

0
回复
furoce
#10 回复于2020-09
看gpu使用率,要是在训练中一直有很长时间的0使用率,十有八九是gpu在等cpu往过送数据

学习了

0
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户