用GPU更耗时?
收藏
快速回复
AI Studio平台使用 问答Notebook项目 1510 24
用GPU更耗时?
收藏
快速回复
AI Studio平台使用 问答Notebook项目 1510 24

启动该项目1.0版本https://aistudio.baidu.com/aistudio/projectdetail/1466271

使用高级版

原代码使用gpu(第一个cell中“paddle.set_device("gpu")”),最后一个cell耗时2分钟14秒

   改成使用cpu(第一个cell改为“paddle.set_device("cpu")”),最后一个cell耗时1分钟51秒

何故?

0
收藏
回复
全部评论(24)
时间顺序
thinc
#2 回复于2021-01

应该是没用上GPU

0
回复
lg21c8
#3 回复于2021-01

怎么鉴别用上没有?

0
回复
thinc
#4 回复于2021-01
lg21c8 #3
怎么鉴别用上没有?

终端watch -n1 nvidia-smi查看一下

0
回复
AIStudio810258
#5 回复于2021-01

除了刷终端,也可以在项目运行的界面了查看gpu和显存占用

0
回复
AIStudio810258
#6 回复于2021-01

0
回复
AIStudio810258
#7 回复于2021-01
[图片]

这个进的cpu,进gpu的主机就也能看gpu占用了

0
回复
lg21c8
#8 回复于2021-01
thinc #4
终端watch -n1 nvidia-smi查看一下

paddle.set_device("gpu")时:

cpu的时候为0%

说明是启用了gpu?但是为何这么低

0
回复
AIStudio810260
#9 回复于2021-01

抛开用没用上gpu不说,就算用上了,也可能cpu更快,主要是因为数据处理的问题,最好是一批批送gpu,如果是来回切换,就会慢了

0
回复
AIStudio810259
#10 回复于2021-01
除了刷终端,也可以在项目运行的界面了查看gpu和显存占用

As 10大狠人

0
回复
AIStudio810259
#11 回复于2021-01
thinc #2
应该是没用上GPU

As 10大狠人

0
回复
AIStudio810259
#12 回复于2021-01
抛开用没用上gpu不说,就算用上了,也可能cpu更快,主要是因为数据处理的问题,最好是一批批送gpu,如果是来回切换,就会慢了

As 1第一狠人说的有道理

0
回复
thinc
#13 回复于2021-01
lg21c8 #8
paddle.set_device("gpu")时: [图片] cpu的时候为0% 说明是启用了gpu?但是为何这么低

你看模型backbone部分

# 定义网络结构
mnist = paddle.nn.Sequential(
    paddle.nn.Flatten(1, -1),
    paddle.nn.Linear(784, 512),
    paddle.nn.ReLU(),
    paddle.nn.Dropout(0.2),
    paddle.nn.Linear(512, 10)
)

Linear运算CPU,GPU速度差不多的,你可以试着添加几个Conv2D进去

0
回复
lg21c8
#15 回复于2021-01
该评论已删除

这是啥?

0
回复
thinc
#16 回复于2021-01
lg21c8 #15
这是啥?

黑产号

0
回复
陈鹏烨
#17 回复于2021-01

好奇怪啊~~~

0
回复
没入门的研究生
#18 回复于2021-01

会不会是模型小,没体现出GPU的优势来,调用GPU也需要时间。

0
回复
r
rose20135188
#19 回复于2021-01
lg21c8 #15
这是啥?

违反评论规则被官方删了?

0
回复
七年期限
#20 回复于2021-01

那肯定是没用上把  

0
回复
七年期限
#21 回复于2021-01
抛开用没用上gpu不说,就算用上了,也可能cpu更快,主要是因为数据处理的问题,最好是一批批送gpu,如果是来回切换,就会慢了

+1

0
回复
七年期限
#22 回复于2021-01
会不会是模型小,没体现出GPU的优势来,调用GPU也需要时间。

感觉这种说不清楚把

0
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户