【建议贴】建议AIStudio Notebook/脚本任务等升级显卡驱动及对应Cuda版本
收藏
快速回复
AI Studio平台使用 其他Notebook项目算力相关 879 20
【建议贴】建议AIStudio Notebook/脚本任务等升级显卡驱动及对应Cuda版本
收藏
快速回复
AI Studio平台使用 其他Notebook项目算力相关 879 20

如题,目前AIStudio Notebook/脚本任务大多使用N卡驱动418版本以及Cuda10.1版本,在CUDA11的时代,显得愈发力不从心。

我自己测试了我自己模型的运算速度上:

Tesla V100(AIstudio),CUDA 10.1,cudnn 7.6  5.156s一个batch

GTX 1080ti(本地),CUDA 11.0,cudnn 8.4  2.782s一个batch

由此可见,低版本CUDA带来的损失还是比较大的。因此,为了提升效率,我建议平台可以考虑一下升级。

0
收藏
回复
全部评论(20)
时间顺序
z
zhujiehaode
#2 回复于2022-04

CUDA 11包含了从平台系统软件到开始开发GPU加速应用程序所需的所有功能。其中针对软件功能主要做了以下更新:

支持NVIDIA安培GPU体系结构,包括新的NVIDIA A100 GPU,用于加速扩展和扩展AI和HPC数据中心;具有NVSwitch结构的多GPU系统,如DGX A100和HGX A100。
多实例GPU(MIG)分区功能,特别有利于云服务提供商(CSP)提高GPU利用率。
新的第三代张量核加速混合精度,矩阵运算对不同数据类型,包括TF32和Bfloat16。
用于任务图、异步数据移动、细粒度同步和二级缓存驻留控制的编程和API。
CUDA库中线性代数、FFT和矩阵乘法的性能优化。
对Nsight产品系列工具的更新,这些工具用于跟踪、分析和调试CUDA应用程序。
完全支持所有主要的CPU体系结构,包括x86_64、Arm64服务器和电源体系结构。

0
回复
H
Hellinger
#4 回复于2022-04

现在是AIstudio 已经上线A100了

0
回复
学习委员
#5 回复于2022-04

Notebook Cuda版本升级已经在安排中了哈

0
回复
z
zhujiehaode
#6 回复于2022-04
Notebook Cuda版本升级已经在安排中了哈

哇可以

收到官方人员回复啦~~

0
回复
Zidane
#7 回复于2022-04

确实,CUDA版本挺关键的

0
回复
Zidane
#8 回复于2022-04

可以可以,期待升级

0
回复
s121329102428
#9 回复于2022-04

期待升级

0
回复
trainer
#10 回复于2022-04

确实用cuda11.x会更好些

0
回复
AIStudio964959
#11 回复于2022-04

期待·

0
回复
z
zhujiehaode
#12 回复于2022-04
Notebook Cuda版本升级已经在安排中了哈

哇看到升级了,Notebook V100 32G已经变成CUDA11.0了。

真心速度,赞一个!

但脚本任务还是CUDA10.1,想请问下会安排脚本任务的升级吗?

0
回复
玥亮
#14 回复于2022-05
哇看到升级了,Notebook V100 32G已经变成CUDA11.0了。 真心速度,赞一个! 但脚本任务还是CUDA10.1,想请问下会安排脚本任务的升级吗?

为啥我看到的还是cuDNN Version: 7.6

0
回复
走天涯住海角
#15 回复于2022-05

确实,每次手动升级

0
回复
z
zhujiehaode
#16 回复于2022-05
玥亮 #14
为啥我看到的还是cuDNN Version: 7.6

我那天刷到一个高版本的,我还以为是全面升级了,目前看好像只有很小的几率刷到高版本的

0
回复
玥亮
#17 回复于2022-05
确实,每次手动升级

怎么手动升级啊

0
回复
z
zhujiehaode
#18 回复于2022-05
玥亮 #17
怎么手动升级啊

只能手动升级cudnn

0
回复
z
zhujiehaode
#19 回复于2022-05
玥亮 #17
怎么手动升级啊

把/usr/local/cuda复制到/home/aistudio/

然后下载高版本的cudnn,把对应的文件拷贝到新的cuda目录下

最后修改环境变量就可以了

 

0
回复
z
zhujiehaode
#20 回复于2022-05
把/usr/local/cuda复制到/home/aistudio/ 然后下载高版本的cudnn,把对应的文件拷贝到新的cuda目录下 最后修改环境变量就可以了  

只能在终端里这么做,

在notebook里不太行

0
回复
大吃一惊的线段
#22 回复于2023-01
Notebook Cuda版本升级已经在安排中了哈

colab 的 CUDA 和驱动升到 11.6 和 510 了, aistudio 还在 11.2 和 460

0
回复
H
Hellinger
#23 回复于2023-05

可用时间太短了

0
回复
H
Hellinger
#24 回复于2023-05

嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻嘻

0
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户