首页 百问百答 帖子详情
深度学习与机器学习的关系
收藏
快速回复
百问百答 问答学习资料 1250 0
深度学习与机器学习的关系
收藏
快速回复
百问百答 问答学习资料 1250 0

1、深度学习是机器学习的一种
深度学习是机器学习的一种,二者是包含关系,比如机器学习还包含强化学习等诸多其他算法。一般要谈机器学习与深度学习的区别,我们最好是将其视为深度学习与传统的机器学习方法的区别。下面引用花书的两张图,来说明这种包含关系。

人工智能AI,一种是基于知识的,我们人类专家直接将规则写好,然后让AI运行这个规则的流程,例如一般单机游戏中的AI。另一种就是机器学习,我们不写出规则,而是让机器在数据中学习到这些规则。

下图中阴影部分是表示每个算法中机器可以学习到的部分,我们从左到右依次进行讲解:

(1)基于规则的系统,机器没有可以学习的,程序员写好程序交给机器去执行就行了。

(2)经典的机器学习方法,人类设计好特征,然后将特征送给可学习的特征映射器(分类,回归等)。本篇文章重点讲经典的机器学习方法与深度学习的区别。

(3)表示学习,对于浅层神经网络,我们只学到简单的特征。对于深层神经网络,开始我们学到简单特征,之后随着网络深度的增加,我们的网络将进一步整合之前的简单特征得到更加高级更加抽象的特征。最右边的这个就是深度学习。

2、经典的机器学习方法与深度学习的区别
以下将从三个方面来说明二者之间的区别。

(1)算法流程之间的区别

经典的机器学习方法:输入-->人工抽取特征-->决策树或逻辑回归等算法-->结果。

深度学习:输入-->可学习网络-->结果。

我们可以看到,在深度学习中,并不会人工进行特征的选取,整个过程是一种端到端的学习方式。而在经典机器学习方法中,需要使用人工去精心设计特征,而这些特征第一耗费人力,第二不一定就能找到最适合的哪一个特征。早期用于图像分类的手工特征,例如图像均值,方差,Forstner算子、SUSAN算子和SIFT算子等。深度学习在算法上有两个优势:精度高,操作简单。

(2)速度上的区别

因为深度学习的模型本身比较大,所以模型需要进行多轮的大量的数据训练,才可以收敛,因此在训练上,深度学习要比经典的机器学习方法要慢很多。但是,在推理阶段,深度学习的执行时间将大大缩短,尤其是在GPU的硬件加持下。

(3)数据以及硬件的依赖

深度学习比经典的机器学习方法的模型参数要多得多,因此常常深度学习需要训练的数据也是非常大的,比如imagenet这样大的数据集加速了深度学习的发展。另一方面,想要训练的快,就需要使用运算速度非常快的GPU,因为无论卷积还是transformer两者在网络结构上都是可以并行运算的,这正好符合GPU的特性。一般使用GPU可以加速几十倍的速度,相比于CPU。数据的增加和硬件的飞速发展也促使了近年来深度学习的关注量要远远超过经典的机器学习方法。

0
收藏
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户