首页 百问百答 帖子详情
神经网络dropout什么意思啊
收藏
快速回复
百问百答 问答学习资料 116 0
神经网络dropout什么意思啊
收藏
快速回复
百问百答 问答学习资料 116 0

在机器学习的模型中,如果模型的参数太多,而训练样本又太少,训练出来的模型很容易产生过拟合的现象。dropout的工作原理是:我们网络在前向传播的时候,让某个神经元以一定的概率p停止工作,这样可以使模型泛化性更强,因为模型不能够只依赖于某些特定的特征来完成任务。下图展示了dropout的失活过程,它可以改变我们神经网络的连接模式。

dropout工作流程:训练阶段,以概率p对每个神经元进行随机失活,然后将数据输入该神经网络,对未失活的节点的权重与偏置进行训练。测试阶段,将所有神经元激活,但是其输出的结果要乘以(1-p),p是其在训练阶段失活的概率。这样,在测试阶段,我们可以认为综合了很多个不同的模型进行投票,从而来防止单一模型容易产生过拟合的情况。

0
收藏
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户