首页 Paddle框架 帖子详情
对于图像分类全连接层的输出标签顺序是怎么确定的?
收藏
快速回复
Paddle框架 问答深度学习 9265 67
对于图像分类全连接层的输出标签顺序是怎么确定的?
收藏
快速回复
Paddle框架 问答深度学习 9265 67

标题可能没讲清楚,举个例子吧。

在MNIST数据集中,使用CNN提取图像特征后送入FC层输出(batch_size, 10)大小的矩阵,第二个维度10代表着10个类别。可是这10个类别分别代表什么类别呢?如果说这个矩阵从左到右代表着0—9还好理解,那又是什么保证了这10个种类一定是0—9的顺序呢?但如果是一些其他数据要怎么判断它的类别顺序呢?

0
收藏
回复
全部评论(67)
时间顺序
thinc
#42 回复于2020-10
哦,对啊。这个不是回归数值。是总和为一的概率值

准确来说softmax是一个置信度~hhh

0
回复
AIStudio810258
#43 回复于2020-10
thinc #42
准确来说softmax是一个置信度~hhh

嗯,因为是分子除分母(总和)得到的,得到的是互斥概率,只能用于但标签分类

0
回复
AIStudio810258
#44 回复于2020-10
thinc #42
准确来说softmax是一个置信度~hhh

多标签分类是怎么搞的?说是用sigmoid。

0
回复
AIStudio810258
#45 回复于2020-10

难道多分类就是取交叉商损失,然后取top n 就 n 个·分类标签了?

0
回复
thinc
#46 回复于2020-10
嗯,因为是分子除分母(总和)得到的,得到的是互斥概率,只能用于但标签分类

确实

0
回复
thinc
#47 回复于2020-10
难道多分类就是取交叉商损失,然后取top n 就 n 个·分类标签了?

那个是计算top n error的

0
回复
AIStudio810258
#48 回复于2020-10
thinc #47
那个是计算top n error的

有的数据集是大分类下有小分类,有模型一次大小分类都完成么?

0
回复
AIStudio810258
#49 回复于2020-10
thinc #47
那个是计算top n error的

就想用预训练模型那样,共用特征提取部分,分别训练最后分类的那层

0
回复
thinc
#50 回复于2020-10
有的数据集是大分类下有小分类,有模型一次大小分类都完成么?

最后弄两个fc不久搞定了么~

0
回复
AIStudio810258
#51 回复于2020-10
thinc #50
最后弄两个fc不久搞定了么~

哈哈,对啊,预训练模型就是通用特征提取层的。finetune的就是分类层

0
回复
AIStudio810258
#52 回复于2020-10

对了,不知道finetune后面分类层时,冻结前面特征提取层是啥效果~~

0
回复
thinc
#53 回复于2020-10
对了,不知道finetune后面分类层时,冻结前面特征提取层是啥效果~~

冻结操作怎么实现啊~~

0
回复
没入门的研究生
#54 回复于2020-10
thinc #53
冻结操作怎么实现啊~~

不是trainable=FALSE吗

0
回复
thinc
#55 回复于2020-10
不是trainable=FALSE吗[图片]

0
回复
AIStudio810258
#56 回复于2020-10
不是trainable=FALSE吗[图片]

除了冻结,可以限制参数更新幅度么?记得有个weight_clip_normal之类的来着

0
回复
AIStudio810258
#57 回复于2020-10
thinc #55
[图片]

gan就有玩逐层训练的~

0
回复
没入门的研究生
#58 回复于2020-10
除了冻结,可以限制参数更新幅度么?记得有个weight_clip_normal之类的来着

没用过。

0
回复
thinc
#59 回复于2020-10
除了冻结,可以限制参数更新幅度么?记得有个weight_clip_normal之类的来着

是的

0
回复
shr
#60 回复于2021-12

1

0
回复
DeepGeGe
#61 回复于2021-12

顺序是不用管的,只需要固定就好,也就是一个类别对应一个one hot向量。

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户