【百度技术学院机器学习训练营第二期】-实验作业
Ta的回复 :01班-wuweisn 1 网络结构 第一卷积池化层:输入 [3,32,32], 卷积输出[20, 28, 28], 池化层输出[20, 14, 14] 第二卷积池化层:输入 [20, 14, 14], 卷积输出[50, 10, 10], 池化层输出[50, 5, 5] 第三卷积池化层:输入 [50, 5, 5], 卷积输出[50, 1, 1], 池化层输出[50, 1, 1] 全连接输出层:输入[]50, 1, 1], 输出[10] BN:加快收敛,避免过拟合 复杂合理的结构可以提高准确率,但是不要太复杂,以免过拟合 2 分类采用交叉熵(cross entropy,回归采用平方误差损失(squared error loss) 李老师推荐的模型 SGD cost:0.88786 acc:0.69473 learning rate: 0.001 Momentum cost:1.41415 acc:0.72275 learning rate: 0.001 Adagrad cost:0.85922 acc:0.72979 learning rate: 0.001 Adam cost:1.47042 acc:0.78799 learning rate: 0.001 cost:1.43113 acc:0.73320 learning rate: 0.0001 原来的模型 Adam cost:1.02159 acc:0.67334 learning rate: 0.001 cost:1.02350 acc:0.65439 learning rate: 0.0001 模型对准确率的影响是最主要的,学习率,优化算法对模型都有影响。该例子中,最好的选择是Adam 3 随着样本的增加,模型准确率随之提高。每个分类至少有500+样本,可以获取不错的准确值。 4 测试的结果不满意,原因可能是测试图片样本尺寸太小,图片中特征量缺失。而拍摄的图片或下载的图片缩小后失真,造成预测失败。