尝试搭建了VGG16和Resnet50：发现resnet50的参数量小于VGG16，有些拿不准对错？是因为resnet的瓶颈结构吗？
参数量如下：
ResNet-50：
Total PARAMs: 23518273(23.5183M)
Total FLOPs: 8188710400(8.19G)
VGG-16：
当然，resnet比vgg又快又小。
17、18年前的用vgg的，后来全用残差块了
1×1卷积降维功不可没
请问Resnet相比于VGG有什么缺点吗？比如VGG准确率达到0.91，resnet50 准确率达到了0.915，为什么有的却选择使用VGG
ResNet肯定比VGG要小啊。。VGG光是最后那几个4096的全连接就够GPU吃的了
应该是没有缺点。。毕竟残差比VGG晚了几年，肯定有进步
我也问过这个问题～～
应该是那些文章用vgg时，resnet还没出炉呢
现在的网络都是用残差、多尺度特征图拼接的
然后是加注意力机制提高准确率和轻型化提高推理速度
再就是蒸馏、裁剪了
再新的就是胶囊网络、脊椎网络
脊椎网络改变的微数据的方式，感兴趣可以看看这个
https://aistudio.baidu.com/aistudio/projectdetail/1085550
刚才那个是resnet的，可以和这个vgg的对比下。即使都用了新技术，resnet还是比vgg又快又省～～
https://aistudio.baidu.com/aistudio/projectdetail/1067525
蒸馏裁剪能让准确率上去吗
胶囊网络是一个好的方向，不过现在的应用还只是手写数字识别上
一代更比一代强
8G显存，运行resnet-101，batch size选多大合适呢
蒸馏裁剪是把网络变小用的 目的是大幅度减少参数又不怎么影响准确率
能增强泛化能力，有时也能提高准确率
现在网络基本都不用全连接层了，用全局池化代替
当然，resnet比vgg又快又小。
17、18年前的用vgg的，后来全用残差块了
1×1卷积降维功不可没
请问Resnet相比于VGG有什么缺点吗？比如VGG准确率达到0.91，resnet50 准确率达到了0.915，为什么有的却选择使用VGG
ResNet肯定比VGG要小啊。。VGG光是最后那几个4096的全连接就够GPU吃的了
应该是没有缺点。。毕竟残差比VGG晚了几年，肯定有进步
我也问过这个问题～～
应该是那些文章用vgg时，resnet还没出炉呢
现在的网络都是用残差、多尺度特征图拼接的
然后是加注意力机制提高准确率和轻型化提高推理速度
再就是蒸馏、裁剪了
再新的就是胶囊网络、脊椎网络
脊椎网络改变的微数据的方式，感兴趣可以看看这个
https://aistudio.baidu.com/aistudio/projectdetail/1085550
刚才那个是resnet的，可以和这个vgg的对比下。即使都用了新技术，resnet还是比vgg又快又省～～
https://aistudio.baidu.com/aistudio/projectdetail/1067525
蒸馏裁剪能让准确率上去吗
胶囊网络是一个好的方向，不过现在的应用还只是手写数字识别上
一代更比一代强
8G显存，运行resnet-101，batch size选多大合适呢
蒸馏裁剪是把网络变小用的 目的是大幅度减少参数又不怎么影响准确率
能增强泛化能力，有时也能提高准确率
现在网络基本都不用全连接层了，用全局池化代替