影响模型计算速度的因素都有哪些?
收藏
可能看到这个问题,大部分人的第一感就是模型的参数量,但是影响模型计算速度的远不止参数量,具体如下:
1. 参数量;
2. 浮点运算数量:比如在rnn网络中,利用同样的参数对不同的输入反复计算,虽然参数量不多,但是计算量很大;
3. 内存访问成本;
4. 并行度。
0
收藏
请登录后评论
此外,还有一个很关键的指标:比如双(多)分支结构与 Plain 结构,例如 VGG16 模型的 FLOPs 远远大于 EfficientNetB3,但是 VGG16 模型的推理速度却显著快于 EfficientNetB3。