最后一个比较知名的就是senet了吧，引入了注意力。

后来的包括regnet，好多都是讲怎么NAS的了。那么现在还有人设计新网络结构么？

现在手工设计的网络似乎都在压缩模型参数，往轻型上使劲儿。senet后还有更牛的net么～～

必须有呀

前期主要还得手工设计

因为手感影响模型准确性~

我会先写一些评估程序

NAS效果好还需要一个设计好的搜索空间，当然是比手工的泛化性能更好的，但是不是所有人都像G,F这几家财大气粗可以去任性地实验。。

先手工设计比较好吧

哦，只是觉得近来出炉的新模型不想原来那么多了

也许是太多了，而没有像resnet那种“横空出世”的，所以我不太知道吧

指的是一些“经验原则”吧

指“手工定义基础的组件吧”

嗯，还是得有个大体的搜索方向和范围。

NAS得出过“颠覆认知”的结论么？或者发现新的认知？比如发现网络的“深度、宽度”在某一类型的任务或数据上有还不为人知的规律等等。。。

检测、分割或生成网络现在会用 ghost net、spinal net 等做骨干网络或编解码器提取特征么？

胶囊网络到底有人用来比赛没？～～

请教见多识广的大佬们～～

就是这个意思

胶囊在文本分类当中有应用

恐怕还没办法用作检测、分割任务的特征提取吧