首页 炼丹房 帖子详情
现在还手工设计网络结构么?
收藏
快速回复
炼丹房 问答新手上路 2393 58
现在还手工设计网络结构么?
收藏
快速回复
炼丹房 问答新手上路 2393 58

昨天看了一篇介绍 SWideRNet 分割网络的帖子,里面提到了wresnet,以前从没听说过(孤陋寡闻)。然后上网搜搜resnet后来的各种变体或其他网络,发现好多结构效果不错但似乎没怎么流行。

0
收藏
回复
全部评论(58)
时间顺序
AIStudio810258
#2 回复于2020-12

最后一个比较知名的就是senet了吧,引入了注意力。

0
回复
AIStudio810258
#3 回复于2020-12

后来的包括regnet,好多都是讲怎么NAS的了。那么现在还有人设计新网络结构么?

0
回复
AIStudio810258
#4 回复于2020-12

现在手工设计的网络似乎都在压缩模型参数,往轻型上使劲儿。senet后还有更牛的net么~~

0
回复
水水水的老师
#5 回复于2020-12

必须有呀

0
回复
水水水的老师
#6 回复于2020-12

前期主要还得手工设计

0
回复
thinc
#7 回复于2020-12

因为手感影响模型准确性~

0
回复
水水水的老师
#8 回复于2020-12
thinc #7
因为手感影响模型准确性~

我会先写一些评估程序

0
回复
a
a stan
#9 回复于2020-12

NAS效果好还需要一个设计好的搜索空间,当然是比手工的泛化性能更好的,但是不是所有人都像G,F这几家财大气粗可以去任性地实验。。

0
回复
r
rose20135188
#10 回复于2020-12

先手工设计比较好吧

0
回复
AIStudio810258
#11 回复于2020-12
前期主要还得手工设计

哦,只是觉得近来出炉的新模型不想原来那么多了

0
回复
AIStudio810258
#12 回复于2020-12
前期主要还得手工设计

也许是太多了,而没有像resnet那种“横空出世”的,所以我不太知道吧

0
回复
AIStudio810258
#13 回复于2020-12
thinc #7
因为手感影响模型准确性~

指的是一些“经验原则”吧

0
回复
AIStudio810258
#14 回复于2020-12
先手工设计比较好吧

指“手工定义基础的组件吧”

0
回复
AIStudio810258
#15 回复于2020-12
a stan #9
NAS效果好还需要一个设计好的搜索空间,当然是比手工的泛化性能更好的,但是不是所有人都像G,F这几家财大气粗可以去任性地实验。。

嗯,还是得有个大体的搜索方向和范围。

NAS得出过“颠覆认知”的结论么?或者发现新的认知?比如发现网络的“深度、宽度”在某一类型的任务或数据上有还不为人知的规律等等。。。

0
回复
AIStudio810258
#16 回复于2020-12

检测、分割或生成网络现在会用 ghost net、spinal net 等做骨干网络或编解码器提取特征么?

0
回复
AIStudio810258
#17 回复于2020-12

胶囊网络到底有人用来比赛没?~~

0
回复
AIStudio810258
#18 回复于2020-12

请教见多识广的大佬们~~

0
回复
thinc
#19 回复于2020-12
指的是一些“经验原则”吧

就是这个意思

0
回复
thinc
#20 回复于2020-12
胶囊网络到底有人用来比赛没?~~

胶囊在文本分类当中有应用

0
回复
AIStudio810258
#21 回复于2020-12
thinc #20
胶囊在文本分类当中有应用

恐怕还没办法用作检测、分割任务的特征提取吧

0
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户