其中Figure2(a)就是ResNeXt的一部分,其中(a)的左边这个矩形的小
凸起
部分就代表每个残差模块输入输出,对于一个输入
x
,分两条路走,一条是
x
本身,即残差模块中的跳跃连接,而另一条就是经过
1x1
卷积+
3x3
卷积+
1x1
卷积(即瓶颈结构),然后把这两条路获得结果做一个求和即可,也即是文中的
+
符号,得到下一个残差模块的输入。
而Figure2(b)是DenseNet的一部分,其中(b)左边的多边形
凸起
代表每个密集连接模块输入输出,对于输入
x
只有一条路,即经过几层卷积之后和
x
做一个通道合并(
concat
),得到的输出又是下一个密集连接模块的输入,这样每一个密集连接模块的输入都在不断累加,可以看到这个多边形越来越宽。