MobileNetV2: Inverted Residuals and Linear Bottlenecks, CVPR 2018.
谷歌公司
MobileNet V1 结构非常简单, 发明了 Depthwise 和 Pointwise 卷积,但是没有使用RestNet里的residual learning;另一方面,Depthwise Conv确实是大大降低了计算量,但实际中,发现不少训练出来的kernel是空的。
![image.png](https://cdn.nlark.com/yuque/0/2020/png/582801/1605775790825-250a459e-666b-42df-b58b-89e0faeb3cce.png)
ResNet 中的 bottleneck (两头粗,中间细,所以得名),先用1x1卷积把通道数由256降到64,然后进行3x3卷积,不然中间3x3卷积计算量太大。所以bottleneck是两边宽中间窄(也是名字的由来)。
但是在 MobilenetV2中,反了过来,输入是24维,输出也是24维,但中间我们扩展了6倍。网络是中间胖、两头窄,所以叫做 Inverted residule block。
其中的原理是:通道越少,卷积层的乘法计算量就越小。那么如果整个网络都是低维的通道,那么整体计算速度就会很快。然而,这样效果并不好,没有办法提取到整体的足够多的信息。所以,如果提取特征数据的话,我们可能更希望有高维的通道来做这个事情。V2就设计这样一个结构来达到平衡。
V2中首先扩展维度,然后用depthwise conv来提取特征,最后再压缩数据,让网络变小。
![image.png](https://cdn.nlark.com/yuque/0/2020/png/582801/1605775921474-ae16e0f5-1141-4f5d-b891-e308f0f24d47.png)
网络的整体结构如下,同时,性能进一步得到了提升。
![image.png](https://cdn.nlark.com/yuque/0/2020/png/582801/1605776230328-6ba2c395-49d8-4752-889e-08b0c557a7bd.png)
![](https://cdn.nlark.com/yuque/0/2020/png/582801/1605776332693-da632d57-85b2-47fa-8ad0-c899ea014350.png)
代码如下,也比较容易理解:
# 通过 expansion 增大 feature map 的数量
planes = expansion * in_planes
self.conv1 = nn.Conv2d(in_planes, planes, kernel_size=1, stride=1,
padding=0, bias=False)
self.bn1 = nn.BatchNorm2d(planes)
self.conv2 = nn.Conv2d(planes, planes, kernel_size=3, stride=stride,
padding=1, groups=planes, bias=False)
self.bn2 = nn.BatchNorm2d(planes)
self.conv3 = nn.Conv2d(planes, out_planes, kernel_size=1, stride=1,
padding=0, bias=False)
self.bn3 = nn.BatchNorm2d(out_planes)