DenseNet也是从结构上面去改进比较深的神经网络,对标的就是ResNet。DenseNet不同于ResNet利用Identity function将前面网络层的输出直接加到后面,它强调的是极致的特征重用,不断地利用以前提取的特征,从而达到加深网络的目的(也就是解决网络过深导致的梯度消失的问题)。
这个图片是我在Debug DenseNet的Pytorch实现时,画的示意图: