论文笔记：Densely Connected Convolutional Networks(DenseNet模型详解)_huang g, liu z, van der maaten l, et al. densely c

CVPR 2017上，清华大学的Zhuang Liu、康奈尔大学的Gao Huang和Kilian Q.Weinberger，以及Facebook研究员Laurens van der Maaten 所作论文Densely Connected Convolutional Networks当选 ，与苹果的首篇公开论文Learning From Simulated and Unsupervised Images through Adversarial Training共同获得了2017 CVPR 最佳论文。下面我们就来看看DenseNet是何方神圣吧。

摘要

最近的研究表明，当靠近输入的层和靠近输出的层之间的连接越短，卷积神经网络就可以做得更深，精度更高且可以更加有效的训练。本文根据这一结论，提出了一种稠密卷积神经网络(Dense Convolutional Network,DenseNet)，这种结构将每一层与之前所有层相连接。传统的L层卷积神经网络有L个连接——位于每一层和其后一层之间—，而我们的神经网络有个直接链接。对于每一层，其输入的特征是之前所有的层，而它自己的特征图作为之后所有层的输入。DenseNet有以下几个引人注目的优点：缓解梯度消失问题，加强特征传播，鼓励特征复用，极大的减少了参数量。我们在四个极具竞争力的物体识别标准图像库(CIFAR-10,CIFAR-100, SVHN, and ImageNet)对我们所提出的结构进行测试。结果表面DenseNet在大多数的测试图像库中都获得了最好的效果，然而它只需要很少的计算两来达到很高的性能。代码参见https://github.com/liuzhuang13/DenseNet。

DenseNet与ResNet对比

作者主要受ResNet和Highway NetWorks的启发，通过与之后的某一层进行直接连接来传递信息，下面我们直观的从结构来看ResNet和DenseNet的差异。 
假设一个单张的图片输入一个有L层的卷积网络，每层的激励函数为，可以是BN、ReLU、Pooling、Conv等操作的集合。假设为第l层的输出。

 
最原始的前馈卷积神经网络，将第l层的输出作为第l+1层的输入，所以第l层的输出为：。

 
ResNet除了本层与下一层的连接之外，还增加了一个skip-connection,即将l层和l-1层的输出共同作为l+1层的输入，即，第l层的激活值不仅仅影响l+1层，而且还影响l+2层。所以第l层的输出为：。

 
DenseNet则是让l层的输入直接影响到之后的所有层，它的输出为：。并且由于每一层都包含之前所有层的输出信息，因此其只需要很少的特征图就够了，这也是为什么DneseNet的参数量较其他模型大大减少的原因。

DenseNet结构详解

DenseNet的整体结构包含稠密块（Dense Block）和过渡层（transition layers），可以简单来可以看作是Dense Block-transition layers-Dense Block-transition layers··· 
如下图： 
 
要将结构分为Dense Block和transition layers的原因是，transition layer中包含的Poling层会改变特征图的大小，而Dense Block内部必须保证特征图的大小一致，否则这种层之间的连接方式就不可行了。 
下面就来看看Dense Block内部结构吧。 
 
上图是一个包含五层，层宽度（Growth rate）为k=4的Dense Block,层与层之间的激励函数（即）为BN-ReLU-Conv(3x3)的结构。这个Growth rate实际上就是每一层特征图的数量，这样第l层就有个特征图了。 
为了进一步减少参数辆，作者又作了以下改进： 
* 将该为BN-ReLU-Conv(1x1)-BN-ReLU-Conv(3x3)的结构，记为DenseNet-B 
* 为了进一步减少参数量，在DenseNet-B的基础上，对过渡层的特征图进行压缩，产生个特征图，其中，为压缩因子。

下面放上一张DenseNet与现有模型实验对比图： 
 
前面是深度和参数量，后面是在各图像库中测试的错误率，蓝色表明结果最优。可以看到相比于其他模型DenseNet有更少的参数且出错率更低。

缺点

DneseNet在训练时十分消耗内存，这是由于算法实现不优带来的。当前的深度学习框架对 DenseNet 的密集连接没有很好的支持，所以只能借助于反复的拼接（Concatenation）操作，将之前层的输出与当前层的输出拼接在一起，然后传给下一层。对于大多数框架（如Torch和TensorFlow），每次拼接操作都会开辟新的内存来保存拼接后的特征。这样就导致一个 L 层的网络，要消耗相当于 L(L+1)/2 层网络的内存（第 l 层的输出在内存里被存了 (L-l+1) 份）。为此作者又写了一个技术报告（Memory-Efficient Implementation of DenseNets)专门针对这一问题，介绍如何提升对内存的使用率，同时提供的Torch, PyTorch, MxNet 以及 Caffe 的实现，代码参见：

Torch implementation:https://github.com/liuzhuang13/DenseNet/tree/master/models 
PyTorch implementation:https://github.com/gpleiss/efficient_densenet_pytorch 
MxNet implementation:https://github.com/taineleau/efficient_densenet_mxnet 
Caffe implementation:https://github.com/Tongcheng/DN_CaffeScript

论文只是粗略的看了，如果还有内容会继续补充。

参考资料： 
1. CVPR 2017最佳论文作者解读：DenseNet 的“what”、“why”和“how”｜CVPR 2017 
2. Huang G, Liu Z, Weinberger K Q, et al. Densely connected convolutional networks[J]. arXiv preprint arXiv:1608.06993, 2016. 
3. 如何评价Densely Connected Convolutional Networks？