【学习笔记】深度学习之CNN卷积神经网络_c'n'ncnn

什么是$CNN$（卷积神经网络）？

定义

卷积神经网络（$ConvolutionalNeuralNetwork$, $CNN$）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。

卷积神经网络由一个或多个卷积层和顶端的全连通层（对应经典的神经网络）组成，同时也包括关联权重和池化层（$PoolingLayer$）。这一结构使得卷积神经网络能够利用输入数据的二维结构。与其他深度学习结构相比，卷积神经网络在图像和语音识别方面能够给出更好的结果。这一模型也可以使用反向传播算法进行训练。相比较其他深度、前馈神经网络，卷积神经网络需要考量的参数更少，使之成为一种颇具吸引力的深度学习结构。

作为深度学习中比较重要也广为人知的一种网络结构——卷积神经网络——是非常令人吃惊的。它变成了一种颠覆性的技术，打破了从文本、视频到语音等多个领域所有最先进的算法，远远超出了其最初在图像处理的应用范围。

神经网络，顾名思义，是科学家们类比生物神经网络搭建的一种人工网络，模仿生物进行图像、音频等信息进行处理从而快速得到我们想要的信息。

卷积，则是指在人工神经网络处理信息的过程中使用了卷积这种数学上的运算方法。卷积网络是一种特殊的神经网络，它们在至少一个层中使用卷积代替一般矩阵乘法。

$CNN$的结构

卷积神经网络由一个输入层和一个输出层以及多个隐藏层组成。$CNN$的隐藏层通常由一系列与乘法或其他点积卷积的卷积层组成。

激活函数通常是$ReLU$层，随后是其他卷积。

例如池化层，全连接层和归一化层（$Softmax$或$Sigmoid$），称为隐藏层，因为它们的输入和输出被激活函数和最终卷积掩盖了。

卷积神经网络的结构：输入层（$InputLayer$）—卷积层（$ConvolutionalLayer$）—池化层（$PoolingLayer$）—卷积层—池化层（降采样层）—…—全连接层—全连接层—…—输出层（全连接层+ S o f t m a x Softmax