数据分析-深度学习-神经网络_深度学习 数据分析

目录

前言 

感知机

 多层感知机(MLP)

卷积神经网络（VGG/GoogleNet/AlexNet/ResNet）

循环神经网络（RNN）

自编码器（Autoencoder）

生成对抗网络（GAN）

---

前言 

近些年随着大规模高质量标注数据集的出现；并行运算的发展；更好的非线性激活函数的使用；更多优秀的网络结构的发明；深度学习开发平台的发展；更多稳健的优化算法的出现等，得到快速的发展。并在语音识别，机器翻译，图像识别，AI等领域得到充分的应用。

与传统的机器学习相比，深度学习不需要人工特区特征，可以自动学习有用特征。

 深度学习的核心思想：表示学习/特征学习；非线性函数逼近；端到端学习。

感知机

由输入空间到输出空间的如下函数：

  称为感知机，也就是单个的神经元节点。

 其中X为特征，w为特征权重，bias为偏差，y为标签。阶跃函数为激活函数，当输入X使得WX+bias>=0时（或WX>=-bias），（类似神经元激活）输出1，否则输出0。

 多层感知机(MLP)

多个神经元以全连接层次相连，这种网络也称为前馈神经网络，当网络为多层时也称为深度学习网络。

万能逼近原理：MLP能够逼近任何函数