AI笔记-基础知识_ai flatten

AI学习框架

Google的TensorFlow
亚马逊的MxNet
微软的 CNTK
百度的 PaddlePaddle
Caffe2 在TensorFlow发布之前其一直是深度学习领域最为火热的项目。Caffe2拥有大量已经训练好了的模型，如AlexNet,VGG,Inception,收藏在Modle Zoo中。
Facebook 的Pytorch

硬件

深度学习的执行作业需要大量的矩阵和向量计算，基于GPU,CPU,FPGA,ASIC等，GPU适合模型训练，目前主流的是NVIDIA GPU。

标准

学习框架有很多种，慢慢的就积累了很多基于不同框架的模型，所以模型和框架之间转换是急需解决的问题；所以就有了Microsoft和Facebook发布了一个全新的开源项目-ONNX,欲借此打造一个开放的深度学习工具生态系统。

应用场景

语音识别

计算机视觉

身份识别，直播美颜，安检，车牌定位，门禁系统，人脸识别，表情识别
1

自然语言处理

比如机器翻译，聊天机器人，问答系统，情感分析
1

数据集

因为深度学习需要进行大量的训练，训练就需要数据集，所以就有了公共数据集
ImageNet, Coco,MINIST等
1
2

基本网络

深度学习网络大多由很多基本网络结果组成而来，基本网络有以下这些：
1

MLP(multi layer perception)多层感知

MLP的结构特点是输入层和输出层之间存在一个或者多个隐藏层，输入层用于获取外部输入信号，只有隐藏层和输出层的神经元为计算节点，每层都对上一次的输入进行加权处理，然后通过激活函数进行非线性变换，参数通过反向传播进行训练。
1

感知器

激活函数

常见的激活函数：sigmoid,thanh,ReLU,softplus
Sigmoid: f(x) = 1/(1+e(-x))
ReLU: F(x) = max(0,x)
1
2
3