8-2 推理和训练

目录

1. 推理和训练
2. 神经网络训练过程实例

1 推理和训练

1.1 监督学习与非监督学习

• Supervised Learning 有监督式学习:
  • 输入的数据被称为训练数据（有标记），一个模型需要通过一个训练过程，在这个过程中进行预期判断，如果错误了再进行修正，训练过程一直持续到基于训练数据达到预期的精确性。其关键方法是分类和回归，算法是逻辑回归(Logistic Regression)和BP神经网络(Back Propagation Neural Network)。
• Unsupervised Learning无监督学习
  • 没有任何训练数据，基于 没有标记 的输入数据采取推导结构的模型，其关键方式是关联规则学习和聚合，算法有Apriori 算法和k-means.

1.2 深度学习的推理和训练

• 训练（Training）：一个初始神经网络通过不断的优化自身参数，来让自己变得准确。这整个过程就称之为训练（Traning）。
• 推理（Inference）：你训练好了一个模型，在训练数据集中表现良好，但是我们的期望是它可以对以前没看过的图片进行识别。你重新拍一张图片扔进网络让网络做判断，这种图片就叫做现场数据（live data），如果现场数据的区分准确率非常高，那么证明你的网络训练的是非常好的。这个过程，称为推理（Inference）。—— 上线预测

1.3 优化和泛化

深度学习的根本问题是 优化 和 泛化 之间的对立。

• **优化（optimization）**是指调节模型以在训练数据上得到最佳性能（即机器学习中的学习）。
• **泛化（generalization）**是指训练好的模型在前所未见的数据上的性能好坏。

1.4 数据集的分类

数据集可以分为：

1. 训练集：