机器学习系统的类型_机器学习算法的学习系统可以系统的划分为

机器学习系统类型分类

是否在人类监督下训练

• 有监督学习
  • K-近邻算法
  • 线性回归
  • 逻辑回归
  • 支持向量机
  • 决策树和随机森林
  • 神经网络
• 无监督学习
  • 聚类算法（k-均值算法，DBSCAN，分层聚类分析）
  • 异常检测和新颖性检测（单类SVM，孤立森林）
  • 可视化和降维（主成分分析，核主成分分析，局部线性嵌入，t-分布随机近邻嵌入）
  • 关联规则学习（Apriori，Eclat)
• 半监督学习
  • 由于通常给数据做标记是非常耗时和昂贵的，往往会有很多未标记的数据而很少有已标记的数据，有些算法可以处理部分已标记的数据。这被称为半监督学习。大多数半监督学习是无监督学习和有监督学习算法的结合。
• 强化学习
  • 强化学习的学习系统能够观察环境，做出选择，执行动作，并获得回报或惩罚。所以它必须自行学习什么是最好的策略，从而随着时间的推移获得最大的回报

是否可以动态地进行增量学习

• 在线学习

在批量学习中，系统无法进行增量学习——即必须使用所有可用数据进行训练。这需要大量时间和计算资源，所以通常都是离线完成的。离线学习就是先训练系统，然后将其投入生产环境，这时学习过程停止，它只是将其所学到的应用出来。如果希望批量学习系统学习新数据（例如新型垃圾邮件），需要在完整数据集（包括新数据和旧数据）的基础上重新训练系统的新版本，然后停用旧系统，用新系统取而代之。幸运的是，整个训练、评估和启动机器学习系统的过程可以很轻易地实现自动化（如图所示），所以即使是批量学习系统也能够适应变化。只是需要不断地更新数据，并根据需要频繁地训练系统的新版本。

• 批量学习

在在线学习中，你可以循序渐进地给系统提供训练数据，逐步积累学习成果。这种提供数据的方式可以是单独的，也可以采用小批量的小组数据来进行训练。每一步学习都很快速并且便宜，这样系统就可以根据飞速写入的最新数据进行学习

基于实例的学习和基于模型的学习

• 基于实例的学习
  • 系统用心学习这些示例，然后通过使用相似度度量来比较新实例和已经学习的实例（或它们的子集），从而泛化新实例
• 基于模型的学习
  • 从一组示例集中实现泛化的另一种方法是构建这些示例的模型，然后使用该模型进行预测

参考书籍：
机器学习实战：基于Scikit-Learn、Keras和TensorFlow：原书第2版