机器学习入门（小白学习笔记）

一、机器学习ML

机器学习（Machine Learning）就是通过训练样本数据建立数学模型做出预测和决策
统计学习（Statistical Learning）就是运用数据及统计方法的机器学习
一般谈到统计学习就是机器学习

二、基本术语

数据 Data：机器学习的研究对象，计算机及网络一切信息都可以是数据
数据集 Data Set：用于训练或测试模型的数据的集合
样本 Sample：数据集中对某事件或某对象的描述的记录，也叫实例 Instance，样本所组成的空间叫样本空间 Sample Space，作为输入空间
特征 Feature：每个样本在某方面的表现，类似于生物里的“性状”，也叫属性 Attribute
学习 Learning：从数据得到模型的过程，也叫训练Training，因而训练中使用的数据叫训练数据，其中每个样本叫训练样本，训练样本组成的集合叫训练集，训练学习得到的模型叫做假设 Hypothesis，假设逼近的真正的规律叫真相 Ground-true
模型 Model：从数据中学得的结果，也叫学习器 Learner
标签 Label：人工给部分样本标记的信息，有标签的样本叫样例 example，标签的集合叫标签空间 Label Space，作为输出空间
测试 Testing：测试是使用模型进行预测的过程，被预测的样本叫测试样本 Testing Sample
损失函数 loss function：度量预测错误的程度，来评价模型一次预测的好坏，又叫cost function

风险函数 risk function：模型关于其联合分布的损失的期望，来评价模型平均意义下预测的好坏，又叫期望损失 expected loss
经验风险 empirical risk/loss：训练集中损失的平均值

根据大数定律，当样本容量$N\to \infty$，则$R_{emp}(f)\to R_{exp}(f)$
但实际上训练样本数目有限，所以用经验风险估计期望损失需要对经验风险矫正

三、基本分类

监督学习 supervised learning、无监督学习 unsupervised learning、强化学习 reinforcement learning、半监督学习 semi-supervised learning、主动学习 active learning

1.监督学习

基本描述

从标注数据中学习预测模型
输入输出变量可能取值的集合分别成为输入空间 input space与输出空间 output space
输入变量记为X，输出变量记为Y
输入的样本实例记为 $x=(x^{(1)},x^{(2)},...,x^{(i)},...,x^{(n)}{)}^T$
$x^{(i)}$表示x的第$i$个特征
第$i$个输入样本实例记为$x_i=(x_i^{(1)},x_i^{(2)},...,x_i^{(i)},...,x_i^{(n)}{)}^T$
有$N$个样本点的训练集记为$T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}$
联合概率分布$X,Y\sim P(X,Y)$
监督学习的模型可以是条件概率分布$P(Y|X)$或决策函数$Y=f(X)$
样本输入是$x$时，写作$P(y|x)$或$y=f(x)$

监督学习三大问题

分类问题（学习+分类）输出变量为有限个离散变量

主要看分类器的性能评价指标

error rate与accuracy

$\text{error rate}=\frac{1}{N}\stackrel{N}{\sum _{i=1}}I(y_i\ne \hat{f}(x_i))={\int }_{x\sim \mathcal{D}}I(y\ne \hat{f}(x))p(x)\text{d}x$
$\text{accuracy}=\frac{1}{N}\stackrel{N}{\sum _{i=1}}I(y_i=\hat{f}(x_i))={\int }_{x\sim \mathcal{D}}I(y=\hat{f}(x))p(x)\text{d}x$
$p(x)$是概率密度函数

查准率 precision与查全率 recall

预测结果混淆矩阵

$\text{precision}=\frac{TP}{TP+FP}$意思是模型判断为正例的样本里有多少真正的正例
$\text{recall}=\frac{TP}{TP+FN}$意思是真正的正例中有多少模型判断对了
查准率等于查全率的取值被称为平衡点 Break-Even Point BEP，平衡点越高，一般认为模型更优异
更精准一点可以使用两者的调和平均数$F_1=\frac{2\times P\times R}{P+R}$判断
或可用加权调和平均数$F_{\beta }=\frac{(1+{\beta }^2)\times P\times R}{{\beta }^2\times P+R}$
$\beta$是衡量P和R谁重要的参数，大于一 R 更重要，小于一 P 更重要

标注问题（学习+标注tagging）

回归问题（学习+预测）输入输出均为连续变量

回归问题最常用的是平方损失函数

2.无监督学习

从无标注数据中学习预测模型
学习数据中的统计规律和潜在结构
典型的无监督学习是聚类问题

3.强化学习、半监督学习、主动学习

强化学习是智能系统在与环境的连续互动中学习最优行为策略
半监督学习是利用未标注数据辅助标注数据进行学习
主动学习是机器不断主动给实例让人进行标注，然后利用标注数据进行学习

四、机器学习三要素

模型 model、策略 strategy、算法 algorithm

1.模型

选择模型时只选择概率模型 probabilistic model和非概率模型 non-probabilistic model其中的一种
假设空间用$\mathcal{F}$表示
非概率模型时，$\mathcal{F}$是决策函数的集合 F = { f ∣ Y = f θ ( X ) , θ ∈ R n } \mathcal{F}=\{f|Y={f_{\theta}}(X),\theta\in{\mathbf{R}^n}\} F={f∣Y=fθ​(X),θ∈Rn}
概率模型时，$\mathcal{F}$是决策函数的集合 F = { P ∣ P θ ( Y ∣ X ) , θ ∈ R n } \mathcal{F}=\{P|P_{\theta}(Y|X),\theta\in{\mathbf{R}^n}\} F={P∣Pθ​(Y∣X),θ∈Rn}
$\theta$是参数向量

2.策略

经验风险最小化（empirical risk minimization，ERM）

ERM策略认为$R_{emp}$最小的模型就是最优的模型
该策略就是求解$\underset{f\in \mathcal{F}}{\min }{R}_{emp}$
代表例子：极大似然估计 maximum likelihood estimation
要求：样本数量足够大，否则会出现过拟合 over-fitting现象

结构风险最小化（structural risk minimization，SRM）

SRM策略认为$R_{srm}$最小的模型就是最优的模型，就是正则化 regularization
在经验风险后面加上正则化项 regularizer或罚项 penalty term
$R_{srm}=R_{emp}+\lambda J(f)$
这个添加项$J(f)$表示模型的复杂程度，模型$f$越复杂，$J(f)$越大
结构风险小的模型往往对训练数据和未知的测试数据都有较好的预测
代表例子：贝叶斯估计的最大后验概率估计

3.算法

学习模型的具体计算方法
因而机器学习就是基于训练数据集，根据学习策略（ERM还是SRM），从假设空间$\mathcal{F}$选择最优模型$f$,最后考虑用什么计算方法求解最优模型

五、模型评估与模型选择

• 训练误差与测试误差
  训练误差 training error就是经验风险$R_{emp}(\hat{f})$
  测试误差 test error是测试数据集的平均损失$e_{test}=\frac{1}{N^{\prime }}\stackrel{N+N^{\prime }}{\sum _{i=N+1}}L(y_i,\hat{f}(x_i))$
  其中$N$是训练样本容量，$N^{\prime }$是测试样本容量
  当损失函数为0-1损失时
  测试误差就是误差率 error rate：$e_{test}=\frac{1}{N^{\prime }}\stackrel{N+N^{\prime }}{\sum _{i=N+1}}I(y_i\ne \hat{f}(x_i))$
  准确率 accuracy：$e_{test}=\frac{1}{N^{\prime }}\stackrel{N+N^{\prime }}{\sum _{i=N+1}}I(y_i=\hat{f}(x_i))$
• 过拟合
  过拟合 over-fitting：学习能力过强导致把训练样本不具有一般性的特性学习，导致泛化性下降。特点是参数过多，对已知数据预测的好，对未知数据预测的差
  欠拟合under-fitting：学习能力太差
• 泛化
  将学习方法应对于新样本的预测能力叫泛化能力 generalization ability
  能反映泛化能力的参数叫泛化误差 generalization error，其实就是期望损失$R_{exp}$

1.评估方法

留出法 hold-out

将原数据集$D$划分为两个互斥集合，一个作为训练集$S$，一个作为验证集$T$
常用做法是$\frac{2}{3}$~$\frac{4}{5}$的样本用于训练,剩余样本用于测试
如果数据集较大可以划分成60%的训练集、20%的验证集和20%的测试集，验证集用于调参

交叉验证 cross validation

将原数据集$D$划分为$k$个大小相似的互斥子集，用其中的$k-1$个子集作为训练集，剩下一个作为验证集，反复操作，一共可以得到k次验证，返回平均值
常取的$k$的值有5、10、20，当$k=m$（$m$为样本数）时，叫做留一法，评估准确但计算复杂

自助法 bootstrapping

原数据集$D$有$m$个样本，每次将随机抽取其中的样本拷贝放入空集合$D^{\prime }$，执行$m$次，得到新的数据集$D^{\prime }$，其中缺失某些$D$的样本，可以估计一下，始终不被采样到的概率是$(1-\frac{1}{m}{)}^m$，取极限$\underset{m\to \infty }{\lim }(1-\frac{1}{m}{)}^m=\frac{1}{e}\approx 0.368$，因而可以将$D^{\prime }$用于训练集，而在$D^{\prime }$中未出现的用于测试集

2.调整参数

划分出独立于训练集之外的验证集优化模型，调整参数