model trainning 模型训练_模型训练是什么意思

                                                     学习笔记

模型的理解，构建、神经网络的训练

使用封闭方程来求解,获得模型在当前训练集上最优的参数==》在训练集上使得损失函数达到最小值时模型的参数

使用迭代优化的方法，梯度下降（GD），在训练集上，逐渐的调整模型参数，而获得最小的损失函数，最终参数收敛到和封闭方程求解一样得到相同的值。

 批量梯度下降(Batch GD),随机地图下降（Stochastic GD）、小批量梯度下降（Mini-batch GD）（此三个在后面的神经网络里会经常用到）

复杂模型—》多项式回归，可以拟合非线性数据集：过拟合（参数较多会造成），学习曲线判断是否过拟合，正则化减少过拟合

逻辑回归（Logistic）、softmax回归(多类别回归)

线性回归的理解：

     线性回归预测模型的一般化公式：$\widehat{y}$=$\theta _{}0$+$\theta _{}1$$X_{}1$+$\theta _{}2$$X_{}2$+...+$\theta _{}n$$X_{}n$

 $\widehat{y}$：预测结果；

N：特征个数；

Xi：第i个特征值；

$\theta$j：第j个参数（$\theta _{}0$：偏置项；$\theta _{}1$、$\theta _{}2$...$\theta _{}n$：特征权重值）

线性回归预测模型的一般公式可简化为：$\widehat{y}$=h($\theta$)=$^{}$$\theta ^{}T$$\cdot$ X

$\theta$：模型的参数向量。（$\theta _{}0$：偏置项，