机器学习——回归算法_多个因变量的回归分析

机器学习–回归算法

一、问题分析

回归问题和分类问题在本质上是一样的，都是针对一个输入做出一个输出预测，其区别在于输出变量的类型。
分类问题也叫离散变量预测，其输出是输入数据所对应的类别，是一种定性输出。
回归问题也叫连续变量预测，其输出是由输入数据推断出来的一个实数值，是一种定量输出。如预测明天是晴天还是雨天，这是一个分类问题，而预测明天的气温度数，则是一个回归问题。
回归指研究一组随机变量(Y1 ，Y2 ，…，Yi)和另一组(X1，X2，…，Xk)变量之间关系的统计分析方法，又称多重回归分析。通常前者是因变量，后者是自变量。

二、模型分析

回归分析是一种数学模型。当因变量和自变量为线性关系时，它是一种特殊的线性模型。最简单的情形是一元线性回归，由大体上有线性关系的一个自变量和一个因变量组成；模型是Y=a+bX+ε（X是自变量，Y是因变量，ε是随机误差）。通常假定随机误差的均值为0，方差为σ2（σ2﹥0，σ^2与X的值无关），若进一步假定随机误差遵从正态分布，就叫做正态线性模型。
一般的，若有k个自变量和1个因变量，则因变量的值分为两部分：一部分由自变量影响，即表示为它的函数，函数形式已知且含有未知参数；另一部分由其他的未考虑因素和随机性影响，即随机误差。

当函数为参数未知的线性函数时&