当前位置:   article > 正文

采用线性回归对波士顿房价数据集进行建模_使用波士顿房价数据,分别进行线性回归,岭回归,lasso回归建模,输出各属性的系数,体

使用波士顿房价数据,分别进行线性回归,岭回归,lasso回归建模,输出各属性的系数,体

特征变换:

1y=df[‘sales’]
2X=df.drop([‘sales’,‘Unnamed:0’],axis=1)

随机选择其中80%的样本作为训练数据,其余20%的数据作为测试样本
3X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=33, test_size=0.2)

用训练数据训练最小二乘线性回归(无正则)、岭回归(L2正则)和Lasso(L1正则),注意岭回归和Lasso的正则超参数调优,性能指标为RMSE:
比较上述三种模型得到的各特征的回归系数,以及各模型在测试集上的性能。

回归系数:岭回归、Lasso得到的回归系数绝对值均比最小二乘线性回归小,即起到了权值收缩的效果(不全,具体回归系数分析看P36页最上行)
性能:最小二乘线性回归在训练集上的性能最好,但在测试集上的性能最差;Lasso模型在测试集上的性能最好

4# 导入pandas工具包
5import pandas as pd
6# 读取数据
7dpath=“./data/”
8df=pd.read_csv(dpath+“Advertising.csv”)
9# 从原始数据中分离输入特征x和输出y
10y=df[‘sales’]
11X=df.drop([‘sales’,‘Unnamed:0’],axis=1)
12# 将数据分割为训练数据与测试数据,随

声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号