devbox
不正经
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

通过房价预测简要介绍十种线性回归算法及python实现_房价预测用什么算法

作者：不正经 | 2024-05-23 19:59:19

赞

踩

房价预测用什么算法

一. 数据准备（若只想了解算法可直接跳到二）

1.Import Libraries

  1. !pip install -q hvplot
  2. import pandas as pd
  3. import numpy as np
  4. import matplotlib.pyplot as plt
  5. import seaborn as sns
  6. import hvplot.pandas
  7.  
  8. %matplotlib inline
  9.  
  10. # sns.set_style("whitegrid")
  11. # plt.style.use("fivethirtyeight")
  12. USAhousing = pd.read_csv('/kaggle/input/usa-housing/USA_Housing.csv')

2.Exploratory Data Analysis (EDA)

  1. #用来展示两两特征之间的关系
  2. sns.pairplot(USAhousing)

  1. USAhousing.hvplot.hist(by='Price', subplots=False, width=1000)
  2. USAhousing.hvplot.hist("Price")

 

USAhousing.hvplot.scatter(x='Avg. Area House Age', y='Price')

USAhousing.hvplot.scatter(x='Avg. Area Income', y='Price')

sns.heatmap(USAhousing.corr(), annot=True)

 

3. Preparing the Regression Model

  1. X = USAhousing[['Avg. Area Income', 'Avg. Area House Age', 'Avg. Area Number of Rooms',
  2.                'Avg. Area Number of Bedrooms', 'Area Population']]
  3. y = USAhousing['Price']
  4. #Train Test Split
  5. from sklearn.model_selection import train_test_split
  6.  
  7. X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)
  8.  
  9. from sklearn import metrics
  10. from sklearn.model_selection import cross_val_score
  11.  
  12. def cross_val(model):
  13. #cv折数
  14.     pred = cross_val_score(model, X, y, cv=10)
  15.     return pred.mean()
  16.  
  17. def print_evaluate(true, predicted):  
  18.     mae = metrics.mean_absolute_error(true, predicted)
  19.     mse = metrics.mean_squared_error(true, predicted)
  20.     rmse = np.sqrt(metrics.mean_squared_error(true, predicted))
  21.     r2_square = metrics.r2_score(true, predicted)
  22.     print('MAE:', mae)
  23.     print('MSE:', mse)
  24.     print('RMSE:', rmse)
  25.     print('R2 Square', r2_square)
  26.     print('__________________________________')
  27.     
  28. def evaluate(true, predicted):
  29.     mae = metrics.mean_absolute_error(true, predicted)
  30.     mse = metrics.mean_squared_error(true, predicted)
  31.     rmse = np.sqrt(metrics.mean_squared_error(true, predicted))
  32.     r2_square = metrics.r2_score(true, predicted)
  33.     return mae, mse, rmse, r2_square

4.Preparing Data For Linear Regression

  1. from sklearn.preprocessing import StandardScaler
  2. from sklearn.pipeline import Pipeline
  3.  
  4. pipeline = Pipeline([
  5.     ('std_scalar', StandardScaler())
  6. ])
  7.  
  8. X_train = pipeline.fit_transform(X_train)
  9. X_test = pipeline.transform(X_test)

Pipeline管道机制在机器学习算法中得以应用的根源在于，参数集在新数据集（比如测试集）上的重复使用。

管道机制实现了对全部步骤的流式化封装和管理（streaming workflows with pipelines）。
可放在Pipeline中的步骤可能有：

特征标准化是需要的，可作为第一个环节
既然是分类器，classifier也是少不了的，自然是最后一个环节
中间可加上比如数据降维（PCA）

引用：http://t.csdnimg.cn/4Nqc8icon-default.png?t=N7T8http://t.csdnimg.cn/4Nqc8

数据标准化是一个常用的数据预处理操作，目的是处理不同规模和量纲的数据，使其缩放到相同的数据区间和范围，以减少规模、特征、分布差异等对模型的影响。

比如线性回归模型、逻辑回归模型或包含矩阵的模型，它们会受到输入尺度（量纲）的影响。相反，那些基于树的模型则根本不在乎输入尺度（量纲）有多大。

引用：http://t.csdnimg.cn/TWBSNicon-default.png?t=N7T8http://t.csdnimg.cn/TWBSN

 fit_transform(trainData)对部分数据先拟合fit，找到该part的整体指标，如均值、方差、最大值最小值等等（根据具体转换的目的），然后对该trainData进行转换transform，从而实现数据的标准化、归一化等等。

根据对之前部分trainData进行fit的整体指标，对剩余的数据（testData）使用同样的均值、方差、最大最小值等指标进行转换transform(testData)，从而保证train、test处理方式相同。所以，一般都是这么用：

from sklearn.preprocessing import StandardScaler
sc = StandardScaler()
sc.fit_tranform(X_train)
sc.tranform(X_test)

Note:
必须先用fit_transform(trainData)，之后再transform(testData)
如果直接transform(testData)，程序会报错
如果fit_transfrom(trainData)后，使用fit_transform(testData)而不transform(testData)，虽然也能归一化，但是两个结果不是在同一个“标准”下的，具有明显差异。(一定要避免这种情况)

引用：http://t.csdnimg.cn/ofTjjicon-default.png?t=N7T8http://t.csdnimg.cn/ofTjj

 二.十种回归算法

✔️ Linear Regression

  1. from sklearn.linear_model import LinearRegression
  2.  
  3. lin_reg = LinearRegression()
  4. lin_reg.fit(X_train,y_train)
  1. #输出截距
  2. print(lin_reg.intercept_)
  3. #输出各自变量系数
  4. coeff_df = pd.DataFrame(lin_reg.coef_, X.columns, columns=['Coefficient'])
  5. coeff_df
  6. #预测
  7. pred = lin_reg.predict(X_test)
  8. #绘图
  9. pd.DataFrame({'True Values': y_test, 'Predicted Values': pred}).hvplot.scatter(x='True Values', y='Predicted Values')
  10. #残差直方图
  11. pd.DataFrame({'Error Values': (y_test - pred)}).hvplot.kde()
  1. #输出回归评价指标
  2. test_pred = lin_reg.predict(X_test)
  3. train_pred = lin_reg.predict(X_train)
  4.  
  5. print('Test set evaluation:\n_____________________________________')
  6. print_evaluate(y_test, test_pred)
  7. print('Train set evaluation:\n_____________________________________')
  8. print_evaluate(y_train, train_pred)
  9.  
  10. results_df = pd.DataFrame(data=[["Linear Regression", *evaluate(y_test, test_pred) , cross_val(LinearRegression())]], 
  11.                           columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', "Cross Validation"])

✔️ Robust Regression

稳健回归（Robust regression），就是当最小二乘法遇到上述的，数据样本点存在异常点的时候，用于代替最小二乘法的一个算法。当然，稳健回归还可以用于异常点检测，或者是找出那些对模型影响最大的样本点。 

RANSAC(RAndom SAmple Consensus,随机采样一致)算法是从一组含有“外点”(outliers)的数据中正确估计数学模型参数的迭代算法。“外点”一般指的的数据中的噪声，比如说匹配中的误匹配和估计曲线中的离群点。所以，RANSAC也是一种“外点”检测算法。RANSAC算法是一种不确定算法，它只能在一种概率下产生结果，并且这个概率会随着迭代次数的增加而加大（之后会解释为什么这个算法是这样的）。RANSAC算最早是由Fischler和Bolles在SRI上提出用来解决LDP(Location Determination Proble)问题的。

对于RANSAC算法来说一个基本的假设就是数据是由“内点”和“外点”组成的。“内点”就是组成模型参数的数据，“外点”就是不适合模型的数据。同时RANSAC假设：在给定一组含有少部分“内点”的数据，存在一个程序可以估计出符合“内点”的模型。

  1. from sklearn.linear_model import RANSACRegressor
  2.  
  3. model = RANSACRegressor(base_estimator=LinearRegression(), max_trials=100)
  4. model.fit(X_train, y_train)
  5.  
  6. test_pred = model.predict(X_test)
  7. train_pred = model.predict(X_train)
  8.  
  9. print('Test set evaluation:\n_____________________________________')
  10. print_evaluate(y_test, test_pred)
  11. print('====================================')
  12. print('Train set evaluation:\n_____________________________________')
  13. print_evaluate(y_train, train_pred)
  14.  
  15. results_df_2 = pd.DataFrame(data=[["Robust Regression", *evaluate(y_test, test_pred) , cross_val(RANSACRegressor())]], 
  16.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', "Cross Validation"])
  17. results_df = results_df.append(results_df_2, ignore_index=True)

✔️ Ridge Regression 

多重共线性2（Multicollinearity）是指多变量线性回归中，变量之间由于存在精确相关关系或高度相关关系而使回归估计不准确。

多重共线性的问题既然是自变量之间存在相关关系，其中一个解决方法就是剔除掉共线的自变量，可以通过计算方差扩大因子5（Variance inflation factor，VIF）来量化自变量之间的相关关系，方差扩大因子越大说明自变量的共线性越严重。

  另一种方式是通过对代价函数正则化加入惩罚项来解决，其中一种正则化方式被称为吉洪诺夫正则化（Tikhonov regularization），这种代价函数正则化后的线性回归被称为岭回归（Ridge Regression）。

岭回归的代价函数第一项与标准线性回归的一致，都是欧几里得距离的平方和，只是在后面加上了一个 w 向量的 L2-范数6 的平方作为惩罚项（L2-范数的含义为向量 W 每个元素的平方和然后开平方），其中 λ 表示惩罚项的系数，人为的控制惩罚项的大小。由于正则项是 L2-范数，有时这种正则化方式也被称为 L2 正则化。

http://t.csdnimg.cn/zZjIlicon-default.png?t=N7T8http://t.csdnimg.cn/zZjIl对于有些矩阵，矩阵中某个元素的一个很小的变动，会引起最后计算结果误差很大，这种矩阵称为“病态矩阵”。有些时候不正确的计算方法也会使一个正常的矩阵在运算中表现出病态。岭回归(英文名：ridge regression, Tikhonov regularization)是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法，对病态数据的拟合要强于最小二乘法。通常岭回归方程的R平方值会稍低于普通回归分析，但回归系数的显著性往往明显高于普通回归，在存在共线性问题和病态数据偏多的研究中有较大的实用价值。

  1. from sklearn.linear_model import Ridge
  2.  
  3. model = Ridge(alpha=100, solver='cholesky', tol=0.0001, random_state=42)
  4. model.fit(X_train, y_train)
  5. pred = model.predict(X_test)
  6.  
  7. test_pred = model.predict(X_test)
  8. train_pred = model.predict(X_train)
  9.  
  10. print('Test set evaluation:\n_____________________________________')
  11. print_evaluate(y_test, test_pred)
  12. print('====================================')
  13. print('Train set evaluation:\n_____________________________________')
  14. print_evaluate(y_train, train_pred)
  15.  
  16. results_df_2 = pd.DataFrame(data=[["Ridge Regression", *evaluate(y_test, test_pred) , cross_val(Ridge())]], 
  17.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', "Cross Validation"])
  18. results_df = results_df.append(results_df_2, ignore_index=True)

✔️ LASSO Regression

  1. from sklearn.linear_model import Lasso
  2.  
  3. model = Lasso(alpha=0.1, 
  4.               precompute=True, 
  5. #               warm_start=True, 
  6.               positive=True, 
  7.               selection='random',
  8.               random_state=42)
  9. model.fit(X_train, y_train)
  10.  
  11. test_pred = model.predict(X_test)
  12. train_pred = model.predict(X_train)
  13.  
  14. print('Test set evaluation:\n_____________________________________')
  15. print_evaluate(y_test, test_pred)
  16. print('====================================')
  17. print('Train set evaluation:\n_____________________________________')
  18. print_evaluate(y_train, train_pred)
  19.  
  20. results_df_2 = pd.DataFrame(data=[["Lasso Regression", *evaluate(y_test, test_pred) , cross_val(Lasso())]], 
  21.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', "Cross Validation"])
  22. results_df = results_df.append(results_df_2, ignore_index=True)

✔️ Elastic Net

前面学习了岭回归与 Lasso 回归两种正则化的方法，当多个特征存在相关时，Lasso 回归可能只会随机选择其中一个，岭回归则会选择所有的特征。这时很容易的想到如果将这两种正则化的方法结合起来，就能够集合两种方法的优势，这种正则化后的算法就被称为弹性网络回归（Elastic Net Regression）。

弹性网络回归算法的代价函数结合了 Lasso 回归和岭回归的正则化方法，通过两个参数 λ 和 ρ 来控制惩罚项的大小。

可以看到，当 ρ = 0 时，其代价函数就等同于岭回归的代价函数，当 ρ = 1 时，其代价函数就等同于 Lasso 回归的代价函数。与 Lasso 回归一样代价函数中有绝对值存在，不是处处可导的，所以就没办法通过直接求导的方式来直接得到 w 的解析解，不过还是可以用坐标下降法（coordinate descent）来求解 w。

http://t.csdnimg.cn/YTv2ticon-default.png?t=N7T8http://t.csdnimg.cn/YTv2t

  1. from sklearn.linear_model import ElasticNet
  2.  
  3. model = ElasticNet(alpha=0.1, l1_ratio=0.9, selection='random', random_state=42)
  4. model.fit(X_train, y_train)
  5.  
  6. test_pred = model.predict(X_test)
  7. train_pred = model.predict(X_train)
  8.  
  9. print('Test set evaluation:\n_____________________________________')
  10. print_evaluate(y_test, test_pred)
  11. print('====================================')
  12. print('Train set evaluation:\n_____________________________________')
  13. print_evaluate(y_train, train_pred)
  14.  
  15. results_df_2 = pd.DataFrame(data=[["Elastic Net Regression", *evaluate(y_test, test_pred) , cross_val(ElasticNet())]], 
  16.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', "Cross Validation"])
  17. results_df = results_df.append(results_df_2, ignore_index=True)

 ✔️ Polynomial Regression

多项式回归算法(Polynomial Regression)属于有监督的回归(Regression)学习算法。很多场合线性模型无法很好的拟合目标数据曲线，这就需要引入非线性回归模型。

多项式回归的主要思想就是通过历史数据拟合出多项式回归的方程，并利用多项式回归的方程对新的数据进行预测。多项式回归的方程如下:

从上式可以得出：要想获得一个与目标数据集完美拟合的多项式回归模型，实质就是求解出每个特征自变量的权值θ。

  1. from sklearn.preprocessing import PolynomialFeatures
  2.  
  3. poly_reg = PolynomialFeatures(degree=2)
  4.  
  5. X_train_2_d = poly_reg.fit_transform(X_train)
  6. X_test_2_d = poly_reg.transform(X_test)
  7.  
  8. lin_reg = LinearRegression(normalize=True)
  9. lin_reg.fit(X_train_2_d,y_train)
  10.  
  11. test_pred = lin_reg.predict(X_test_2_d)
  12. train_pred = lin_reg.predict(X_train_2_d)
  13.  
  14. print('Test set evaluation:\n_____________________________________')
  15. print_evaluate(y_test, test_pred)
  16. print('====================================')
  17. print('Train set evaluation:\n_____________________________________')
  18. print_evaluate(y_train, train_pred)
  19.  
  20. results_df_2 = pd.DataFrame(data=[["Polynomail Regression", *evaluate(y_test, test_pred), 0]], 
  21.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', 'Cross Validation'])
  22. results_df = results_df.append(results_df_2, ignore_index=True)

✔️ Stochastic Gradient Descent

SGD算法是从样本中随机抽出一组，训练后按梯度更新一次，然后再抽取一组，再更新一次，在样本量及其大的情况下，可能不用训练完所有的样本就可以获得一个损失值在可接受范围之内的模型了。（重点：每次迭代使用一组样本。）
为什么叫随机梯度下降算法呢？这里的随机是指每次迭代过程中，样本都要被随机打乱，这个也很容易理解，打乱是有效减小样本之间造成的参数更新抵消问题。

对于权值的更新不再通过遍历全部的数据集，而是选择其中的一个样本即可。一般来说其步长的选择比梯度下降法的步长要小一点，因为梯度下降法使用的 是准确梯度，所以它可以朝着全局最优解（当问题为凸问题时）较大幅度的迭代下去，但是随机梯度法不行，因为它使用的是 近似梯度，或者对于全局来说有时候它走的也许根本不是梯度下降的方向，故而它走的比较缓，同样这样带来的好处就是相比于梯度下降法，它不是那么容易陷入到局部最优解中去。

http://t.csdnimg.cn/e04Z4icon-default.png?t=N7T8http://t.csdnimg.cn/e04Z4

  1. from sklearn.linear_model import SGDRegressor
  2.  
  3. sgd_reg = SGDRegressor(n_iter_no_change=250, penalty=None, eta0=0.0001, max_iter=100000)
  4. sgd_reg.fit(X_train, y_train)
  5.  
  6. test_pred = sgd_reg.predict(X_test)
  7. train_pred = sgd_reg.predict(X_train)
  8.  
  9. print('Test set evaluation:\n_____________________________________')
  10. print_evaluate(y_test, test_pred)
  11. print('====================================')
  12. print('Train set evaluation:\n_____________________________________')
  13. print_evaluate(y_train, train_pred)
  14.  
  15. results_df_2 = pd.DataFrame(data=[["Stochastic Gradient Descent", *evaluate(y_test, test_pred), 0]], 
  16.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', 'Cross Validation'])
  17. results_df = results_df.append(results_df_2, ignore_index=True)

✔️ Artficial Neural Network

  1. from tensorflow.keras.models import Sequential
  2. from tensorflow.keras.layers import Input, Dense, Activation, Dropout
  3. from tensorflow.keras.optimizers import Adam
  4.  
  5. X_train = np.array(X_train)
  6. X_test = np.array(X_test)
  7. y_train = np.array(y_train)
  8. y_test = np.array(y_test)
  9. #Sequential模型字面上的翻译是顺序模型，给人的第一感觉是那种简单的线性模型，但实际上Sequential模型可以构建非常复杂的神经网络，包括全连接神经网络、卷积神经网络(CNN)、循环神经网络(RNN)、等等。这里的Sequential更准确的应该理解为堆叠，通过堆叠许多层，构建出深度神经网络。
  10. #这里其实是Sequential的第三种实现
  11. model = Sequential()
  12.  
  13. model.add(Dense(X_train.shape[1], activation='relu'))
  14. model.add(Dense(32, activation='relu'))
  15. # model.add(Dropout(0.2))
  16.  
  17. model.add(Dense(64, activation='relu'))
  18. # model.add(Dropout(0.2))
  19.  
  20. model.add(Dense(128, activation='relu'))
  21. # model.add(Dropout(0.2))
  22.  
  23. model.add(Dense(512, activation='relu'))
  24. model.add(Dropout(0.1))
  25. model.add(Dense(1))
  26.  
  27. model.compile(optimizer=Adam(0.00001), loss='mse')
  28. #model.fit( )函数将训练数据在模型中训练一定次数，返回loss和测量指标，返回一个History的对象，即记录了loss和其他指标的数值随epoch变化的情况。
  29. r = model.fit(X_train, y_train,
  30.               validation_data=(X_test,y_test),
  31.               batch_size=1,
  32.               epochs=100)

pytorch教程之nn.Sequential类详解——使用Sequential类来自定义顺序连接模型 ：

http://t.csdnimg.cn/11EeJicon-default.png?t=N7T8http://t.csdnimg.cn/11EeJ神经网络的Dropout正则化：

http://t.csdnimg.cn/z0yyNicon-default.png?t=N7T8http://t.csdnimg.cn/z0yyN如何确定神经网络的层数和隐藏层神经元数量：

如何确定神经网络的层数和隐藏层神经元数量 - 知乎 (zhihu.com)icon-default.png?t=N7T8https://zhuanlan.zhihu.com/p/100419971深入理解 keras 中 Dense 层参数：

http://t.csdnimg.cn/gFPJOicon-default.png?t=N7T8http://t.csdnimg.cn/gFPJO

pd.DataFrame({'True Values': y_test, 'Predicted Values': pred}).hvplot.scatter(x='True Values', y='Predicted Values')

 

pd.DataFrame(r.history)

pd.DataFrame(r.history).hvplot.line(y=['loss', 'val_loss'])
  1. test_pred = model.predict(X_test)
  2. train_pred = model.predict(X_train)
  3.  
  4. print('Test set evaluation:\n_____________________________________')
  5. print_evaluate(y_test, test_pred)
  6.  
  7. print('Train set evaluation:\n_____________________________________')
  8. print_evaluate(y_train, train_pred)
  9.  
  10. results_df_2 = pd.DataFrame(data=[["Artficial Neural Network", *evaluate(y_test, test_pred), 0]], 
  11.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', 'Cross Validation'])
  12. results_df = results_df.append(results_df_2, ignore_index=True)

 ✔️ Random Forest Regressor

 相关介绍可看这篇文章：

http://t.csdnimg.cn/NhAJricon-default.png?t=N7T8http://t.csdnimg.cn/NhAJr

  1. from sklearn.ensemble import RandomForestRegressor
  2.  
  3. rf_reg = RandomForestRegressor(n_estimators=1000)
  4. rf_reg.fit(X_train, y_train)
  5.  
  6. test_pred = rf_reg.predict(X_test)
  7. train_pred = rf_reg.predict(X_train)
  8.  
  9. print('Test set evaluation:\n_____________________________________')
  10. print_evaluate(y_test, test_pred)
  11.  
  12. print('Train set evaluation:\n_____________________________________')
  13. print_evaluate(y_train, train_pred)
  14.  
  15. results_df_2 = pd.DataFrame(data=[["Random Forest Regressor", *evaluate(y_test, test_pred), 0]], 
  16.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', 'Cross Validation'])
  17. results_df = results_df.append(results_df_2, ignore_index=True)

✔️ Support Vector Machine

SVM的全称是Support Vector Machine，即支持向量机，主要用于解决模式识别领域中的数据分类问题，属于有监督学习算法的一种。SVM要解决的问题可以用一个经典的二分类问题加以描述。如图1所示，红色和蓝色的二维数据点显然是可以被一条直线分开的，在模式识别领域称为线性可分问题。然而将两类数据点分开的直线显然不止一条。图1(b)和(c)分别给出了A、B两种不同的分类方案，其中黑色实线为分界线，术语称为“决策面”。每个决策面对应了一个线性分类器。虽然在目前的数据上看，这两个分类器的分类结果是一样的，但如果考虑潜在的其他数据，则两者的分类性能是有差别的。

SVM算法认为图1中的分类器A在性能上优于分类器B，其依据是A的分类间隔比B要大。这里涉及到第一个SVM独有的概念“分类间隔”。在保证决策面方向不变且不会出现错分样本的情况下移动决策面，会在原来的决策面两侧找到两个极限位置（越过该位置就会产生错分现象），如虚线所示。虚线的位置由决策面的方向和距离原决策面最近的几个样本的位置决定。而这两条平行虚线正中间的分界线就是在保持当前决策面方向不变的前提下的最优决策面。两条虚线之间的垂直距离就是这个最优决策面对应的分类间隔。显然每一个可能把数据集正确分开的方向都有一个最优决策面（有些方向无论如何移动决策面的位置也不可能将两类样本完全分开），而不同方向的最优决策面的分类间隔通常是不同的，那个具有“最大间隔”的决策面就是SVM要寻找的最优解。而这个真正的最优解对应的两侧虚线所穿过的样本点，就是SVM中的支持样本点，称为“支持向量”。对于图1中的数据，A决策面就是SVM寻找的最优解，而相应的三个位于虚线上的样本点在坐标系中对应的向量就叫做支持向量。

从表面上看，我们优化的对象似乎是这个决策面的方向和位置。但实际上最优决策面的方向和位置完全取决于选择哪些样本作为支持向量。而在经过漫长的公式推导后，你最终会发现，其实与线性决策面的方向和位置直接相关的参数都会被约减掉，最终结果只取决于样本点的选择结果。

到这里，我们明确了SVM算法要解决的是一个最优分类器的设计问题。既然叫作最优分类器，其本质必然是个最优化问题。所以，接下来我们要讨论的就是如何把SVM变成用数学语言描述的最优化问题模型，这就是我们在第二部分要讲的“线性SVM算法的数学建模”。

 零基础学SVM—Support Vector Machine(一) - 知乎 (zhihu.com)icon-default.png?t=N7T8https://zhuanlan.zhihu.com/p/24638007

  1. from sklearn.svm import SVR
  2.  
  3. svm_reg = SVR(kernel='rbf', C=1000000, epsilon=0.001)
  4. svm_reg.fit(X_train, y_train)
  5.  
  6. test_pred = svm_reg.predict(X_test)
  7. train_pred = svm_reg.predict(X_train)
  8.  
  9. print('Test set evaluation:\n_____________________________________')
  10. print_evaluate(y_test, test_pred)
  11.  
  12. print('Train set evaluation:\n_____________________________________')
  13. print_evaluate(y_train, train_pred)
  14.  
  15. results_df_2 = pd.DataFrame(data=[["SVM Regressor", *evaluate(y_test, test_pred), 0]], 
  16.                             columns=['Model', 'MAE', 'MSE', 'RMSE', 'R2 Square', 'Cross Validation'])
  17. results_df = results_df.append(results_df_2, ignore_index=True)

 三. 模型比较

  1. results_df.set_index('Model', inplace=True)
  2. results_df['R2 Square'].plot(kind='barh', figsize=(12, 8))

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/不正经/article/detail/614270
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号