【机器学习】9种回归算法及实例总结，建议学习收藏

我相信很多人跟我一样，学习机器学习和数据科学的第一个算法是线性回归，它简单易懂。由于其功能有限，它不太可能成为工作中的最佳选择。大多数情况下，线性回归被用作基线模型来评估和比较研究中的新方法。

在处理实际问题时，你应该了解并尝试许多其他回归算法。一方面可以系统学习回归算法，另外一方面在面试中也常用到这些算法。在本文中，我们将通过使用 Scikit-learn 和 XGBoost 的动手实践来学习 9 种流行的回归算法。 喜欢本文记得收藏、关注、点赞。

【注】文末有技术交流群

结构如下：

线性回归
多项式回归
支持向量机回归
决策树回归
随机森林回归
LASSO 回归
Ridge 回归
ElasticNet 回归
XGBoost 回归

推荐文章

李宏毅《机器学习》国语课程(2022)来了
有人把吴恩达老师的机器学习和深度学习做成了中文版
上瘾了，最近又给公司撸了一个可视化大屏(附源码)
如此优雅，4款 Python 自动数据分析神器真香啊
梳理半月有余，精心准备了17张知识思维导图，这次要讲清统计学
年终汇总：20份可视化大屏模板，直接套用真香(文末附源码)

线性回归

线性回归通常是人们学习机器学习和数据科学的第一个算法。线性回归是一种线性模型，它假设输入变量 (X) 和单个输出变量 (y) 之间存在线性关系。一般来说，有两种情况：

单变量线性回归：它对单个输入变量（单个特征变量）和单个输出变量之间的关系进行建模。
多变量线性回归（也称为多元线性回归）：它对多个输入变量（多个特征变量）和单个输出变量之间的关系进行建模。

这个算法很常见，以至于 Scikit-learn 在 LinearRegression() 中内置了这个功能。让我们创建一个 LinearRegression 对象并将其拟合到训练数据中：

from sklearn.linear_model import LinearRegression
# Creating and Training the Model
linear_regressor = LinearRegression()
linear_regressor.fit(X, y)

训练完成后，我们可以在 coef_ 属性中检查 LinearRegression 找到的系数参数：

linear_regressor.coef_
array([[-0.15784473]])

现在采用该模型并为训练数据拟合一条线

关于线性回归的几个关键点：

快速且易于建模
当要建模的关系不是非常复杂并且您没有大量数据时，它特别有用。
非常直观的理解和解释。
它对异常值非常敏感。

多项式回归

当我们想要为非线性可分数据创建模型时，多项式回归是最受欢迎的选择之一。它类似于线性回归，但使用变量 X 和 y 之间的关系来找到绘制适合数据点的曲线的最佳方法。

对于多项式回归，一些自变量的幂大于 1。例如，我们可能会提出如下二次模型：

Scikit-learn 的 PolynomialFeatures 内置了这种方法。首先，我们需要生成一个由所有具有指定度数的多项式特征组成的特征矩阵：

from sklearn.preprocessing import PolynomialFeatures
# We are simply generating the matrix for a quadratic model
poly_reg = PolynomialFeatures(degree = 2)
X_poly = poly_reg.fit_transform(X)

接下来，让我们创建一个LinearRegression 对象并将其拟合到我们刚刚生成的特征矩阵 X_poly 中。

# polynomial regression model
poly_reg_model = LinearRegression()
poly_reg_model.fit(X_poly, y)

现在采用该模型并为训练数据 X_plot 拟合一条线，如下所示：

关于多项式回归的几个关键点：

能够对非线性可分数据进行建模；线性回归不能做到这一点。一般来说，它更加灵活，可以对一些相当复杂的关系进行建模。
完全控制特征变量的建模（要设置的指数）。
需要精心设计。需要一些数据知识才能选择最佳指数。
如果指数选择不当，则容易过度拟合。

支持向量机回归

支持向量机在分类问题中是众所周知的。SVM 在回归中的使用称为支持向量回归(SVR)。Scikit-learn在 SVR()中内置了这种方法。

在拟合 SVR 模型之前，通常最好的做法是执行特征缩放，以便每个特征具有相似的重要性。首先，让我们使用 StandardScaler() 执行特征缩放：

from sklearn.svm import SVR
from sklearn.preprocessing import StandardScaler
# Performing feature scaling
scaled_X = StandardScaler()
scaled_y = StandardScaler()
scaled_X = scaled_X.fit_transform(X)
scaled_y = scaled_y.fit_transform(y)

接下来，我们创建一个 SVR 对象，内核设置为“rbf”，伽马设置为“auto”。之后，我们调用 fit() 使其适合缩放的训练数据：

svr_regressor = SVR(kernel='rbf', gamma='auto')
svr_regressor.fit(scaled_X, scaled_y.ravel())

现在采用该模型并为训练数据 scaled_X 拟合一条线，如下所示：

关于支持向量回归的几个关键点

它对异常值具有鲁棒性，并且在高维空间中有效
它具有出色的泛化能力（能够正确适应新的、以前看不见的数据）
如果特征数量远大于样本数量，则容易过拟合

决策树回归

决策树是一种用于分类和回归的非参数监督学习方法。目标是创建一个模型，通过学习从数据特征推断出的简单决策规则来预测目标变量的值。一棵树可以看作是一个分段常数近似。

决策树回归也很常见，以至于 Scikit-learn 将它内置在 DecisionTreeRegressor 中,可以在没有特征缩放的情况下创建 DecisionTreeRegressor 对象，如下所示：

from sklearn.tree import DecisionTreeRegressor
tree_regressor = DecisionTreeRegressor(random_state = 0)
tree_regressor.fit(X, y)

现在采用该模型并将其拟合到训练数据中：

关于决策树的几个关键点：

易于理解和解释。树可以可视化。
适用于分类值和连续值
使用 DT（即预测数据）的成本与用于训练树的数据点数量成对数
决策树的预测既不平滑也不连续（如上图所示为分段常数近似）

随机森林回归

随机森林回归基本上与决策树回归非常相似。它是一个元估计器，可以在数据集的各种子样本上拟合多个决策树，并使用平均来提高预测准确性和控制过拟合。

随机森林回归器在回归中可能会或可能不会比决策树表现更好（虽然它通常在分类中表现更好），因为树构造算法本质上存在微妙的过拟合 - 欠拟合权衡。

随机森林回归很常见，以至于 Scikit-learn 将它内置在 RandomForestRegressor 中。首先，我们需要创建一个具有指定数量的估计器的 RandomForestRegressor 对象，如下所示：

from sklearn.ensemble import RandomForestRegressor
forest_regressor = RandomForestRegressor(
    n_estimators = 300, 
    random_state = 0
)
forest_regressor.fit(X, y.ravel())

现在采用该模型并将其拟合到训练数据中：

关于随机森林回归的几点：

减少决策树中的过度拟合并提高准确性
它也适用于分类值和连续值
需要大量计算能力和资源，因为它适合许多决策树来组合它们的输出

LASSO 回归

LASSO 回归是使用收缩的线性回归的变体。收缩是将数据值收缩到中心点作为平均值的过程。这种类型的回归非常适合显示重度多重共线性（特征相互之间高度相关）的模型。

Scikit-learn 内置在 LassoCV 中。

from sklearn.linear_model import LassoCV
lasso = LassoCV()
lasso.fit(X, y.ravel())

关于 Lasso 回归的几点：

它最常用于消除自动变量和选择特征。
它非常适合显示重度多重共线性（特征相互之间高度相关）的模型。
LASSO 回归利用 L1 正则化
LASSO 回归被认为比 Ridge 更好，因为它只选择了一些特征并将其他特征的系数降低到零。

岭回归

岭回归与 LASSO 回归非常相似，因为这两种技术都使用了收缩。 Ridge 和 LASSO 回归都非常适合显示重度多重共线性（特征相互之间高度相关）的模型。它们之间的主要区别在于 Ridge 使用 L2 正则化，这意味着没有一个系数会像 LASSO 回归中那样变为零（而是接近零）。

Scikit-learn 内置在 RidgeCV 中。

from sklearn.linear_model import RidgeCV
ridge = RidgeCV()
ridge.fit(X, y)

关于岭回归的几点：

它非常适合显示重度多重共线性（特征相互之间高度相关）的模型。
岭回归使用 L2 正则化。贡献较小的特征将具有接近于零的系数。
由于 L2 正则化的性质，岭回归被认为比 LASSO 更差

ElasticNet 回归

ElasticNet 是另一个使用 L1 和 L2 正则化训练的线性回归模型。它是 Lasso 和 Ridge 回归技术的混合体，因此它也非常适合显示重度多重共线性（特征相互之间高度相关）的模型。

在 Lasso 和 Ridge 之间进行权衡的一个实际优势是它允许 Elastic-Net 在旋转下继承 Ridge 的一些稳定性。Scikit-learn 内置在 ElasticNetCV 中。

from sklearn.linear_model import ElasticNetCV
elasticNet = ElasticNetCV()
elasticNet.fit(X, y.ravel())

XGBoost 回归

XGBoost 是梯度提升算法的一种高效且有效的实现。梯度提升是指一类可用于分类或回归问题的集成机器学习算法。

XGBoost 是一个开源库，最初由 Chen Tianqi Chen 在其 2016 年题为“XGBoost: A Scalable Tree Boosting System”的论文中开发。该算法被设计为在计算上既高效又高效。

第一步是安装 XGBoost 库（如果尚未安装）

pip install xgboost

可以通过创建 XGBRegressor 的实例来定义 XGBoost 模型：

from xgboost import XGBRegressor
# create an xgboost regression model
model = XGBRegressor(
    n_estimators=1000, 
    max_depth=7, 
    eta=0.1, 
    subsample=0.7, 
    colsample_bytree=0.8,
)
model.fit(X, y)