L2线性回归模型

news2024/9/25 7:26:18

🍨 本文为🔗365天深度学习训练营中的学习记录博客
🍖 原作者：K同学啊

鸢尾花数据集的单变量与多变量预测

在这周学习如何使用 机器学习 模型对鸢尾花（Iris）数据集进行单变量与多变量预测。我们将使用鸢尾花数据集中不同的特征进行预测，分别使用单变量和多变量的回归模型。

0.学习时长与学习成绩

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt

dataset = pd.read_csv('data/studentscores.csv')
X = dataset.iloc[ : , :1].values
Y = dataset.iloc[ : ,1].values

from sklearn.model_selection import train_test_split
X_train, X_test, Y_train, Y_test = train_test_split(X, Y, 
                                                    test_size=1/4, 
                                                    random_state=0)
from sklearn.linear_model import LinearRegression

regressor = LinearRegression()
regressor = regressor.fit(X_train, Y_train)   
Y_pred = regressor.predict(X_test)
plt.scatter(X_train, Y_train, color='red')
plt.plot(X_train, regressor.predict(X_train), color='blue')

plt.show()       
plt.scatter(X_test, Y_test, color='red')
plt.plot(X_test, regressor.predict(X_test), color='blue')
plt.show()

在这里插入图片描述

1. 鸢尾花数据集简介

鸢尾花数据集是一个经典的机器学习数据集，包含150条记录，每条记录有四个特征以及一个类别标签。这四个特征分别是：

花萼长度 (sepal length)
花萼宽度 (sepal width)
花瓣长度 (petal length)
花瓣宽度 (petal width)

我们可以使用这些特征来构建预测模型。在单变量预测中，我们将使用单一特征来预测目标变量，而在多变量预测中，将使用多个特征来提高预测准确性。

2. 数据准备

首先，我们加载鸢尾花数据集并做简单的数据清理和预处理。这里我们选择了三个特征来预测花瓣长度。

import pandas as pd

# 数据集URL
url = "https://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data"
names = ['花萼-length', '花萼-width', '花瓣-length', '花瓣-width', 'class']

# 读取数据
dataset = pd.read_csv(url, names=names)

# 查看前5行数据
print(dataset.head())

3. 单变量预测：基于花萼宽度预测花瓣长度

3.1 数据可视化

在开始模型训练之前，我们首先对数据进行可视化，观察特征之间的关系。

import matplotlib.pyplot as plt
import seaborn as sns

# 选择特征
x = dataset[['花萼-width']]
y = dataset['花瓣-length']

# 绘制散点图
sns.scatterplot(x=x['花萼-width'], y=y)
plt.xlabel('花萼宽度')
plt.ylabel('花瓣长度')
plt.title('花萼宽度与花瓣长度的关系')
plt.show()

3.2 构建线性回归模型

接下来，我们使用 sklearn 中的 线性回归 模型，基于单一变量（花萼宽度）来预测花瓣长度。

from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error, r2_score

# 划分训练集和测试集
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2, random_state=42)

# 构建线性回归模型
model = LinearRegression()
model.fit(x_train, y_train)

# 预测
y_pred = model.predict(x_test)

# 评估模型
print(f"均方误差: {mean_squared_error(y_test, y_pred)}")
print(f"R²得分: {r2_score(y_test, y_pred)}")

3.3 结果可视化

# 绘制预测值与真实值的对比
plt.figure(figsize=(6, 4))
plt.plot(range(len(y_test)), y_test, label='真实值')
plt.plot(range(len(y_pred)), y_pred, label='预测值')
plt.title('单变量线性回归预测')
plt.legend()
plt.show()

在这里插入图片描述

4. 多变量预测：使用多个特征预测花瓣长度

在多变量预测中，我们将选择多个特征来提高模型的预测效果。这里我们选择了 花萼宽度、花瓣宽度 和 花瓣长度 三个特征来预测 花瓣长度。

4.1 数据可视化

# 选择特征
x = dataset[['花萼-width', '花瓣-width', '花萼-length']]
y = dataset['花瓣-length']

# 绘制相关关系图
sns.pairplot(dataset, x_vars=['花萼-width', '花瓣-width', '花萼-length'], y_vars='花瓣-length', kind='reg')
plt.show()

在这里插入图片描述

4.2 构建多变量线性回归模型

# 划分训练集和测试集
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2, random_state=42)

# 构建线性回归模型
model = LinearRegression()
model.fit(x_train, y_train)

# 预测
y_pred = model.predict(x_test)

# 评估模型
print(f"均方误差: {mean_squared_error(y_test, y_pred)}")
print(f"R²得分: {r2_score(y_test, y_pred)}")

4.3 结果可视化

# 绘制预测值与真实值的对比
plt.figure(figsize=(6, 4))
plt.plot(range(len(y_test)), y_test, label='真实值')
plt.plot(range(len(y_pred)), y_pred, label='预测值')
plt.title('多变量线性回归预测')
plt.legend()
plt.show()