随着大数据时代的到来,数据分析已经成为企业决策的重要依据之一。Python作为一种强大的编程语言,在数据分析领域有着广泛的应用。本文将通过一个具体的案例——销售预测——来演示如何使用Python进行数据预处理、特征工程、模型构建与评估。无论你是Python的新手还是有一定基础的开发者,都可以从中获得有价值的信息。
环境搭建
必要的Python库
确保安装了以下Python库:
- Pandas:用于数据处理和分析。
- NumPy:用于科学计算。
- Matplotlib:用于数据可视化。
- Scikit-learn:用于机器学习。
可以通过pip安装这些库:
pip install pandas numpy matplotlib scikit-learn
数据集下载
为了方便演示,我们假设已经下载了一个包含历史销售记录的数据集 sales_data.csv
。该数据集包含以下字段:
- Date:日期
- Sales:销售额
- AdBudget:广告预算
- StoreType:商店类型
- CompetitionDistance:最近竞争对手的距离
数据预处理
加载数据
首先,我们需要使用Pandas来加载数据集。
import pandas as pd
# 加载数据
data = pd.read_csv('sales_data.csv')
查看数据
查看数据的前几行,了解数据的基本情况。
# 显示前几行
print(data.head())
数据清洗
对数据进行初步的清理,比如去除缺失值、异常值等。
# 删除含有缺失值的行
data.dropna(inplace=True)
# 删除重复的行
data.drop_duplicates(inplace=True)
# 查看清洗后的数据
print(data.head())
探索性数据分析 (EDA)
接下来,我们对数据进行一些探索性分析,以了解数据的分布情况。
import matplotlib.pyplot as plt
# 绘制销售额的分布图
plt.figure(figsize=(10, 5))
plt.hist(data['Sales'], bins=50, color='blue', alpha=0.7)
plt.title('Distribution of Sales')
plt.xlabel('Sales')
plt.ylabel('Frequency')
plt.show()
# 绘制广告预算与销售额的关系图
plt.figure(figsize=(10, 5))
plt.scatter(data['AdBudget'], data['Sales'], alpha=0.5)
plt.title('Ad Budget vs Sales')
plt.xlabel('Ad Budget')
plt.ylabel('Sales')
plt.show()
特征工程
创建新特征
根据业务需求,我们创建一些新的特征变量。
# 添加月份和年份特征
data['Month'] = pd.DatetimeIndex(data['Date']).month
data['Year'] = pd.DatetimeIndex(data['Date']).year
# 添加是否节假日特征
# 假设节假日列表已经定义好
holidays = ['2021-01-01', '2021-01-18', '2021-02-15', ...]
data['IsHoliday'] = data['Date'].isin(holidays).astype(int)
特征选择
根据相关性分析选择最相关的特征。
# 计算特征之间的相关性
correlation_matrix = data.corr()
# 显示相关性矩阵
print(correlation_matrix)
# 选择相关性最高的特征
selected_features = ['Month', 'AdBudget', 'IsHoliday']
构建预测模型
划分数据集
将数据分为训练集和测试集。
from sklearn.model_selection import train_test_split
# 划分数据
X = data[selected_features]
y = data['Sales']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
训练模型
选择线性回归模型作为预测模型。
from sklearn.linear_model import LinearRegression
# 创建模型
model = LinearRegression()
# 训练模型
model.fit(X_train, y_train)
# 预测
predictions = model.predict(X_test)
模型评估
评估模型的性能。
from sklearn.metrics import mean_squared_error, r2_score
# 计算均方根误差
rmse = np.sqrt(mean_squared_error(y_test, predictions))
# 计算决定系数
r2 = r2_score(y_test, predictions)
# 输出评估结果
print(f'Root Mean Squared Error: {rmse:.2f}')
print(f'R^2 Score: {r2:.2f}')
结论
本文通过一个实际的销售预测案例,展示了如何使用Python进行数据预处理、特征工程、模型构建与评估。虽然这是一个简化的例子,但它为我们提供了一个很好的起点。在实际项目中,还需要考虑更多的因素,比如更复杂的特征工程、模型调参等。
如果你对这个主题感兴趣或者有任何疑问,欢迎在评论区留言交流。希望这篇文章能对你有所帮助!
示例代码
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error, r2_score
# 加载数据
data = pd.read_csv('sales_data.csv')
# 数据清洗
data.dropna(inplace=True)
data.drop_duplicates(inplace=True)
# EDA
plt.figure(figsize=(10, 5))
plt.hist(data['Sales'], bins=50, color='blue', alpha=0.7)
plt.title('Distribution of Sales')
plt.xlabel('Sales')
plt.ylabel('Frequency')
plt.show()
plt.figure(figsize=(10, 5))
plt.scatter(data['AdBudget'], data['Sales'], alpha=0.5)
plt.title('Ad Budget vs Sales')
plt.xlabel('Ad Budget')
plt.ylabel('Sales')
plt.show()
# 特征工程
data['Month'] = pd.DatetimeIndex(data['Date']).month
data['Year'] = pd.DatetimeIndex(data['Date']).year
holidays = ['2021-01-01', '2021-01-18', '2021-02-15', ...]
data['IsHoliday'] = data['Date'].isin(holidays).astype(int)
# 特征选择
correlation_matrix = data.corr()
selected_features = ['Month', 'AdBudget', 'IsHoliday']
# 构建预测模型
X = data[selected_features]
y = data['Sales']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
model = LinearRegression()
model.fit(X_train, y_train)
predictions = model.predict(X_test)
# 模型评估
rmse = np.sqrt(mean_squared_error(y_test, predictions))
r2 = r2_score(y_test, predictions)
print(f'Root Mean Squared Error: {rmse:.2f}')
print(f'R^2 Score: {r2:.2f}')
请根据实际情况调整上述代码中的数据文件名、路径以及其他细节,以便更好地适应你的具体需求。