Scikit-learn：数据科学中的瑞士军刀

news2024/11/14 4:02:32

引言

在数据科学领域，Python 无疑是开发者的首选语言之一。而在这个生态中，Scikit-learn 作为最流行的机器学习库之一，凭借其简洁易用的API和强大的功能，成为了许多数据科学家和工程师的必备工具。无论是初学者还是资深开发者，掌握 Scikit-learn 都能显著提升工作效率，解决实际问题。本文将带你深入了解 Scikit-learn 的核心概念、基本用法，并通过多个实例展示其在不同场景下的应用。

基础语法介绍

核心概念

Scikit-learn 是一个开源的机器学习库，支持监督学习和非监督学习等多种算法。它的设计目标是简单、高效、可访问，适用于各种规模的数据集。以下是几个核心概念：

  • Estimator（估计器）：所有机器学习模型都是估计器，它们实现了 fit 和 predict 方法。
  • Transformer（转换器）：用于数据预处理和特征工程，实现 fit 和 transform 方法。
  • Pipeline（管道）：用于串联多个步骤，简化工作流程。
  • Model Selection（模型选择）：提供交叉验证、超参数调优等方法，帮助选择最佳模型。

基本语法规则

导入库
import numpy as np
from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score
加载数据
# 加载鸢尾花数据集
iris = datasets.load_iris()
X = iris.data
y = iris.target
数据预处理
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test split(X, y, test_size=0.3, random_state=42)

# 标准化特征
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)
模型训练
# 创建逻辑回归模型
model = LogisticRegression()

# 训练模型
model.fit(X_train, y_train)
模型评估
# 预测
y_pred = model.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print(f'Accuracy: {accuracy:.2f}')

基础实例

问题描述

假设我们有一个简单的二分类问题，数据集包含两个特征和一个标签。我们需要使用逻辑回归模型进行分类，并评估模型的性能。

代码示例

import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score, confusion_matrix

# 生成模拟数据
X, y = make_classification(n_samples=100, n_features=2, n_classes=2, random_state=42)

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

# 创建逻辑回归模型
model = LogisticRegression()

# 训练模型
model.fit(X_train, y_train)

# 预测
y_pred = model.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print(f'Accuracy: {accuracy:.2f}')

# 绘制决策边界
def plot_decision_boundary(X, y, model):
    h = .02  # 步长
    x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
    y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
    xx, yy = np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))
    Z = model.predict(np.c_[xx.ravel(), yy.ravel()])
    Z = Z.reshape(xx.shape)
    plt.contourf(xx, yy, Z, alpha=0.8)
    plt.scatter(X[:, 0], X[:, 1], c=y, edgecolors='k', marker='o')
    plt.xlabel('Feature 1')
    plt.ylabel('Feature 2')
    plt.title('Decision Boundary')
    plt.show()

plot_decision_boundary(X_test, y_test, model)

进阶实例

问题描述

在实际应用中，数据集往往更加复杂，可能包含多种特征和类别。此外，还需要考虑模型的泛化能力和过拟合问题。我们将使用 Iris 数据集，通过交叉验证和网格搜索来优化模型性能。

高级代码实例

import numpy as np
from sklearn import datasets
from sklearn.model_selection import train_test_split, GridSearchCV, cross_val_score
from sklearn.preprocessing import StandardScaler
from sklearn.svm import SVC
from sklearn.metrics import classification_report

# 加载鸢尾花数据集
iris = datasets.load_iris()
X = iris.data
y = iris.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

# 标准化特征
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)

# 创建SVM模型
model = SVC()

# 定义参数网格
param_grid = {
    'C': [0.1, 1, 10, 100],
    'gamma': [1, 0.1, 0.01, 0.001],
    'kernel': ['rbf']
}

# 使用网格搜索进行超参数调优
grid_search = GridSearchCV(model, param_grid, cv=5, scoring='accuracy')
grid_search.fit(X_train, y_train)

# 输出最佳参数
print(f'Best parameters: {grid_search.best_params_}')

# 使用最佳参数的模型进行预测
best_model = grid_search.best_estimator_
y_pred = best_model.predict(X_test)

# 评估模型性能
accuracy = accuracy_score(y_test, y_pred)
print(f'Accuracy: {accuracy:.2f}')
print(classification_report(y_test, y_pred))

# 交叉验证
cv_scores = cross_val_score(best_model, X_train, y_train, cv=5)
print(f'Cross-validation scores: {cv_scores}')
print(f'Mean cross-validation score: {np.mean(cv_scores):.2f}')

实战案例

问题描述

假设我们正在处理一个客户流失预测项目。数据集包含客户的个人信息、消费记录和历史行为。我们的目标是预测哪些客户可能会流失，并采取措施挽留他们。

解决方案

  1. 数据预处理：清洗数据，处理缺失值和异常值。
  2. 特征工程：提取有用的特征，如消费频率、消费金额、最近一次消费时间等。
  3. 模型选择：使用多种模型进行比较，选择最佳模型。
  4. 模型评估：通过交叉验证和混淆矩阵评估模型性能。
  5. 模型部署：将模型部署到生产环境中，实时预测客户流失。

代码实现

import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split, GridSearchCV, cross_val_score
from sklearn.preprocessing import StandardScaler
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import classification_report, confusion_matrix

# 读取数据
data = pd.read_csv('customer_churn.csv')

# 数据预处理
data.dropna(inplace=True)
data['last_purchase_days'] = (pd.to_datetime('today') - pd.to_datetime(data['last_purchase_date'])).dt.days
data.drop(['customer_id', 'last_purchase_date'], axis=1, inplace=True)

# 特征工程
X = data.drop('churn', axis=1)
y = data['churn']

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

# 标准化特征
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)

# 创建随机森林模型
model = RandomForestClassifier()

# 定义参数网格
param_grid = {
    'n_estimators': [10, 50, 100, 200],
    'max_depth': [None, 10, 20, 30],
    'min_samples_split': [2, 5, 10]
}

# 使用网格搜索进行超参数调优
grid_search = GridSearchCV(model, param_grid, cv=5, scoring='accuracy')
grid_search.fit(X_train, y_train)

# 输出最佳参数
print(f'Best parameters: {grid_search.best_params_}')

# 使用最佳参数的模型进行预测
best_model = grid_search.best_estimator_
y_pred = best_model.predict(X_test)

# 评估模型性能
accuracy = accuracy_score(y_test, y_pred)
print(f'Accuracy: {accuracy:.2f}')
print(classification_report(y_test, y_pred))
print(confusion_matrix(y_test, y_pred))

# 交叉验证
cv_scores = cross_val_score(best_model, X_train, y_train, cv=5)
print(f'Cross-validation scores: {cv_scores}')
print(f'Mean cross-validation score: {np.mean(cv_scores):.2f}')

扩展讨论

特征选择与工程

特征选择和特征工程是机器学习中非常重要的步骤。通过选择合适的特征，可以显著提高模型的性能。常见的特征选择方法有：

  • 过滤法：基于特征的统计特性进行选择，如相关系数、互信息等。
  • 包装法：通过模型性能进行选择，如递归特征消除（RFE）。
  • 嵌入法：在模型训练过程中进行选择，如LASSO回归。

模型解释

在实际应用中，除了关注模型的性能外，还需要关注模型的可解释性。常用的模型解释方法有：

  • 特征重要性：对于树模型，可以通过特征重要性来解释模型。
  • 部分依赖图：展示某个特征对模型预测的影响。
  • SHAP值：通过SHAP值来解释每个特征对预测结果的贡献。

模型集成

模型集成是一种提高模型性能的有效方法。常见的集成方法有：

  • Bagging：通过自助采样生成多个子模型，最终结果取平均或投票。
  • Boosting：通过串行训练多个弱模型，逐步减少误差。
  • Stacking：通过多个基模型的预测结果作为输入，训练一个元模型进行最终预测。

总结

Scikit-learn 作为数据科学领域的利器，不仅提供了丰富的机器学习算法，还简化了数据预处理、模型训练和评估的过程。通过本文的介绍，相信你已经对 Scikit-learn 有了更深入的了解。无论你是初学者还是资深开发者，都能从中受益。希望你在未来的项目中，能够灵活运用 Scikit-learn，解决更多的实际问题。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/2238582.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

VUE使用TS开发打包时发现校验问题无法打包

VUE使用TS开发打包时发现校验问题无法打包

解决办法： 找到 tsconfig.app.json 这个文件，把他的include改为一个实际存在的空文件即可
阅读更多...
vscode+EIDE开发环境搭建

vscode+EIDE开发环境搭建

嵌入式知识框架目录篇章：返回请点我 热门优质文章 文章标题等级：低中高推荐指数5√最佳vscode安装配置使用调试【保姆级教程】中√√√[VSCODE]基于EIDE插件搭建vscode下的STM32单片机开发环境中√√√官方安装高√√√√VScode利用EIDE和cortex-debug…
阅读更多...
kafka面试题解答（四）

kafka面试题解答（四）

5、消费者组和分区数之间的关系是怎样的？ 消费者组数小于等于分区数，消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个组内消费者消费。 6、kafka如何知道哪个消费者消费哪个分区？ 生产者把数据发送给各个分区&…
阅读更多...
C#入门 020 事件（类型成员）

C#入门 020 事件（类型成员）

初步了解事件 定义:单词Event，译为“事件” 《牛津词典》中的解释是“a thing that happens, especially something important通顺的解释就是“能够发生的什么事情” 角色:使对象或类具备通知能力的成员 事件(event)是一种使对象或类能够提供通知的成员对象O拥有…
阅读更多...
单链表算法题(数据结构)

单链表算法题(数据结构)

1. 反转链表 https://leetcode.cn/problems/reverse-linked-list/description/ 题目： 看到这个题目的时候我们怎么去想呢？如果我们反应快的话，应该可以想到我们可以从1遍历到5然后依次头插，但是其实我们还有更好的办法&#xff…
阅读更多...
Python 如何通过 cron 或 schedule 实现爬虫的自动定时运行

Python 如何通过 cron 或 schedule 实现爬虫的自动定时运行

Python 如何通过 cron 或 schedule 实现爬虫的自动定时运行 自动定时运行爬虫是很多数据采集项目的基本需求。例如，每天采集一次新闻数据，或每小时更新股票行情数据等。通过 Python 实现定时任务，可以保证数据采集的高效和持续性。本文将带大…
阅读更多...
初学mongoDB

初学mongoDB

MongoDB 是一个开源的 NoSQL 数据库，由 C 语言编写。它与传统的关系型数据库不同，MongoDB 使用的是一种基于文档的存储模型，不需要定义固定的表结构，可以灵活地存储和管理大量的非结构化数据。下面是 MongoDB 的一些核心特性&…
阅读更多...
Ubuntu 的 ROS 操作系统turtlebot3环境搭建

Ubuntu 的 ROS 操作系统turtlebot3环境搭建

引言 本文介绍如何在Ubuntu系统中为TurtleBot3配置ROS环境，包括安装和配置ROS Noetic的步骤，为PC端控制TurtleBot3提供操作指南。 安装和配置的过程分为PC设置、系统安装、依赖安装等部分，并在最后进行网络配置，确保PC端能够顺利…
阅读更多...
图像增强的100种方法

图像增强的100种方法

文章目录 什么是图像增强 ？一、亮度和对比度调整1.1、线性方法1.1.1、灰度反转（Gray Inversion）1.1.2、对比度拉伸（Contrast Stretching）1.1.3、对比度和亮度增强（Contrast and Brightness） 1.2…
阅读更多...
Android Kotlin Flow 冷流 热流

Android Kotlin Flow 冷流 热流

在 Android 开发中，Flow 是 Kotlin 协程库的一部分，用于处理异步数据流的一个组件。本质上，Flow 是一个能够异步生产多个值的数据流，与 suspend 函数返回单个值的模式相对应。Flow 更类似于 RxJava 中的 Observable，但…
阅读更多...
Web服务器nginx实验2修改端口、默认目录、默认文件访问web页面

Web服务器nginx实验2修改端口、默认目录、默认文件访问web页面

修改默认目录、默认文件： 创建配置文件： 里面写：（访问的位置是/haha目录里面的haha.html） 把haha里面的index.html改名为haha.html： 重启服务： 关闭防火墙、改宽松模式： 用Windows访…
阅读更多...
Maven最佳实践

Maven最佳实践

文章目录 1.摘要 本文主要介绍Maven使用，作为Maven使用手册来记录。 2.介绍 Maven是项目管理工具，将项目开发和管理过程抽象成一个项目对象模型，使用pom.xml 文件进行依赖管理和项目构建。 Maven 中pom.xml 是根据坐标信息来定位资源的位置&a…
阅读更多...
el-table 纵向垂直表头处理

el-table 纵向垂直表头处理

项目中表格展示会遇到需要纵向垂直表头情况，下面，我们基于el-table组件来实现这种表格。 以下是这次需要用到的数据表格，已知左侧违章名称是固定的，而月份是不固定的，在后端返回数据格式已确定的情况下，需…
阅读更多...
Android OpenGL ES详解——纹理：纹理过滤GL_NEAREST和GL_LINEAR的区别

Android OpenGL ES详解——纹理：纹理过滤GL_NEAREST和GL_LINEAR的区别

目录 一、概念 1、纹理过滤 2、邻近过滤 3、线性过滤 二、邻近过滤和线性过滤的区别 三、源码下载 一、概念 1、纹理过滤 当纹理被应用到三维物体上时，随着物体表面的形状和相机视角的变化，会导致纹理在渲染过程中出现一些问题，如锯齿…
阅读更多...
超市11-12月生鲜重点商品配置

超市11-12月生鲜重点商品配置

11月份：应季商品很多,特别是与季节相对应的蔬菜大量上市。宜推荐对预防感冒等相应的特殊食谱,推荐对于常外出的人方便又省事、省时的食谱，推荐多种花样的火锅，推荐便于保存的应季食品原料。 生活特性：大众食谱宜以炖菜、红焖、火锅…
阅读更多...
c++设计模式demo

c++设计模式demo

模式设计原则 依赖倒置原则 ⾼层模块不应该依赖低层模块，⼆者都应该依赖抽象 ； 抽象不应该依赖具体实现，具体实现应该依赖于抽象； ⾃动驾驶系统公司是⾼层，汽⻋⽣产⼚商为低层，它们不应该互相依赖&#x…
阅读更多...
【网络面试篇】其他面试题——Cookie、Session、DNS、CDN、SSL/TLS、加密概念

【网络面试篇】其他面试题——Cookie、Session、DNS、CDN、SSL/TLS、加密概念

目录 一、HTTP 相关问题 1. Cookie 和 Session 是什么？ （1）Cookie （2）Session 2. Cookie 的工作原理？ 3. Session 的工作原理？ 4. Cookie 和 Session 有什么区别？ 二、其他问…
阅读更多...
软件测试第二篇软件测试技术

软件测试第二篇软件测试技术

第五章单元测试和集成测试的技术 单元静态测试主要由开发人员完成。 标准：规定什么能做，什么不能做。 规范：建议你要怎么做。 5.1.2 代码评审 代码评审是一种发现代码缺陷的另一种测试方法。 代码审查的最佳实践： 创建代码审…
阅读更多...
QT中 update()函数无法实时调用 paintEvent

QT中 update()函数无法实时调用 paintEvent

QT中 update()函数无法实时调用 paintEvent！ 在QT中，update()函数用于标记一个窗口区域为“需要重绘”。当调用update()后，QT会在合适的时候调用paintEvent()来重绘这个区域。然而，update()不会立即调用paintEvent()，…
阅读更多...
SDL事件相关

SDL事件相关

文章目录 事件相关的函数和数据结构用户自定义事件代码相关： 事件相关的函数和数据结构 SDL_WaitEvent :等待一个事件SDL_PushEvent 发送一个事件SDL_PumpEvents(): 将硬件设备产生的时间放入事件队列 ，用于读取事件，在调用该函数之前&#…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023