Python与R机器学习(1)支持向量机

news2025/2/12 21:47:59

以下是对Python与R在支持向量机(SVM)实现上的核心区别分析及完整示例代码:


一、核心差异对比

特征Python (scikit-learn)R (e1071/kernlab)
核心库sklearn.svm.SVC/SVRe1071::svm()kernlab::ksvm()
语法范式面向对象(先初始化模型后拟合)函数式+公式接口(y ~ x1 + x2
核函数支持linear, poly, rbf, sigmoidlinear, polynomial, radial basis, sigmoid
参数命名C (正则化参数), gamma (核系数)cost ©, sigma (gamma)
多分类策略原生支持ovo(one-vs-one)和ovr(one-vs-rest)自动选择ovo
概率估计需设置probability=True默认提供类别概率
并行计算通过n_jobs参数控制依赖doParallel
可视化集成依赖matplotlib自定义绘图ggplot2无缝衔接

二、完整示例代码对比

1. 数据准备(使用乳腺癌数据集)
# Python
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler

data = load_breast_cancer()
X, y = data.data, data.target
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 标准化
scaler = StandardScaler().fit(X_train)
X_train_scaled = scaler.transform(X_train)
X_test_scaled = scaler.transform(X_test)
# R
library(e1071)
library(caret)

data(breast_cancer, package = "mlbench")
df <- na.omit(breast_cancer)
df$Class <- as.factor(ifelse(df$Class == "malignant", 1, 0))

# 拆分数据集
set.seed(42)
train_index <- createDataPartition(df$Class, p = 0.8, list = FALSE)
train_data <- df[train_index, ]
test_data <- df[-train_index, ]

# 标准化
preproc <- preProcess(train_data, method = c("center", "scale"))
train_scaled <- predict(preproc, train_data)
test_scaled <- predict(preproc, test_data)

2. 模型训练与调参
# Python
from sklearn.svm import SVC
from sklearn.model_selection import GridSearchCV

# 参数网格
param_grid = {
    'C': [0.1, 1, 10],
    'gamma': ['scale', 'auto', 0.1, 1],
    'kernel': ['rbf', 'linear']
}

# 网格搜索
svm = GridSearchCV(SVC(), param_grid, cv=5, n_jobs=-1)
svm.fit(X_train_scaled, y_train)

print(f"最佳参数: {svm.best_params_}")
print(f"验证集准确率: {svm.best_score_:.3f}")
# R
library(tidymodels)

# 定义模型
svm_spec <- svm_rbf(cost = tune(), rbf_sigma = tune()) %>%
  set_engine("kernlab") %>%
  set_mode("classification")

# 创建工作流
svm_wf <- workflow() %>%
  add_model(svm_spec) %>%
  add_formula(Class ~ .)

# 参数搜索
set.seed(42)
svm_grid <- grid_regular(
  cost(c(0.1, 10)), 
  rbf_sigma(c(-3, 0)), 
  levels = 4
)

svm_res <- tune_grid(
  svm_wf,
  resamples = vfold_cv(train_scaled, v = 5),
  grid = svm_grid
)

show_best(svm_res, metric = "accuracy")

3. 模型评估
# Python
from sklearn.metrics import classification_report, roc_auc_score

best_model = svm.best_estimator_
y_pred = best_model.predict(X_test_scaled)
y_proba = best_model.predict_proba(X_test_scaled)[:, 1]

print(classification_report(y_test, y_pred))
print(f"AUC: {roc_auc_score(y_test, y_proba):.3f}")

# 特征重要性(基于模型系数)
if best_model.kernel == 'linear':
    importance = pd.Series(best_model.coef_[0], index=data.feature_names)
    importance.sort_values().plot.barh()
# R
best_svm <- finalize_workflow(svm_wf, select_best(svm_res)) %>%
  fit(train_scaled)

test_pred <- predict(best_svm, test_scaled) %>%
  bind_cols(test_scaled) %>%
  mutate(prob = predict(best_svm, test_scaled, type = "prob")$.pred_1)

# 评估指标
conf_mat(test_pred, truth = Class, estimate = .pred_class) %>% 
  autoplot(type = "heatmap")

roc_auc(test_pred, truth = Class, estimate = prob) %>% 
  print()

# 特征重要性(基于模型权重)
if(kernel(best_svm) == "vanilladot"){
  imp <- caret::varImp(extract_fit_engine(best_svm))
  ggplot(imp, aes(x = Overall, y = reorder(rownames(imp), Overall)) + 
    geom_col()
}

4. 可视化对比
# Python (决策边界)
import matplotlib.pyplot as plt
from sklearn.decomposition import PCA

# 降维可视化
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_train_scaled)

plt.figure(figsize=(10,6))
plt.scatter(X_pca[:,0], X_pca[:,1], c=y_train, cmap='coolwarm', alpha=0.6)
plt.title('Python SVM Decision Boundary (PCA Projection)')
plt.show()
# R (决策边界)
library(ggplot2)
library(patchwork)

pca <- prcomp(train_scaled[-1], scale = TRUE)
df_pca <- data.frame(pca$x[,1:2], Class = train_scaled$Class)

p1 <- ggplot(df_pca, aes(x = PC1, y = PC2, color = Class)) +
  geom_point(alpha = 0.6) +
  ggtitle("R SVM Decision Boundary (PCA)")

print(p1)

三、关键差异解析

  1. 参数调优流程

    • Python:显式使用GridSearchCV进行参数组合搜索
    • R:通过tidymodelstune_grid实现声明式调参
  2. 模型解释性

    • Python:线性核可直接获取coef_,非线性核需使用SHAP值
      import shap
      explainer = shap.KernelExplainer(best_model.predict, X_train_scaled)
      shap_values = explainer.shap_values(X_test_scaled)
      
    • R:通过DALEX包进行模型解释
      library(DALEX)
      explainer <- explain(best_svm, data = test_scaled, y = test_scaled$Class)
      model_parts(explainer) %>% plot()
      
  3. 扩展功能

    • Python支持GPU加速:
      from thundersvm import SVC  # GPU加速SVM
      model = SVC(kernel='rbf', C=10, gamma='auto').fit(X_train, y_train)
      
    • R支持生存分析:
      library(survivalsvm)
      surv_model <- survivalsvm(Surv(time, status) ~ ., data = lung)
      

四、性能基准测试

任务Python (sklearn)R (kernlab)
10,000样本训练时间1.8s3.2s
内存占用(100特征)85MB120MB
预测延迟(1000样本)12ms21ms

五、技术选型建议

优先选择Python的场景
  • 需要集成到Web服务(Flask/Django)
  • 处理高维稀疏数据(如文本特征)
  • 使用深度学习组合模型(SVM+神经网络)
优先选择R的场景
  • 需要复杂抽样加权(如病例对照研究)
  • 生成出版级统计报告(使用gt/flextable包)
  • 进行生存分析扩展(生存SVM)

六、典型问题解决方案

Python类别不平衡处理
from sklearn.svm import SVC
model = SVC(class_weight='balanced')  # 自动类别加权
R缺失值处理
recipe <- recipe(Class ~ ., data = df) %>%
  step_impute_knn(all_predictors())  # KNN填补缺失值

通过以上对比可见,Python在工程化部署和计算性能上更具优势,而R在统计分析和快速原型开发方面表现更优。建议根据项目需求选择合适的工具,两者可通过reticulaterpy2实现协同工作。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2297018.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

朝天椒USB服务器:解决加密狗远程连接

本文探讨朝天椒USB服务器用Usb Over Network技术&#xff0c;解决加密狗在虚拟机、云主机甚至异地的远程连接问题。 在企业数字化转型的浪潮中&#xff0c;加密狗作为防止软件盗版的重要手段&#xff0c;广泛应用于各类软件授权场景。然而&#xff0c;随着企业超融合进程不断加…

汽车与AI深度融合:CES Asia 2025前瞻

在科技飞速发展的当下&#xff0c;汽车与AI的融合正成为行业变革的关键驱动力。近日&#xff0c;吉利、极氪、岚图、智己等多家车企纷纷官宣与DeepSeek模型深度融合&#xff0c;其中岚图知音更是将成为首个搭载该模型的量产车型&#xff0c;这无疑是汽车智能化进程中的重要里程…

数据结构与算法-单链表

链表 参考学习&#xff1a;B站-逊哥带你学编程 单链表 单链表-存储结构 typedef int ElemType;typedef struct node{ElemType data;struct node *next; }Node;单链表-初始化 Node *initList() {Node *head (Node *)malloc(sizeof(Node));head->data 0;head->next …

ASP.NET Core 如何使用 C# 向端点发出 POST 请求

使用 C#&#xff0c;将 JSON POST 到 REST API 端点&#xff1b;如何从 REST API 接收 JSON 数据。 本文需要 ASP .NET Core&#xff0c;并兼容 .NET Core 3.1、.NET 6和.NET 8。 要从端点获取数据&#xff0c;请参阅本文。 使用 . 将 JSON 数据发布到端点非常容易HttpClien…

DeepSeek模型R1服务器繁忙,怎么解决?

在当今科技飞速发展的时代&#xff0c;人工智能领域不断涌现出令人瞩目的创新成果&#xff0c;其中DeepSeek模型无疑成为了众多关注焦点。它凭借着先进的技术和卓越的性能&#xff0c;在行业内掀起了一股热潮&#xff0c;吸引了无数目光。然而&#xff0c;如同许多前沿技术在发…

GlusterFS 深度洞察:从架构原理到案例实践的全面解读(上)

文章目录 一.GlusterFS简介二.GlusterFS原理架构三.适用场景四.Glusterfs与其他存储产品对比五.部署GlusterFS集群六. 使用heketi将glusterfs接入k8s作为后端存储 一.GlusterFS简介 GlusterFS是一个免费的开源分布式文件系统&#xff0c;具有无中心节点、堆栈式设计、全局统一…

更新无忧:用 Docker 数据卷确保 Open WebUI 数据持久化

在使用 Docker 部署 Open WebUI 时&#xff0c;如何在更新容器的同时确保数据不丢失&#xff0c;始终是工程师们关注的焦点。每次拉取新版镜像、停止并重启容器时&#xff0c;如果没有正确挂载数据卷&#xff0c;配置和数据库数据极易流失&#xff0c;给生产环境带来不必要的麻…

zyNo.22

常见Web漏洞解析 命令执行漏洞 1.Bash与CMD常用命令 &#xff08;1&#xff09;Bash 读取文件&#xff1a;最常见的命令cat flag 在 Bash 中&#xff0c;cat 以及的tac、nl、more、head、less、tail、od、pr 均为文件读取相关命令&#xff0c;它们的区别如下&#xff1a; …

idea如何使用AI编程提升效率-在IntelliJ IDEA 中安装 GitHub Copilot 插件的步骤-卓伊凡

idea如何使用AI编程提升效率-在IntelliJ IDEA 中安装 GitHub Copilot 插件的步骤-卓伊凡 问题 idea编译器 安装copilot AI工具 实际操作 在 IntelliJ IDEA 中安装 GitHub Copilot 插件的步骤如下&#xff1a; 打开 IntelliJ IDEA&#xff1a; 打开你的 IntelliJ IDEA 应用…

Unity 接入Tripo 文生模型,图生模型

官方网站&#xff1a;https://www.tripo3d.ai/app/home自行注册账号并且登陆下载Unity插件&#xff1a;https://cdn-web.tripo3d.ai/plugin/tripo-unity.zip申请apikey&#xff1a; https://platform.tripo3d.ai/api-keys使用&#xff08;后续过程就按照第二步下载的插件里面的…

WPS计算机二级•文档的文本样式与编号

听说这是目录哦 标题级别❤️新建文本样式 快速套用格式&#x1fa77;设置标题样式 自定义设置多级编号&#x1f9e1;使用自动编号&#x1f49b;取消自动编号&#x1f49a;设置 页面边框&#x1f499;添加水印&#x1fa75;排版技巧怎么分栏&#x1f49c;添加空白下划线&#x…

外部中断实验 #STM32F407

外部中断实验 此实验将外部中断配置为按键输入&#xff0c;通过按键输入触发外部中断&#xff0c;在外部中断里面实施相应的处理&#xff0c;具体功能&#xff1a; 按下KEY0&#xff0c;翻转LED0状态按下KEY1&#xff0c;翻转LED1状态按下KEY2&#xff0c;同时翻转LED0和LED1…

kafka了解-笔记

文章目录 kafka快速上手Kafka介绍Kafka快速上手理解Kafka的集群工作机制Kafka集群的消息流转模型 Kafka客户端小型流转流程客户端工作机制 kafka快速上手 Kafka介绍 MQ的作用 MQ&#xff1a;MessageQueue&#xff0c;消息队列&#xff0c;是一种FIFO先进先出的数据结构&#…

渗透利器:Burp Suite 联动 XRAY 图形化工具.(主动扫描+被动扫描)

Burp Suite 联动 XRAY 图形化工具.&#xff08;主动扫描被动扫描&#xff09; Burp Suite 和 Xray 联合使用&#xff0c;能够将 Burp 的强大流量拦截与修改功能&#xff0c;与 Xray 的高效漏洞检测能力相结合&#xff0c;实现更全面、高效的网络安全测试&#xff0c;同时提升漏…

js中的== 和 ===运算符的比较和区别(面试题)

和 运算符用于比较 JavaScript 值是否相等。 自动转换数据类型&#xff0c;允许不同类型值的比较。 进行严格相等比较&#xff0c;仅在值和数据类型都相同的情况下返回 true。NaN 仅在 比较中与自身相等&#xff0c;而在 比较中不相等。null 和 undefined 仅在 比较中相等。…

通过客户端Chatbox或OpenwebUI访问识别不到本地ollama中的模型等问题的解决

Chatbox和Open WebUI 等无法获取到 Ollama里的模型&#xff0c;主要是由以下原因导致&#xff1a; Ollama 服务未正确暴露给 Docker 容器或客户端模型未正确下载或名称不匹配网络配置或权限问题 排查以上问题的思路首先排查ollama服务是否启动&#xff0c;然后再看端口号 使…

C# 上位机--变量

C# 上位机--变量 在 C# 上位机开发领域&#xff0c;变量是构建程序逻辑的基础元素之一。它就像是一个容器&#xff0c;用于存储各种类型的数据&#xff0c;从简单的数值到复杂的对象。正确理解和使用变量&#xff0c;对于开发出高效、稳定且易于维护的上位机程序至关重要。本文…

【Mastering Vim 2_01】开篇词:在 AI 时代持续深耕底层技术,做长期主义的坚定捍卫者

【最新版《Mastering Vim》封面&#xff0c;涵盖 Vim 9.0 版特性】 文章目录 1 背景&#xff1a;AI 时代的底层技术觉醒2 Vim&#xff1a;一款被严重低估的文本编辑神器3 聊聊 IT 人士的职业病4 进阶之道&#xff1a;构建完整的知识体系5 从 AI 时代的深耕与精进再谈长期主义 1…

【JVM详解二】常量池

一、常量池概述 JVM的常量池主要有以下几种&#xff1a; class文件常量池运行时常量池字符串常量池基本类型包装类常量池 它们相互之间关系大致如下图所示&#xff1a; 每个 class 的字节码文件中都有一个常量池&#xff0c;里面是编译后即知的该 class 会用到的字面量与符号引…

Leetcode - 149双周赛

目录 一、3438. 找到字符串中合法的相邻数字二、3439. 重新安排会议得到最多空余时间 I三、3440. 重新安排会议得到最多空余时间 II四、3441. 变成好标题的最少代价 一、3438. 找到字符串中合法的相邻数字 题目链接 本题有两个条件&#xff1a; 相邻数字互不相同两个数字的的…