机器学习中软投票和硬投票的不同含义和理解

news2024/10/6 20:38:55

设置一个场景,比如对于今天音乐会韩红会出现的概率三个人三个观点
A:韩红出现的概率为47%
B:韩红出现的概率为57%
C:韩红出现的概率为97%

软投票:软投票会认为韩红出现的概率为1/3*(47%+57%+97%)=67%
硬投票:硬投票会认为韩红出现的概率为97%直接取最大
显然从字面上理解,软投票要比硬投票靠谱得多
试验测试一下

硬投票实验:

import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.datasets import make_moons
import numpy as np
x,y=make_moons(n_samples=500,noise=0.3,random_state=42)
x_train,x_test,y_train,y_test=train_test_split(x,y,random_state=42)
print(np.shape(x))
print(np.shape(y))
plt.plot(x[:,0][y==0], x[:,1][y==0],'yo',alpha=0.6)
plt.plot(x[:,0][y==1], x[:,1][y==1],'bs',alpha=0.6)
##投票器
from sklearn.ensemble import RandomForestClassifier, VotingClassifier
##逻辑回归
from sklearn.linear_model import LogisticRegression
##SVM分类器
from sklearn.svm import SVC
####硬投票
log_cls=LogisticRegression() ##线性回归实例化
rand_cls=RandomForestClassifier() ##随机森林实例化
svm_cls=SVC() ##SVM分类器实例化
##投票分类器
voting_clf=VotingClassifier(estimators=[('lr',log_cls),('rf',rand_cls),('svc',svm_cls)],voting='hard')##voting='hard'设置为硬投票

voting_clf.fit(x_train,y_train)
#看准确率的 https://scikit-learn.org/stable/modules/generated/sklearn.metrics.accuracy_score.html#sklearn.metrics.accuracy_score
from sklearn.metrics import accuracy_score
for clf in (log_cls,rand_cls,svm_cls,voting_clf):
    clf.fit(x_train,y_train)
    y_pred=clf.predict(x_test)
    print(clf.__class__.__name__,accuracy_score(y_test,y_pred))
#硬投票的意思就是取最大的概率值

请添加图片描述

LogisticRegression 0.864
RandomForestClassifier 0.896
SVC 0.896
VotingClassifier 0.904

###软投票
log_cls=LogisticRegression(random_state=42) ##线性回归实例化
rand_cls=RandomForestClassifier(random_state=42) ##随机森林实例化
svm_cls=SVC(probability=True,random_state=42) ##SVM分类器实例化
##投票分类器
voting_clf=VotingClassifier(estimators=[('lr',log_cls),('rf',rand_cls),('svc',svm_cls)],voting='soft')##voting='soft'设置为软投票

voting_clf.fit(x_train,y_train)
#看准确率的 https://scikit-learn.org/stable/modules/generated/sklearn.metrics.accuracy_score.html#sklearn.metrics.accuracy_score
from sklearn.metrics import accuracy_score
for clf in (log_cls,rand_cls,svm_cls,voting_clf):
    clf.fit(x_train,y_train)
    y_pred=clf.predict(x_test)
    print(clf.__class__.__name__,accuracy_score(y_test,y_pred))
##软投票必须要各个分类器都能得到概率值 然后加权平均

请添加图片描述

LogisticRegression 0.864
RandomForestClassifier 0.896
SVC 0.896
VotingClassifier 0.92

实验看来 软投票也更靠谱,所以,直接用软投票吧 别折腾了
至于有人私信问我为什么random_state = 42random_state 参数为什么要设置为42,至于这个问题,透过问题看本质,这个参量的意思是设置随机种子,42的话就是习惯了,可以理解为行业标准。

  1. 泰坦尼克号与冰山相撞时时速为42公里。
  2. 在哈利波特与魔法石的第 42 页,哈利发现自己是个巫师。
  3. 在启示录中,预言兽将在地球上统治 42 个月。
  4. 42 是圆整到彩虹出现的整数度的角度(临界角)。
  5. 数学家刘易斯卡罗尔在他的作品中多次使用这个数字。

无法解释,以后就记住就可以了。random_state=42

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/179589.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

“子序列问题”系列总结,一文读懂(Java实现)

目录 前言 一、最长递增子序列 1.1、dp定义 1.2、递推公式 1.3、初始化 1.4、注意 1.5、解题代码 二、最长连续递增序列 2.1、分析 2.2、解题代码 三、最长重复子数组 3.1、dp定义 3.2、递推公式 3.3、初始化 3.4、解题代码 四、最长公共子序列 4.1、分析 4.2…

Opencv项目实战:20 单手识别数字0到5

目录 0、项目介绍 1、效果展示 2、项目搭建 3、项目代码展示 HandTrackingModule.py Figures_counter.py 4、项目资源 5、项目总结 0、项目介绍 今天要做的是单手识别数字0到5,通过在窗口展示,实时的展示相应的图片以及文字。 在网上找了很久的…

硬核来袭!!!一篇文章教你入门Python爬虫网页解析神器——BeautifulSoup详细讲解

文章目录一、BeautifulSoup介绍二、安装三、bs4数据解析的原理四、bs4 常用的方法和属性1、BeautifulSoup构建1.1 通过字符串构建1.2 从文件加载2、BeautifulSoup四种对象2.1 Tag对象2.2 NavigableString对象2.3 BeautifulSoup对象2.4 Comment对象五、contents、children与desc…

springboot自定义拦截器的简单使用和一个小例子

springboot自定义拦截器的使用1. 自定义拦截器2. 拦截器登录验证的小demo2.1 配置pom.xml2.2 创建User的bean组件2.3 创建需要的表单页面以及登录成功的页面2.4 编写controller映射关系2.5 自定义拦截器类,实现intercepetor接口2.6注册添加拦截器,自定义…

【SpringCloud】Nacos集群搭建

集群结构图官方给出的Nacos集群图如下:其中包含3个nacos节点,然后一个负载均衡器代理3个Nacos。这里负载均衡器可以使用nginx。我们接下来要尝试 Nacos集群搭建,效果图如下所示:三个nacos节点的地址:节点ipportnacos1l…

二、Java框架之Spring注解开发

文章目录1. IOC/DI注解开发1.1 Component注解ComponentController Service Repository1.2 纯注解开发模式1.3 注解开发bean管理ScopePostConstruct PreDestroy1.4 注解开发依赖注入Autowired QualifierValuePropertySource1.5 第三方bean管理Beanimport(多个Config类…

Redisson 完成分布式锁

1、简介 Redisson 是架设在 Redis 基础上的一个 Java 驻内存数据网格(In-Memory Data Grid)。充分 的利用了 Redis 键值数据库提供的一系列优势,基于 Java 实用工具包中常用接口,为使用者 提供了一系列具有分布式特性的常用工具类…

JavaWeb | 揭开SQL注入问题的神秘面纱

本专栏主要是记录学习完JavaSE后学习JavaWeb部分的一些知识点总结以及遇到的一些问题等,如果刚开始学习Java的小伙伴可以点击下方连接查看专栏 本专栏地址:🔥JDBC Java入门篇: 🔥Java基础学习篇 Java进阶学习篇&#x…

MyEclipse提示过期,MyEclipse Subscription Expired解决方案

一、错误描述 某一天打开MyEclipse,突然发现出现如下提示框: 1.错误日志 Thank you for choosing MyEclipse Your license expired 1091 days ago. To continue use of MyEclipse please choose "Buy" to purchase a MyEclipse license. I…

离散系统的数字PID控制仿真-3

离散PID控制的封装界面如图1所示,在该界面中可设定PID的三个系数、采样时间及控制输入的上下界。仿真结果如图2所示。图1 离散PID控制的封装界面图2 阶跃响应结果仿真图:离散PID控制的比例、积分和微分三项分别由Simulink模块实现。离散PID控制器仿真图&…

【servlet篇】servlet相关类介绍

目录 servlet对象什么时候被创建? 2.servlet接口中各个方法的作用 3.相关类和接口介绍 GenericServlet ServletConfig ServletContext HttpServlet servlet对象什么时候被创建? 1,通常情况下,tomcat启动时,并没有…

高阶数据结构 位图的介绍

作者:学习同学 专栏:数据结构进阶 作者简介:大二学生 希望能和大家一起进步! 本篇博客简介:简单介绍高阶数据结构位图 位图的介绍bitset的介绍位图的引入位图的概念位图的引用bitset的使用bitset定义方式方式一 默认初…

基于BGP技术和防火墙双机热备技术的校园网设计与实现

规划设计描述网络拓扑设计分为三部分进行设计:主校区网络、 运营商骨干网络、分校区网络。总公司网络设计:划分:教学楼区域、宿舍区域、办公楼区域、行政楼区域,图书馆区域、数据中心。并且设有web服务器。出口设置双机热备技术&a…

人工智能在网络犯罪中的应用:5个最重要的趋势

在当今的数字世界中,网络威胁不断演变。 人工智能的使用虽然在网络犯罪中还不是必须的,但无疑是我们将在未来几年看到的具有重大发展的最有前途的技术之一。 随着 AI 技术的进步,攻击者开始尝试新的、越来越复杂和有效的攻击模式和技术。 …

PCL OcTree(二)——点云压缩

文章目录 一、应用背景二、代码解读1、官方源码2、代码解释与扩展3、完整代码三、参考文献一、应用背景 点云由庞大的数据集组成,这些数据集通过距离、颜色、法线等附加信息来描述空间三维点。此外,点云能以非常高的速率被创建出来,因此需要占用相当大的存储资源,一旦点云…

【信管9.3】项目干系人管理

项目干系人管理干系人,这三个字我们已经很早就见过了,相信你对它一定不会陌生。在我们的教材中,它是和项目沟通管理放在一起的,在同一个章节中讲完了,我们也遵循教材的顺序,将它和沟通放在一起。其实&#…

【计算机网络(考研版)】第一站:计算机网络概述(二)

目录 四、OSI参考模型和TCP/IP模型 1.ISO/0SI参考模型 2.TCP/IP模型 3.OSI/RM参考模型和TCP/IP参考模型的区别和联系 4.五层教学模型 5.数据流动示意图 四、OSI参考模型和TCP/IP模型 前面我们已经讨论了体系结构的基木概念,在具体的实施中有两个重要的网络体系…

Qt扫盲-QNetworkReply理论总结

QNetworkReply理论总结一、概述二、使用1. 读取body内容2. 获取head属性值3. 错误处理一、概述 QNetworkReply类包含了与QNetworkAccessManager发送的请求回来的相关的数据和元数据。与QNetworkRequest类似,它包含一个URL和头部(包括解析的和原始的形式)&#xff0…

Java基础语法——运算符与表达式

目录 Eclipse下载 安装 使用 运算符 键盘录入 Eclipse下载 安装 使用 Eclipse的概述(磨刀不误砍柴工)——是一个IDE(集成开发环境)Eclipse的特点描述(1)免费 (2)纯Java语言编写 (3)免安装 &#xff08…

【自然语言处理】情感分析(二):基于 scikit-learn 的 Naive Bayes 实现

情感分析(二):基于 scikit-learn 的 Naive Bayes 实现在上一篇博客 情感分析(一):基于 NLTK 的 Naive Bayes 实现 中,我们介绍了基于 NLTK 实现朴素贝叶斯分类的方法,本文将基于 sci…