【机器学习】什么是决策树?

news2025/3/31 19:39:03

什么是决策树?

决策树是一种用于分类和回归问题的模型。它通过一系列的“决策”将数据逐步分裂,最终得出预测结果。可以把它看作是一个“树”,每个节点表示一个特征的判断,而每个分支代表了可能的判断结果,最终的叶子节点表示预测结果。

通俗易懂的理解:

假设你正在玩一个猜谜游戏,目标是猜测一个人的年龄。你从以下几个问题开始:

  1. 你是否成年?
  2. 如果是,你的收入是否高于一定水平?
  3. 如果不是,你是学生吗?

每问一个问题,都会将可能的答案进一步分成不同的组,这样你最终会根据这些问题判断出一个大致的年龄范围。

决策树就是通过这种方式来做决策的:根据每个特征(问题)的条件,将数据逐层分组,最终在树的叶子节点给出结果。

举个简单的例子:

假设我们有一个数据集,其中包含不同动物的特征,如体重、是否有羽毛、是否会飞等,目标是判断动物是鸟还是非鸟(比如猫)。

体重(kg)是否有羽毛是否会飞动物类型
0.5
1.5
0.2
0.3
5

如何理解决策树:

  1. 第一个问题是否有羽毛?如果有羽毛,可能是鸟,如果没有羽毛,可能是猫。
  2. 第二个问题是否会飞?如果有羽毛但不能飞,可能是鸟,如果能飞,那么就是鸟。

决策树的结构:

在这个例子中,决策树的结构可能如下:

  • 根节点:是否有羽毛?
    • 如果有羽毛:是否会飞?
      • 如果能飞:是鸟
      • 如果不能飞:是鸟
    • 如果没有羽毛:是猫

代码示例:

我们可以使用Python的scikit-learn库来实现一个简单的决策树分类器,来判断动物是否是鸟。

from sklearn import tree
import numpy as np
from matplotlib import rcParams
import matplotlib.pyplot as plt

# 设置字体为支持中文的字体
rcParams['font.family'] = 'SimHei'
rcParams['axes.unicode_minus'] = False

# 数据:体重(kg)、是否有羽毛、是否会飞
X = np.array([[0.5, 1, 1], [1.5, 0, 0], [0.2, 1, 1], [0.3, 1, 0], [5, 0, 0]])

# 标签:鸟=1,猫=0
y = np.array([1, 0, 1, 1, 0])

# 创建决策树分类器
clf = tree.DecisionTreeClassifier()

# 训练模型
clf = clf.fit(X, y)

# 用模型进行预测(预测一个新的动物:体重 0.4kg,有羽毛,不会飞)
prediction = clf.predict([[0.4, 1, 0]])

# 打印预测结果
if prediction == 1:
    print("这是一个鸟。")
else:
    print("这是一个猫。")

# 可视化决策树
import matplotlib.pyplot as plt
tree.plot_tree(clf, feature_names=['体重', '是否有羽毛', '是否会飞'], class_names=['猫', '鸟'], filled=True)
plt.show()

代码解释:

  • 数据 (X):每一行表示一个动物的特征,包括体重、是否有羽毛和是否会飞。1表示有羽毛/会飞,0表示没有羽毛/不会飞。
  • 标签 (y)0表示猫,1表示鸟。
  • 训练模型:我们用 DecisionTreeClassifier() 创建一个决策树分类器,并用 clf.fit(X, y) 训练它。
  • 预测:我们使用训练好的模型来预测一个新动物的类别(体重0.4kg、有羽毛、不飞行)。
  • 可视化决策树tree.plot_tree()C 用于绘制训练出来的决策树,帮助我们理解树的结构。

输出解释:

  • 代码会告诉我们,预测的动物是鸟还是猫。
  • 如果我们运行代码,决策树的可视化结果将显示决策树的结构,帮助我们理解每个节点的决策依据。

在这里插入图片描述
总结:

决策树通过一系列的条件判断来做出预测。它通过将数据逐步分裂成子集,最终在叶子节点给出一个预测结果。它的优点是易于理解和可解释性强,但缺点是容易过拟合,特别是在数据集很复杂时。为了防止过拟合,我们通常会进行剪枝,限制树的深度等。

希望这个解释和代码示例能帮助你更好地理解决策树!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2323614.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

使用独立服务器的最佳方式指南

在寻找合适的主机服务方案时,可以考虑独立服务器,因为它拥有管理员权限以及更高的性能配置。在本指南中,我们将介绍独立服务器的多种用途,并分析为什么选择独立服务器可能是处理高性能、资源密集型应用和大流量网站的最佳方案。 搭…

【HTML 基础教程】HTML 属性

HTML 属性 属性是 HTML 元素提供的附加信息。 属性通常出现在 HTML 标签的开始标签中,用于定义元素的行为、样式、内容或其他特性。 属性总是以 name"value" 的形式写在标签内,name 是属性的名称,value 是属性的值。 HTML 属性 …

爬虫问题整理(2025.3.27)

此时此刻,困扰我一天的两个问题终于得到了解决,在此分享给大家。 问题1:使用anaconda prompt无法进行pip安装,这里只是一个示例,实际安装任何模块都会出现类似报错。 解决办法:关掉梯子......没错&#xf…

短信验证码安全需求设计

背景: 近期发现部分系统再短信充值频繁,发现存在恶意消耗短信额度现象,数据库表排查,发现大量非合法用户非法调用短信接口API导致额度耗尽。由于系统当初设计存在安全缺陷,故被不法分子进行利用,造成损失。…

若依专题——基础应用篇

若依搭建 搭建后端项目 ① Git 克隆并初始化项目 ② MySQL 导入与配置 ③ 启动 Redis 搭建后端项目注意事项? ① 项目初始化慢,执行clean、package ② MySQL导入后,修改application-druid.yml ③ Redis有密码,修改ap…

AI for CFD入门指南(传承版)

AI for CFD入门指南 前言适用对象核心目标基础准备传承机制 AI for CFDLibtorch的介绍与使用方法PytorchAutogluon MakefileVscodeOpenFOAMParaviewGambit 前言 适用对象 新加入课题组的硕士/博士研究生对AICFD交叉领域感兴趣的本科生实习生需要快速上手组内研究工具的合作研…

DeepSeek+RAG局域网部署

已经有很多平台集成RAG模式,dify,cherrystudio等,这里通过AI辅助,用DS的API实现一个简单的RAG部署。框架主要技术栈是Chroma,langchain,streamlit,答案流式输出,并且对答案加上索引。支持doc,docx,pdf,txt。…

个人学习编程(3-24) 数据结构

括号的匹配&#xff1a; if((s[i]) && now() || (s[i]] && now[)){ #include <bits/stdc.h>using namespace std;int main() {char s[300];scanf("%s",&s);int i;int len strlen(s);stack <char> st;for (i 0; i < len; i){if(…

面试八股文--框架篇(SSM)

一、Spring框架 1、什么是spring Spring框架是一个开源的Java平台应用程序框架&#xff0c;由Rod Johnson于2003年首次发布。它提供了一种全面的编程和配置模型&#xff0c;用于构建现代化的基于Java的企业应用程序。Spring框架的核心特性包括依赖注入&#xff08;DI&#xf…

跨语言语言模型预训练

摘要 最近的研究表明&#xff0c;生成式预训练在英语自然语言理解任务中表现出较高的效率。在本研究中&#xff0c;我们将这一方法扩展到多种语言&#xff0c;并展示跨语言预训练的有效性。我们提出了两种学习跨语言语言模型&#xff08;XLM&#xff09;的方法&#xff1a;一种…

Nodejs上传文件的问题

操作系统&#xff1a;window和linux都会遇到 软件环境&#xff1a;v20.10.0的Nodejs 1、前端代码如下&#xff1a; 2、后端Nodejs 2.1、注册接口 2.2、上传接口 其中memoryUpload方法代码如下&#xff1a; 3、用页面上传文件 查看具体报错原因&#xff1a; TypeError: sourc…

无人机螺旋桨平衡标准

螺旋桨平衡是确保无人机(UAV)平稳运行、可靠性和使用寿命的关键过程。螺旋桨的不平衡会导致振动、噪音&#xff0c;并加速关键部件的磨损&#xff0c;从而对飞行性能产生负面影响。 ISO 21940-11:2016标准为旋翼平衡提供了一个广泛引用的框架&#xff0c;定义了可接受的不平衡…

SpringBoot+策略模式+枚举类,使用配置文件改进,优雅消除if-else,完全符合OOP原则

需求分析 公司做物联网系统的&#xff0c;使用nettry进行设备连接&#xff0c;对设备进行数据采集&#xff0c;根据设备的协议对数据进行解析&#xff0c;解析完成之后存放数据库&#xff0c;但是不同厂家的设备协议不同。公司系统使用了使用了函数式编程的去写了一个解析类&am…

每日免费分享之精品wordpress主题系列~DAY16

主题介绍&#xff1a; 今日在网上寻找wordpress主题的时候逛到了大叔的网站&#xff0c;赶脚这个主题蛮不错的&#xff0c;于是百度一下&#xff0c;果然&#xff0c;这个主题很受欢迎。作为主题下载站追梦者也不甘落后&#xff0c;马上就发布出来了&#xff0c;希望对你们有用…

OpenCV图像拼接(9)实现图像拼接功能的一个高级接口cv::Stitcher

操作系统&#xff1a;ubuntu22.04 OpenCV版本&#xff1a;OpenCV4.9 IDE:Visual Studio Code 编程语言&#xff1a;C11 算法描述 cv::Stitcher 类是OpenCV中用于实现图像拼接功能的一个高级接口。它简化了从一组部分重叠的图像创建全景图的过程&#xff0c;隐藏了许多底层细节…

dify + deepseek /qwen + win +xinference 等完成知识库建设

Dify.AI The Innovation Engine for Generative AI Applications 简介&#xff1a;Dify是一个用于构建人工智能应用程序的开源平台。我们将后端即服务和LLMOps相结合&#xff0c;简化了生成式人工智能解决方案的开发&#xff0c;使开发人员和非技术创新者都可以使用。CPU>…

模数转换电路(A/D转换器)

A/D转换&#xff0c;是将输入的模拟电压量转换成相应的数字量。 A/D转换器的类型很多&#xff0c;按工作原理可分为直接转换型和间接转换型两大类。前者直接将模拟电压量转换成数字量&#xff0c;后者是先将模拟电压量转换成一个中间量&#xff0c;再将中间量转换成数字量。 …

算法 | 麻雀搜索算法原理,公式,改进算法综述,应用场景及matlab完整代码

一、麻雀搜索算法(SSA)原理 1. 算法基础 麻雀搜索算法(Sparrow Search Algorithm, SSA)是2020年提出的一种群体智能优化算法,灵感来源于麻雀群体的觅食与反捕食行为。算法将麻雀分为三类角色:发现者(Producer):适应度最高,负责探索全局最优区域;加入者(Follower)…

《大语言模型赋能证券业开发安全:海云安技术方案在上交所专刊发表》

近日&#xff0c;海云安《大语言模型在证券业开发安全领域的探索与实践》技术方案经过上海证券交易所&#xff08;以下简称”上交所“&#xff09;行业专家评审后正式收录于《交易技术前沿——网络安全专刊&#xff08;2025年第1期 总第61期&#xff09;》。 证券信息技术研究…

【蓝桥杯】单片机设计与开发,中断系统,外部中断(下)

一、例程一&#xff1a;外部中断执行函数 #include<stc15.h>void main(void) {P20XA0;P00X00;P20X80;P00XFF;IT00;//设置外部中断0&#xff1b;上升沿下降沿均可//IT01;//设置外部中断0&#xff1b;仅下降沿EX01;//允许中断0申请中断EA 1;//打开CPU总中断while(1); }voi…