机器学习（五） ----------决策树算法

1 核心思想

2 决策树算法主要步骤

3 决策树算法的分类

3.1 ID3算法（Iterative Dichotomiser 3）：

3.1.1 基本步骤

3.1.2 原理

信息增益

3.1.3 注意事项

3.2 C4.5算法：

3.2.1. 信息增益率

计算公式

3.2.2. 构建决策树

3.2.3 优点

3.2.4 缺点

3.3 CART（Classification and Regression Trees）算法

3.3.1分类树构建

3.3.2 回归树构建

3.3.3 CART算法的优点

3.3.4 CART算法缺点

4 决策树的剪枝

4.1 预剪枝（Pre-pruning）

4.1.1 优点

4.1.2 缺点

4.2 后剪枝

4.2.1 优点

4.2.2 缺点

4.3 剪枝相关API

5 决策树API

5.1 分类决策树

sklearn.tree.DecisionTreeClassifier

5.2 回归决策树

sklearn.tree.DecisionTreeRegressor

6 代码实现

1 核心思想

决策树算法（Decision Tree）是一种常用的监督学习算法，用于分类和回归任务。核心思想是将整个数据集按照某种属性进行划分，形成类似于树的结构，每个内部节点表示一个属性上的测试，每个分支代表一个测试输出，每个叶节点代表一种类别。

2 决策树算法主要步骤

特征选择：选择对数据集划分能力最好的特征，即能够最大化信息增益、增益率、基尼指数等的特征。
决策树生成：根据选择的特征对数据集进行划分，生成决策树。
决策树剪枝：为了避免过拟合，需要对生成的决策树进行剪枝，去掉一些分支以降低模型的复杂度。

3 决策树算法的分类

3.1 ID3算法（Iterative Dichotomiser 3）

ID3算法（Iterative Dichotomiser 3）是一种决策树学习算法，由Ross Quinlan在1986年提出。该算法的核心思想是使用信息增益（Information Gain）作为选择划分属性的度量标准，从而构建一棵决策树来分类实例。

3.1.1 基本步骤

准备数据集：数据集需要是离散的，并且包含特征和类别标签。
计算信息增益：对于数据集中的每个非类别特征（属性），计算其作为划分属性的信息增益。
选择最佳划分属性：选择信息增益最大的特征作为当前节点的划分属性。
划分数据集：根据选择的最佳划分属性，将数据集划分为若干个子集，每个子集对应该属性的一个可能取值。
递归构建决策树：对每个划分后的子集，重复步骤2至4，直到满足停止条件（如子集的所有实例都属于同一类别，或者没有特征可供划分）。
形成决策树：将递归过程中生成的节点和分支连接起来，形成一棵决策树。

3.1.2 原理

信息增益

信息增益是衡量一个特征划分数据集能力的指标。假设数据集D有m个类别，第i个类别有 $C_i$ 个样本，那么数据集D的信息熵（Entropy）定义为：

$[ \text{Entropy}(D) = -\sum_{i=1}^{m} p_i \log_2 p_i ]$

其中，( $p_i = \frac{C_i}{|D|}$ ) 是第i个类别在数据集D中出现的概率。

假设特征A有n个不同的取值( ${a_1, a_2, \ldots, a_n}$ )，使用特征A对数据集D进行划分，可以得到n个子集( ${D_1, D_2, \ldots, D_n}$ )。使用特征A划分数据集D后的信息熵为：

$[ \text{Entropy}A(D) = \sum{j=1}^{n} \frac{|D_j|}{|D|} \text{Entropy}(D_j) ]$

那么，特征A的信息增益为：

$[ \text{Gain}(D, A) = \text{Entropy}(D) - \text{Entropy}_A(D) ]$

信息增益越大，表示使用特征A划分数据集D后，数据集的纯度提升越大，因此应该选择信息增益最大的特征作为划分属性。

3.1.3 注意事项

ID3算法只能处理离散型数据，对于连续型数据需要进行离散化处理。
ID3算法倾向于选择取值较多的特征进行划分，这可能会导致决策树过于复杂，出现过拟合现象。
ID3算法没有考虑剪枝策略，生成的决策树可能不够简洁。在实际应用中，可以通过后剪枝等方法来简化决策树。

3.1.4 优点

易于理解和解释：ID3算法构建的决策树直观易懂，易于被非专业人士理解和解释。这种可视化的方式有助于人们更好地理解数据，从而做出更明智的决策。
处理离散型数据效果好：ID3算法特别适用于处理离散型数据，如文本分类、垃圾邮件过滤等场景。在这些场景中，ID3算法能够有效地根据数据的特征进行划分，从而得到准确的分类结果。

3.1.5 缺点：

不能处理连续型数据：ID3算法只能处理离散型数据，对于连续型数据需要进行离散化处理。这可能会导致信息丢失或处理成本增加。
对噪声和缺失值敏感：ID3算法对噪声和缺失值比较敏感，如果数据中存在较多的噪声或缺失值，可能会导致构建的决策树不够准确。
倾向于选择取值较多的属性：ID3算法在选择划分属性时，倾向于选择取值较多的属性。这可能会导致决策树过于复杂，出现过拟合现象。同时，由于信息增益的计算方式，取值较多的属性可能会被过分强调，而忽略了其他更重要的属性。
不能处理增量数据：ID3算法不能增量地接受训练集，每增加一次实例就需要重新构造整个决策树。这可能会导致算法在处理大规模数据集时效率较低。

3.2 C4.5算法

C4.5算法是一种经典的决策树学习算法，由Ross Quinlan在ID3算法的基础上进行改进和扩展。其核心原理是基于信息论的概念，通过计算每个属性的信息增益率（而不是ID3算法中的信息增益），来选择最佳划分属性，并以此构建决策树。

3.2.1. 基本步骤

C4.5算法通过递归地选择最佳划分属性来构建决策树。具体步骤如下：

1 选择最佳划分属性

对于当前数据集，计算每个属性的信息增益率。
选择信息增益率最大的属性作为最佳划分属性。

2 划分数据集

根据选定的最佳划分属性，将数据集划分为若干个子集，每个子集对应该属性的一个可能取值。

3 递归构建子树

对每个划分后的子集，重复步骤2.1和2.2，直到满足停止条件为止。停止条件通常包括：
- 子集中的所有实例都属于同一类别。
- 没有属性可供划分（即所有属性都已用作划分属性）。
- 子集的大小小于预定的阈值。

4 剪枝

为了防止过拟合，C4.5算法在构建决策树的过程中会进行剪枝。剪枝策略可以基于后验概率、交叉验证等方法。

3.2.2 原理

信息增益率

在C4.5算法中，信息增益率被用作选择最佳划分属性的标准。信息增益率考虑了属性值的数量和不同取值对分类效果的影响，从而避免了ID3算法倾向于选择取值较多的属性的问题。

计算公式

信息增益率的计算公式如下：

$GainRatio(A)= \frac{Gain\left ( A\right )}{SplitInfo(A)}$

$SplitInfo(A) = -\sum_{i=1}^{v}\frac{\left | D_i \right |}{\left | D \right |}log_2\frac{\left | D_i \right |}{D}$

其中，Gain(A) 是属性A的信息增益，SplitInfo(A) 是属性A的分裂信息（Split Information）。

信息增益（Gain）：表示按照属性A划分数据集前后，信息熵的减少量。它衡量了属性A对于分类任务的重要性。

分裂信息（SplitInfo）：表示根据属性A的不同取值对数据集进行划分时所需的信息熵。它用于衡量属性A的取值数量对分类效果的影响。

A 是当前考虑的属性。
v 是属性A的不同取值的数量。
D 是当前要划分的样本集。
Di 是根据属性A的第i个取值划分出来的样本子集。
∣D∣ 和 ∣Di∣ 分别表示样本集D和子集Di的样本数量。

3.2.3 优点

C4.5算法能够处理连续型属性或离散型属性的数据。
C4.5算法能够处理具有缺失值的属性数据。
C4.5算法使用信息增益率作为选择最佳划分属性的标准，优化了ID3算法倾向于选择取值较多属性的问题。
C4.5算法生成的决策树具有较好的泛化能力。

3.2.4 缺点

C4.5算法在构建决策树时，需要计算每个属性的信息增益率，这可能导致计算量较大。
C4.5算法在处理大规模数据集时，可能受到内存限制的影响。
C4.5算法生成的决策树可能不够简洁，需要进一步进行剪枝和优化。

3.3 CART（Classification and Regression Trees）算法

CART（Classification and Regression Trees）算法原理主要包括分类树的构建和回归树的构建。

3.3.1分类树构建

CART分类树算法使用基尼系数（Gini Index）作为选择最优特征的标准。基尼系数代表了模型的不纯度，基尼系数越小，不纯度越低，特征越好。CART算法通过递归地将数据集划分为两个子集来构建决策树。

1.计算基尼系数：对于给定的样本集合D，其基尼系数为

$Gini(D) = 1- \sum_{k=1}^{K}p_i^2$

其中，K是类别的数量， $p_k$ 是样本属于第k个类别的概率。

2.选择最优特征：对于数据集中的每个非类别特征（属性），计算其作为划分属性的基尼系数。选择基尼系数最小的特征作为当前节点的划分属性。

3.划分数据集：根据选定的最优特征及其阈值，将数据集划分为两个子集，并递归地在每个子集上重复步骤2和3，直到满足停止条件（如子集的所有实例都属于同一类别，或者没有特征可供划分）。

4.构建决策树：将递归过程中生成的节点和分支连接起来，形成一棵决策树。

3.3.2 回归树构建

当CART用作回归树时，其目标是通过递归地将数据集划分为两个子集来最小化平方误差。

选择最优特征：对于数据集中的每个特征，计算其作为划分属性的平方误差之和。选择平方误差之和最小的特征作为当前节点的划分属性。
划分数据集：根据选定的最优特征及其阈值，将数据集划分为两个子集，并递归地在每个子集上重复步骤1和2，直到满足停止条件（如子集的平方误差之和小于预定的阈值，或者没有特征可供划分）。
构建决策树：将递归过程中生成的节点和分支连接起来，形成一棵回归树。

在CART算法中，生成的决策树通常是二叉树，即每个节点最多有两个子节点。此外，CART算法还包括剪枝策略，以避免过拟合现象。剪枝策略可以在决策树构建过程中进行（预剪枝），也可以在决策树构建完成后进行（后剪枝）。

3.3.3 CART算法的优点

计算简单，易于理解，可解释性强。
比较适合处理有缺失属性的样本。
不仅能够处理不相关的特征，还能在相对短的时间内对大型数据源得出可行且效果良好的结果。

3.3.4 CART算法缺点

不支持在线学习，即当有新的样本产生后，决策树模型需要重建。
容易出现过拟合的现象，即生成的决策树可能对训练数据有很好的分类能力，但对未知的测试数据却未必有很好的分类能力。

4 决策树的剪枝

决策树的剪枝是避免过拟合现象、提升模型泛化效果的重要手段。剪枝的基本思想是将决策树的某些内部节点或子树剪掉，使得决策树变得更加简单，从而降低过拟合的风险。

4.1 预剪枝（Pre-pruning）

在决策树构建过程中进行剪枝，通过设定一些规则，提前停止树的生长。例如，可以设定决策树的深度、当前节点的样本数量阈值、信息增益或信息增益率阈值、测试集准确性提升阈值等。当达到这些阈值时，就停止对当前节点的划分，并将其标记为叶节点。预剪枝方法能有效提升模型性能，并减少训练时间和测试时间，但采用的是贪心本质，存在欠拟合风险。

4.1.1 优点

降低过拟合风险：由于预剪枝在决策树构建过程中就进行了剪枝，因此可以避免树过深导致的过拟合问题。
减少训练时间：通过提前停止树的生长，可以减少不必要的计算和分裂，从而缩短训练时间。
简单高效：预剪枝策略相对简单，易于实现和理解。

4.1.2 缺点

欠拟合风险：如果预剪枝过于严格，可能会导致决策树过于简单，无法学习到数据的全部特征，从而产生欠拟合现象。
难以确定合适的剪枝参数：预剪枝需要设置一些参数来控制树的生长，如最大深度、最小样本数等。这些参数的选择对模型的性能有很大影响，但通常很难确定最合适的参数值。

4.2 后剪枝（Post-pruning）

在决策树构建完成后进行剪枝，从底部向上对内部节点进行考察。如果将某个内部节点替换为叶节点能带来泛化性能的提升，那么就进行替换。后剪枝的具体操作是，先构造一颗完整的决策树，然后自底向上的对非叶节点进行考察。如果将该节点对应的子树替换为叶节点后，能够提升模型的泛化能力，那么就进行替换。

4.2.1 优点

欠拟合风险小：后剪枝是在决策树完全生长后再进行剪枝的，因此可以确保学习到数据的全部特征，降低欠拟合的风险。
泛化能力较强：通过删除一些不必要的子树，后剪枝可以提高决策树的泛化能力，使其更好地适应新的、未见过的数据。

4.2.2 缺点

训练开销大：后剪枝需要先构建一棵完整的决策树，然后再进行剪枝操作，因此训练时间通常比预剪枝长。
剪枝过程可能复杂：后剪枝需要遍历整棵树，并根据某种准则来判断是否剪枝。这个过程可能比较复杂，需要更多的计算资源。

4.3 剪枝相关API

在scikit-learn库中，决策树的剪枝通常是通过设置决策树生成器的参数来实现的，特别是通过max_depth、min_samples_split、min_samples_leaf、min_weight_fraction_leaf、max_leaf_nodes等参数来控制树的生长，从而达到剪枝的效果。

max_depth: 树的最大深度。设置为一个整数，可以防止树过深。
min_samples_split: 分割内部节点所需的最小样本数。设置为一个整数，可以确保节点在进一步分割之前具有足够的样本。
min_samples_leaf: 叶节点所需的最小样本数。设置为一个整数，可以防止树产生过小的叶子节点。
min_weight_fraction_leaf: 叶节点所需的最小加权样本分数的阈值。这用于处理带权重的样本。
max_leaf_nodes: 最大叶子节点数。设置为一个整数，可以直接限制树的叶子节点数量。

这些参数可以在构建决策树时通过DecisionTreeClassifier或DecisionTreeRegressor类的初始化函数来设置。

另外，scikit-learn也提供了DecisionTreeClassifier.cost_complexity_pruning_path和DecisionTreeRegressor.cost_complexity_pruning_path方法，用于计算不同复杂度参数下的剪枝路径，但这通常需要更高级的用户进行手动剪枝。

5 决策树API

5.1 分类决策树

sklearn.tree.DecisionTreeClassifier

主要参数：

criterion: 字符串，可选 'gini' 或 'entropy'（默认='gini'）。用于分割特征的准则。'gini' 代表基尼不纯度（即cart算法），'entropy' 代表信息增益（即id3算法）。
splitter: 字符串，可选 'best' 或 'random'（默认='best'）。用于在每个节点选择分割的特征的策略。'best' 选择最佳分割，'random' 则随机选择。
max_depth: 整数或None（默认=None）。树的最大深度。如果为None，则树会生长到所有叶子都是纯的或者所有叶子都包含少于min_samples_split的样本。
min_samples_split: 整数或浮点数，在节点分割前所需的最小样本数（默认=2）。
min_samples_leaf: 整数或浮点数，一个叶子节点所需的最小样本数（默认=1）。
max_features: 整数、浮点数、字符串或None（默认=None）。用于在每次分割时考虑的特征的最大数量。
random_state: 整数、RandomState实例或None（默认=None）。控制随机性的参数，用于在特征选择和样本划分时的随机性。

主要方法：

fit(X, y): 使用输入数据X和标签y来训练模型。
predict(X): 使用训练好的模型对输入数据X进行预测。
score(X, y): 返回给定测试数据和标签上的平均准确度。
predict_proba(X): 对于分类问题，返回每个样本属于每个类别的概率。

5.2 回归决策树

sklearn.tree.DecisionTreeRegressor

主要参数（大部分与DecisionTreeClassifier相同）：

criterion: 字符串，可选 'mse'、'friedman_mse'、'mae'（默认='mse'）。用于分割特征的准则。'mse' 代表均方误差，'friedman_mse' 是改进版的均方误差，'mae' 代表平均绝对误差。

主要方法（与DecisionTreeClassifier相同）：

fit(X, y): 使用输入数据X和目标值y来训练模型。
predict(X): 使用训练好的模型对输入数据X进行预测。
score(X, y): 返回给定测试数据和目标值上的R^2得分。

6 代码实现

# 导包
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier,plot_tree
from sklearn.metrics import classification_report

# 1.导入数据
tatan_data = pd.read_csv('data/train.csv')
print(tatan_data.info())


# 2.数据预处理
x = tatan_data[['Pclass', 'Age', 'Sex']]
y = tatan_data['Survived']
x = pd.get_dummies(x)
print(x.info)
x.fillna(x['Age'].mean(),inplace=True)
x_trian,x_test,y_train,y_test = train_test_split(x,y,train_size=0.8,random_state=1)

# 4。模型训练
dt = DecisionTreeClassifier(criterion='gini')
dt.fit(x_trian,y_train)
# 5. 模型评估
print(dt.score(x_test, y_test))

# 6.模型预测
y_ptedict = dt.predict(x_test)
print(classification_report(y_true=y_test, y_pred=y_ptedict))
# 7。可视化-可视化树结构
plt.figure(figsize=(30,20))
plot_tree(dt,filled=True,max_depth= 5,feature_names=['Pclass', 'Age', 'Sex_female', 'Sex_male'],
class_names=['died', 'survived'])
plt.show()