【聚类】主成分分析和 t-SNE 降维

news2024/12/26 6:24:05

在这里插入图片描述

1 主成分分析PCA

PCA 是一种线性降维技术，旨在通过选择具有最大方差的特征方向（称为主成分）来压缩数据，同时尽可能减少信息损失。

1.1 原理

在这里插入图片描述

1.2 优缺点

在这里插入图片描述

from sklearn.decomposition import PCA
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits

# 加载数据集
digits = load_digits()
X = digits.data
y = digits.target

# PCA 降维到 2 维
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X)

# 可视化
plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y, cmap='Spectral', s=15)
plt.colorbar()
plt.title("PCA 降维结果")
plt.xlabel("主成分1")
plt.ylabel("主成分2")
plt.show()

在这里插入图片描述

2. t-Distributed Stochastic Neighbor Embedding

t-SNE 是一种非线性降维方法，主要用于高维数据的可视化。它通过保留局部相邻点间的关系，将高维数据映射到低维空间。

2.1 原理

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/c703ff4be4e54573844b5a2c3c895486.png

2.2 优缺点

在这里插入图片描述

from sklearn.manifold import TSNE
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits

# 加载数据集
digits = load_digits()
X = digits.data
y = digits.target

# t-SNE 降维到 2 维
tsne = TSNE(n_components=2, random_state=42, perplexity=30, n_iter=1000)
X_tsne = tsne.fit_transform(X)

# 可视化
plt.scatter(X_tsne[:, 0], X_tsne[:, 1], c=y, cmap='Spectral', s=15)
plt.colorbar()
plt.title("t-SNE 降维结果")
plt.show()