文章目录
- 1 k近邻原理介绍
- 2 支持向量机原理
- 3 K近邻(KNN)手写字识别训练模型
- 4 手写字识别
- 5 支持向量机 进行数据分类
- 6 源代码及数据文件下载
1 k近邻原理介绍
k最近邻(k-Nearest Neighbor)算法是比较简单的机器学习算法。它采用测量不同特征值之间的距离方法进行分类。它的思想很简单:如果一个样本在特征空间中的多个最近邻(最相似〉的样本中的大多数都属于某一个类别,则该样本也属于这个类别。第一个字母k可以小写,表示外部定义的近邻数量。
简而言之,就是让机器自己按照每一个点的距离,距离近的为一类。
当 k=3时,
黑色的圆,距离最近的3个样本中,有两个红三角,一个方绿,那么黑圆归类为红三角;
当 k=5时,
黑色的圆,距离最近的5个样本中,有两个红三角,三个方绿,那么黑圆归类为方绿;
2 支持向量机原理
支持向量机(SVM)是机器学习算法