目录
计算机视觉任务
1.K近邻算法
2.得分函数
3.损失函数的作用
4.向前传播整体流程
5.反向传播计算方法
计算机视觉任务
机器学习的流程：
-
数据获取
-
特征工程
-
建立模型
-
评估与应用
计算机视觉：
图像表示：计算机眼中的图像，而一张图片被表示为三维数组的形式，每个像素的值从0到255。
计算机视觉面临的挑战：照射角度、形状改变、部分遮蔽和背景混入
1.K近邻算法
K(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：在特征空间中，如果一个样本附近的k个最近(即特征空间中最邻近)样本的大多数属于某一个类别，则该样本也属于这个类别。
K近邻计算流程：
-
计算已知类型数据集中的点与当前点的距离
-
按照距离依次排序
-
选取与当前点距离最小的K个点
-
确定前K个点所在的类别的出现概率
-
返回前K个点出现频率最高的类别作为当前点预测分类
数据库样例：CIFAR-10
数据库简介：
10类标签、50000个训练数据、10000个测试数据、大小均为32*32
图像的距离计算方式实际上与矩阵的加减法很相似。
K近邻的局限性：不能用来图像分类，因为背景主导是一个最大的问题，我们关注的是主体（主要成分）
2.得分函数
根据得分函数，计算出每个输入的类别得分如下：我们只有类别的得分并不能评判分类效果,损失函数便是用来评估分类效果的好坏程度。
线性函数：从输入--->输出的映射
f(x, W) = Wx
得分函数公式是一种用来描述某种情况下得分的计算方式，一般用于评分、评价等方面。得分函数公式通常由多个参数组成，每个参数代表一种影响因素，通过对这些参数进行加权运算得出最终得分。
3.损失函数的作用
损失函数（loss function）是将随机事件或其有关随机变量的取值映射为非负实数的函数。
在机器学习中，损失函数用于度量模型预测结果和真实结果之间的差距，通常是越小越好。比如在回归问题中，可以使用均方误差（MSE）和平均绝对误差（MAE）等作为损失函数；在分类问题中，可以用交叉熵（CrossEntropy）作为损失函数，或者用二分类问题的二元交叉熵（BCELoss）等。
矩阵来源是优化而来的结果。
神经网络的作用是通过适合的矩阵Wi来处理相应的问题。
做不同任务就是损失函数的不同。
损失函数其实有很多，我们需要的是一个最贴近实际的函数形式。
损失函数：
这里的1相当于是一个近似值的估计。
虽然这两个模型的损失函数值相同，模型A考虑的是局部，模型B考虑的是全局，它们两的侧重方向是不一样的，只是结果恰好相同而已。
损失函数=数据损失+正则化惩罚项(R(W))
我们总是希望模型不要太复杂，过拟合的模型是没有用的。
4.向前传播整体流程
正向传播算法，也叫前向传播算法，顾名思义，是由前往后进行的一个算法。
Softmax分类器
现在我们得到的是一个输入的得分值，但如果给我一个概率值岂不更好！
如何把一个得分值转换成一个慨率值呢？
这和数学建模有共同之处，往往能除以一个相近的函数就能得到一个概率值。
归一化和计算损失值
向前传播：
5.反向传播计算方法
举一个例子：
它的函数式是：f(x,y,z) = (x+y)z
q=x+y f=q*z
想要求的值：f对x的偏导，f对y求偏导，f对z求偏导。
这就是我们在高数中学到的链式法则，梯度是一步一步传播的
我们所看到的绿色线就是我们上一部分向前传播计算，红色的部分会把上一次的梯度携带到下一层的反向传播的计算中。
反向传播算法，简称BP算法，适合于多层神经元网络的一种学习算法，它建立在梯度下降法的基础上。BP网络的输入输出关系实质上是一种映射关系：一个n输入m输出的BP神经网络所完成的功能是从n维欧氏空间向m维欧氏空间中一有限域的连续映射，这一映射具有高度非线性。它的信息处理能力来源于简单非线性函数的多次复合，因此具有很强的函数复现能力。这是BP算法得以应用的基础。
