目录
一、特征工程的作用
二、深度学习的应用
三、得分函数
四、损失函数
五、前向传播
六、反向传播
一、特征工程的作用
- 数据特征决定了模型的上限
- 预处理和特征提取是最核心的
- 算法与参数选择决定了如何逼近这个上限
二、深度学习的应用
- 无人驾驶
- 人脸识别
- 分辨率重构
深度学习在图像分类中，一张图片被表示为三维数组的形式，每个像素点的值为0到255
三、得分函数
线性函数:从输入-->输出的映射
数学表示:f(s,W) = Wx + b
b是一个微调参数
总共有三个类别， 四个像素点，计算权重值时(以猫为例):0.2*56+-0.5*231+0.1*24+2.0*2+1.1
四、损失函数
损失函数 = 数据损失 + 正则化惩罚项
模型A关注的是局部，而模型B关注的是全局，模型A容易产生过拟合现象
五、前向传播
有一个输入数据x和一个权重参数W，根据f = Wx计算出得分值，选择一个数据损失函数加上正则惩罚项(R(W))得到一个损失值.
六、反向传播
简单例子:
求x的结果的影响，显示f对中间变量q求偏导，然后q再对x求偏导，再相乘
