一、深度学习概念
1、定义
通过训练多层网络结构对位置数据进行分类或回归，深度学习解决特征工程问题。
2、深度学习应用
- 图像处理
- 语言识别
- 自然语言处理
在移动端不太好，计算量太大了，速度可能会慢
eg.医学应用、自动上色
3、例子
使用k最近邻进行判断时，背景主导是最大的问题，因为我们关注的是主体（主要成分）
二、神经网络基础
1、线性函数
例如输入一个小猫图片，通过
f
(
x
,
W
)
f(x,W)
f(x,W)得到每个类别的得分：
f
(
x
,
W
)
f(x,W)
f(x,W)中每个像素点的权重参数不同：
10
10
10：10种分类
b
b
b：偏置项（微调操作）
w
w
w：权重参数
2、损失函数
正则化惩罚项：减轻某个及其突出特征的重要性
损失函数=数据损失+正则化惩罚项
3、Softmax分类器
我们关注属于正确类别概率值，越接近于1，损失越小，因此用对数函数求损失值。
e
x
ex
exp：
e
x
e^{x}
ex次方，用于放大映射
n
o
r
m
a
l
i
z
e
normalize
normalize：归一化
L
i
L_i
Li：实际损失值
