记录学习 北京邮电大学计算机学院 鲁鹏
为什么从线性分类器开始?
形式简单、易于理解
通过层级结构(神经网络)或者高维映射(支撑向量机)可以
形成功能强大的非线性模型
什么是线性分类器?
线性分类器是一种线性映射,将输入的图像特征映射为类别分数。
线性分类器定义
第i个类的线性分类器:
x 代表输入的d维图像向量
c 为类别个数
w
i
=
[
w
i
1
.
.
.
w
i
d
]
T
w_i = [w_{i1} ... w_{id}]^T\
wi=[wi1...wid]T
为第i个类别的权值向量,
b
i
{b_{i}}
bi 为偏置
每个类都有自己的参数w和b
For example
任务:为图片分配类别标签(汽车类、猫类、鸟类)
线性分类器决策步骤
1.图像表示成向量
2.计算当前图片每个类别的分数
3. 按类别得分判定当前图像
4.
按照矩阵来表示
CIFAR 10 数据集分类任务的分类器 W,x , b 的维度是多少?
CIFAR10有10个类别且图像大小为32x32x3,因此:
x是图像向量,其维度是3072维;
w是权值矩阵,其维度是10x3072;
b是偏置向量,其维度为10X1的向量;
f是得分向量,其维度为10X1的向量
线性分类器的权值向量
线性分类器的决策边界