第一章.机器学习基本概念
1.1 第一章.机器学习基本概念
机器学习的本质就是:寻找一个函数。
1.不同种类的函数
1).Regression:The function outputs a scalar
说明:根据今天的PM2.5的一些参数来预测明天PM2.5值
2).Classification:Given option(classes),the function outputs the correct one.
说明:分类邮件是否为垃圾邮件。分类问题可以有两个及两个以上的选项
3).Structed Learning:Creact something with struction(image,document)
说明:创造一个结构
2.寻找这个函数的方法:
1).写出一个带有未知参数的函数:
·以YouTube当天的点阅量为例::
·y=f(
);
简写成: y=b+wx1
参数说明:
y:预测值-明天的点阅量
x:输入参数值-今天的点阅量
w:未知的参数,权重(weight)
b:未知的参数,偏置(bias)
2).定义一个训练数据集的损失函数::
·L(0.5k,1) y=b+wx1—>y=0.5k+1x1
·图像说明:通过2017/01/01日的点阅量(4.8k)来预测2017/01/02的点阅量,在与实际的点阅量(4.9k)做差,误差值记为e1,分别计算3年的误差,计算所有误差值的均值,即为Loss值
·两种loss是计算方式:
3).解决一个最佳化的问题:
·w*,b*=arg min(w,b)L:
·假设我们只考虑一个参数:w*=arg min(w)L,带入不同的w,得到不同的w,曲线如下:
·不断更新w值:
·结果
3.激活函数:
1).Sigmoid 函数:
参数说明:通过调整w,b参数创建不同的曲线
·function:
··更有弹性的函数:
··实例:
··简化成矩阵:
··简洁的表示方法:
·Loss:
·Optimization of New Model:
2).ReLU 函数:
··函数: