第一周

1、修正线性单元ReLU

第二周、Logistic回归

1、样本矩阵X：

是一个m*nx的矩阵，表示m个样本（一个竖列代表一个样本），每个样本有nx个特征。

2、标签矩阵Y：[y1,y2,y3,ym]

m个训练样本分别对应的标签。

3、模型

X为输入样本， 为预测值输出，；

4、损失函数

定性分析：y=1时，         ，        越大损失函数越小

                  y=0时，   ，   越小顺势函数越小

为什么损失函数不用    因为是非凸的，梯度下降时可能有多个局部最优值。

5、成本函数

损失函数是针对一个样本的情况，成本函数是针对整个样本的情况，是每个样本损失函数的平均值。

6、梯度下降，迭代