分类和回归是机器学习的两个主要问题。
- 分类处理的是离散数据
- 回归处理的是连续数据
线性回归：回归
- 拟合一条线
- 预测函数：
逻辑回归：分类——找到一条线可以将不同类别区分开
- 虽然称为逻辑回归，但是实际是一种分类学习方法。是用逻辑函数将线性回归的结果映射到（0,1）值。
- 逻辑函数
- 预测函数：
逻辑回归中的参数：求解
由极大似然函数，估计得出目前结果的最大可能性。
所以对于一个样本（x，y），他的标签y的概率可以定义为：
当有m也样本时：
其中为需要求的参数。
怎样求解，不改变函数单调性的对数函数，可以把乘法变为加法，得到对数似然函数。所以可以用对数似然函数构造损失函数，然后采用梯度下降法求解。
未完
