- 概述:
梯度下降是很常用的算法,它不仅被用在线性回归上和线性回归模型、平方误差代价函数。在本次,我们要将梯度下降和代价函数结合。我们将用到此算法,并将其应用于具体的拟合直线的线性回归算法里。
梯度下降算法和线性回归算法比较如图(左边梯度下降,右边是线性回归的目标函数以及代价函数):
- 计算相关公式:
对我们之前的线性回归问题运用梯度下降法,关键在于求出代价函数的导数,将右边线性回归的函数带入到左边的梯度下降算法中,即:
带入求导计算后,则算法改写成:
- 使用公式:
最后,通过这个算法公式,去不断迭代得到和,当得到的这两个参数使得代价函数为最小值,那么此时说明线性回归函数拟合成功。
参考内容:
吴恩达-机器学习
机器学习笔记