本文重点
上节课我们已经知道了如何利用计算图通过链式法则来求解输出J对变量的梯度或者导数。本节课程我们将通过逻辑回归这一个具体的例子,来演示如何使用计算图完成逻辑回归的梯度下降算法。
逻辑回归
逻辑回归算法的目标函数,损失函数,代价函数,以及参数更新的方式如图所示。
具体实例
假设样本只有两个特征x1和x2,为了计算,我们需要输入参数w1、w2 和b,因此的计算公式为:
计算图如下所示:
我们用da表示dL/da,它的值为
我们用dz表示dL/dz=(dL/da)*(da/dz),它的值为