梯度

对于一个多变量函数 f(x1,x2,…,xn)，其梯度 ∇f 是一个 n 维向量，定义为：

                      

​ 是函数 f在  方向上的偏导数。

偏导数

偏导数是多元函数在某一个方向上的导数，它描述了函数在该方向上的局部变化率。偏导数的计算过程涉及对函数的每一个变量分别求导，而与其他变量保持不变。

        选择一个变量：首先，选择函数中的一个变量作为参考变量，其他变量则被视为常量。

        对参考变量求导：对参考变量求导，得到偏导数。偏导数表示函数在参考变量方向上的变化率。

        重复步骤1和2：对函数中的每个变量重复步骤1和2，得到每个变量的偏导数。

对于函数

对 x 的偏导数如下：

        ​​​​​​​        ​​​​​​​        ​​​​​​​        ​​​​​​​        

同理可解得  

导数

      

• f′(x) 是函数 f(x) 在点 x 处的导数。
• f(x+h) 是函数在 x 点附近的一点 x+h 处的值。
• f(x) 是函数在点 x 处的值。
• h 是一个趋于零的正数，表示 x+h 与 x之间的距离

这个公式表示，当我们考虑函数 f(x) 在点 x 附近的小变化 h 时，函数值 f(x+h) 与 f(x) 之差与 h 的比值趋向于一个特定的值 f′(x)。这个特定的值 f′(x) 就是函数 f(x)在点 x 处的导数，它描述了函数在该点的瞬时变化率。