本文ppt来自深蓝学院《机器人中的数值优化》
目录
1 函数高阶信息的介绍
2 函数高阶信息的计算
1 函数高阶信息的介绍
hessian矩阵是对称矩阵,最后一个公式是函数关于0的泰勒展开
负梯度是函数下降的最快方向
注意区分Hessian矩阵与Jacobian矩阵,Hessian矩阵对应的函数是向量映射到标量,矩阵元素是二阶信息,而Jacobian矩阵对应的函数是向量映射到向量,矩阵元素是一阶信息。
2 函数高阶信息的计算
上述几种不同的高阶信息是由于函数映射中X、Y的不同类型导致导数的形式不同
Matrix calculus - HandWiki 此为该数学网站的网址
用两种方法计算梯度,一种是元素法,一种是向量法