如图所示,在解释为什么需要FEJ(First Estimation Jacobian)时,通常会将这个图拿出来说事。但是,很多时候只是一笔带过,这个图看的云里雾里的,不是非常明白(可能是我理解力的问题),所以,今天想专门写个笔记记录下对这张图的理解。
非线性优化中,取到最优的点就是:,它是从的泰勒展开式的倒数推导出来的,即,从这个式子可以看到,假如把的分布看成正态分布的话,就是该正态分布的,即协方差,它决定了的分布是一条直线还是一个椭圆,因为其他项是线性的,只能影响该分布的朝向、位置等,不会影响形状。
协方差代表了分布在主方向和非主方向上的方差,具体原理可以参考 CodingLabs - PCA的数学原理,如果协方差的通过特征值分解能变成
,a,b是该协方差的特征值,如果ab都不为0,它的分布就是个椭圆。否则有一个为0,它的分布就是直线。
对于,它的
,求它的特征值:
即它的特征值是0和0.7956,那么它的分布是条直线。
同理,对于,它的,它的特征值是:0和0.7956,它的分布是一条直线。
对于,它的就是对应和的的和,即,它的特征值:
太复杂了,不求了。
总之,它有两个不为0的特征值,分布是一个椭圆