上一篇博客自动驾驶背后的数学:特征提取中的线性变换与非线性激活 以单个传感器为例,讲解了特征提取中的线性变换与非线性激活。 这一篇将以多模态传感器融合为例,讲解稍复杂的线性变换和非线性激活应用场景。
(一)权重矩阵的张量积分解
y = W x + b = [ w 11 ⋯ w 1 n ⋮ ⋱ ⋮ w m 1 ⋯ w m n ] [ x 1 ⋮ x n ] + [ b 1 ⋮ b m ] \mathbf{y} = W\mathbf{x} + \mathbf{b} = \begin{bmatrix} w_{11} & \cdots & w_{1n} \\ \vdots & \ddots & \vdots \\ w_{m1} & \cdots & w_{mn} \end{bmatrix} \begin{bmatrix} x_1 \\ \vdots \\ x_n \end{bmatrix} + \begin{bmatrix} b_1 \\ \vdots \\ b_m \end{bmatrix} y=Wx+b=
w11⋮wm1⋯⋱⋯w1n⋮wmn
x1⋮xn
+
b1⋮bm
W = [ 0.2 − 0.1 0.3 0.4 0.6 − 0.2 − 0.5 0.3 0.1 ] , b = [ 0.1