正定矩阵

在线性代数里，正定矩阵 (positive definite matrix) 有时会简称为正定阵。
广义定义：设M是n阶方阵，如果对任何非零向量z，都有${\vec{z}}^{T}M\vec{z}>0$，则称M为正定矩阵。
狭义定义：一个n阶的实对称矩阵M是正定的的条件是当且仅当对于所有的非零实系数向量z，都有${\vec{z}}^{T}M\vec{z}>0$。

• 若A是正定矩阵，则A的逆矩阵也是正定矩阵
• 若A是正定矩阵，则存在实可逆矩阵C使得$A=C^{T}C$

矩阵的1/2次方

求矩阵A的1/2次方的前提是A为正定阵，这时A一定相似于主对角元素都为正数的对角阵，也就是说：存在可逆阵P，使得$P^{-1}AP=\Lambda =dia({\lambda }_1,{\lambda }_2,...,{\lambda }_n)$是对角阵。取$B=P\cdot diag(\sqrt{{\lambda }_1},\sqrt{{\lambda }_2},...,\sqrt{{\lambda }_n})P^{-1}$，则$B^2=A$，即$B=A^{1/2}$。

矩阵的-1/2次方

同上，再对$B^{1/2}$求逆。

拉普拉斯矩阵

拉普拉斯矩阵(Laplacian matrix) 也叫做导纳矩阵、基尔霍夫矩阵或离散拉普拉斯算子，主要应用在图论中，作为一个图的矩阵表示。

D:度矩阵，A:邻接矩阵，L:拉普拉斯矩阵
Combinatorial Laplacian: $L=D-A$

图神经网络中常用的是正则化拉普拉斯矩阵 Symmetric normalized Laplacian：$L=D^{-1/2}L{D}^{1/2}$，这种代数形式和原本形式的区别是相当于做了一个归一化处理，具体到元素是(拉普拉斯矩阵的元素级的定义)：

随机游走归一化拉普拉斯矩阵 Random walk normalized Laplacian
$$L^{rw}=D^{-1}L$$

---

为什么GCN要用拉普拉斯矩阵？
(1)拉普拉斯矩阵是对称矩阵，可以进行特征分解（谱分解）；
(2)拉普拉斯矩阵只在中心顶点和一阶相连的顶点上(1-hop neighbor)有非0元素，其余之处均为0；
(3)通过拉普拉斯算子与拉普拉斯矩阵进行类比。

• L是半正定矩阵（每个特征值${\lambda }_i\ge 0$）
• L的每一行每一列的和为0
• L的最小特征值为0。

Reference

1.图神经网络——(2)图卷积神经网络
2. 拉普拉斯算子和拉普拉斯矩阵
3. 理解图的拉普拉斯矩阵
4. GNN入门之路: 01.图拉普拉斯矩阵的定义、推导、性质、应用
5. 图谱论学习—拉普拉斯矩阵背后的含义