GNN笔记系列 5
- 1.Permutation Equivariance of Graph Filters
- 2.Lipschitz and Integral Lipschitz Filters
- 3.Stability of Graph Filters to Scaling
- 4.Stability of Graph Neural Networks to Scaling
1.Permutation Equivariance of Graph Filters
图滤波器的置换等价性
引入置换矩阵的概念来表示图信号及其移位算子的置换。
上面的1表示元素全为1的向量。
置换并没有改变节点的值,只是改变了节点的名称。这个过程是独立于标签的,所以置换等价,这是图卷积滤波和GNNs所满足的一个要求。
在图信号
(
S
,
x
)
(S,x)
(S,x)和
(
S
^
,
x
^
)
=
(
P
T
S
P
,
P
T
x
)
(\hat S,\hat x)=(P^TSP,P^Tx)
(S^,x^)=(PTSP,PTx)上的图滤波器
H
(
S
)
H(S)
H(S),它是由系数
h
k
h_k
hk对移位算子
S
S
S作用的多项式函数。它的表达式如下:
置换前后,缩放系数是不变的,输入信号由
x
x
x变为
x
^
\hat x
x^,移位算子由
S
S
S变为
S
^
\hat S
S^.
图滤波器的等价置换定理
图卷积滤波要求图信号的处理独立于节点的标签。
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
---------------------------
−−−−−−−−−−−−−−−−−−−−−−−−−−−GNNs继承了图滤波器的置换等价性。
GNNs的等价置换定理
距离模置换算子的定义:
2.Lipschitz and Integral Lipschitz Filters
图过滤器是GNNs的可学习参数。接下来讨论Lipschitz和Lipschitz滤波器。
Lipschitz 滤波器的定义:
Integer Lipschitz 滤波器的定义:
对于integral Lipschitz 滤波器:
3.Stability of Graph Filters to Scaling
分析图滤波器对移位算子缩放扰动的稳定性:
给出以下缩放:
将图的每一条边都进行缩放,缩放系数为
1
+
ϵ
1+\epsilon
1+ϵ,移位算子则变为
S
^
=
(
1
+
ϵ
)
S
\hat S=(1+\epsilon)S
S^=(1+ϵ)S.
这个缩放是合理的,因为边的变化与其值成比例。但是又不现实:因为所有的边都在以同样的比例变化。但是它依旧是合理的。
以下定理给出结论:Integral Lipschitz 图滤波器对缩放是稳定的。
4.Stability of Graph Neural Networks to Scaling
分析GNNs对移位算子缩放的稳定性。
首先做出几个基本假设:
1.在GNNs的每一层,构成相应感知器的滤波器已经被标准化为单位算子范数。
因为图滤波器在GFT域上是逐点的,所以这个条件等价于频率响应的最大值为1。
2.非线性
σ
\sigma
σ是Lipschitz,其Lipschitz常熟标准化为1。
以下定理给出结论:Integral Lipschitz GNNs对缩放是稳定的。
GNNs既稳定又有判别能力,这说明了GNNs相对于线性图滤波器有更好的性能。