1. 图上的公平性问题

图在现实世界中无处不在，例如知识图谱，社交网络和生物网络。近年来，图神经网络( graph neural networks，GNNs ) 在图结构数据建模方面表现出了强大的能力。一般地，GNNs采用消息传递机制，通过迭代地聚合邻居节点的表示来更新节点的表示。得到的表示同时保留了节点属性和局部图结构信息，便于各种下游任务，如节点分类和链接预测。尽管GNNs表现优异，但最近的研究表明，GNNs倾向于从训练数据中继承偏见，这可能导致对敏感属性的偏见预测，例如年龄、性别和种族。此外，GNNs的消息传递机制和图结构会放大偏见。例如，在社交网络中，同一种族的节点更有可能相互连接。GNNs的消息传递会使链接节点的表示相似，导致节点表示与种族高度相关，从而产生有偏预测。有偏预测引起了伦理和社会角度的关注，这严重限制了GNNs在高风险决策系统中的应用，如求职者排名和犯罪预测。因此，近年来许多工作致力于解决图上的公平性问题。

2. 相关工作介绍

2.1 Say No to the Discrimination: Learning Fair Graph Neural Networks with Limited Sensitive Attribute Information

论文来源：2021年 ACM International Conference on Web Search and Data Mining（CCF-B）

论文代码：https://github.com/EnyanDai/FairGNN

Motivation

1. 现有公平性的研究主要针对的是独立同分布的数据，由于没有同时考虑节点属性和图结构的偏差，因此无法直接应用于图数据。
2. 现有工作很少考虑敏感属性中稀疏标注的实际场景。

研究在敏感属性信息有限的情况下学习公平GNNs的问题

Contribution

1. 研究了有限敏感信息下学习公平GNNs的一个新问题；
2. 提出FairGNN，通过预测用户的敏感属性来解决对抗性去偏和公平性约束中敏感属性的不足问题;
3. 理论分析表明，即使估计敏感属性，公平性也能达到最优值;
4. 在不同数据集上的大量实验证明了FairGNN在保持GNN高准确性的同时消除了歧视的有效性。

Method

FairGNN整体框架图

整体框架由四部分组成：一个GNN分类器 $f_{\mathcal{G}}$，一个基于GCN的敏感属性估计器 $f_E$ 以及一个对手 $f_A$ 。对手 $f_A$ 旨在从$f_{\mathcal{G}}$学习到的节点表示中预测已知或估计的敏感属性。 $f_{\mathcal{G}}$ 旨在学习可以欺骗对手 $f_A$ 做出错误预测的公平节点表示。$f_E$ 旨在为敏感属性未知的节点预测其敏感属性。

1. GNN分类器 $f_{\mathcal{G}}$：利用 $\mathcal{G}$作为输入进行节点分类
   $$\underset{{\theta }_{\mathcal{G}}}{\min }{\mathcal{L}}_C=-\frac{1}{|{\mathcal{V}}_L|}\sum _{v\in {\mathcal{V}}_L}[y_v\log {\hat{y}}_v+(1-y_v)\log (1-{\hat{y}}_v)]$$

2. 基于GCN的敏感属性评估器 $f_E$：为敏感属性未知的节点预测其敏感属性
   $$\underset{{\theta }_E}{\min }{\mathcal{L}}_E=-\frac{1}{|{\mathcal{V}}_S|}\sum _{v\in {\mathcal{V}}_S}[s_v\log {\hat{s}}_v+(1-s_v)\log (1-{\hat{s}}_v)]$$

3. 对手 $f_A$旨在通过从节点表示 $f_{\mathcal{G}}$ 中预测已知或估计的敏感属性$f_E$。给定节点$v$的表示 $h_v$ 作为 $f_A(h_v)$，对手 $f_A$ 试图预测其敏感属性 ${\hat{s}}_v$ ；而 $f_{\mathcal{G}}$ 旨在学习节点表示 $h_v$，使对手 $f_A$ 无法区分节点 $v$ 属于哪个敏属性感组。
   $$\underset{{\theta }_{\mathcal{G}}}{\min }\underset{{\theta }_A}{\max }{\mathcal{L}}_A={\mathbb{E}}_{\mathrm{h}\sim p(\mathrm{h}|\hat{\mathrm{s}}=1)}[\log (f_A(\mathrm{h}))]\text{+}{\mathbb{E}}_{\mathrm{h}\sim p(\mathrm{h}|\hat{\mathrm{s}}=0)}[\log (1-f_A(\mathrm{h}))]$$

4. 协方差约束：进一步提升对抗去偏过程的稳定性。最小化用户敏感属性之间的绝对协方差和用户特征到公平线性分类器决策边界的符号距离。
   $${\mathcal{L}}_R=|\mathrm{Cov}(\hat{s},\hat{y})|=|\mathbb{E}[(\hat{s}-\mathbb{E}(\hat{s}))(\hat{y}-\mathbb{E}(\hat{y}))]|$$

2.2 Towards a Unified Framework for Fair and Stable Graph Representation Learning

论文来源：2021年 International Conference on Uncertainty in Artificial Intelligence（CCF-B）

论文代码：https://github.com/HongduanTian/NIFTY

Motivation

最近的研究将GNN中的公平性和稳定性视为独立的问题，并提出了独立的解决方案。因此，现有工作都是独立研究公平性或稳定性的问题，并没有探究它们之间更深层次的联系。

探究一个统一的框架来共同优化GNNs的公平性和稳定性

Contribution

1. 首次确定反事实公平与稳定性之间的关键联系。
2. 利用上述联系提出了NIFTY，它可以与任何现有的GNN模型一起使用，以学习公平且稳定的节点表示。
3. 利用利普希茨常数进行分层权归一化，提出了一种改进神经信息传递的新方法。
4. 我们介绍并实验了三个新的图形数据集，包括刑事司法中的关键决策以及金融借贷等领域。

Method

NIFTY整体框架图

NIFTY通过最大化来自不同增广视图的表示之间的相似性来学习公平且稳定的节点表示。

反事实公平性的定义：对于任意给定的节点 $u$，如果满足以下条件，则编码器函数 $ENC$ 满足反事实公平性:
$$\mathrm{ENC}(u)=\mathrm{ENC}({\tilde{u}}^s)$$
其中，${\tilde{u}}^s$ 是增广图中的一个节点，它是通过修改/翻转节点 $u$ 的敏感属性 $s$ 的值而生成的，同时保持其他所有内容不变。

稳定性的定义：根据利普希茨连续性的概念，如果满足以下条件，编码器函数 $ENC$ 被认为是稳定的：
$$||\mathrm{ENC}(\tilde{u})-\mathrm{ENC}(u)|{|}_p\le L||{\tilde{\mathbf{b}}}_u-{\mathbf{b}}_u|{|}_p$$
其中，$\tilde{u}$ 是通过扰动 $u$ 的属性值和/或关联边生成的增广图中的一个节点，${\tilde{\mathbf{b}}}_u$ 和 $b_u$ 分别捕获节点 $\tilde{u}$ 和 $u$ 的属性和关联边信息，$L$ 为Lipschitz常数。

在分别构造用于公平性与稳定性的增广视图后，为了学习公平且稳定的节点表示，基于Siamese网络，设计如下Loss函数来最大化来自不同增广视图的表示之间的相似性：
$${\mathcal{L}}_s={\mathbb{E}}_u\left[\frac{1}{2}\right(D(t({\mathbf{z}}_u),\mathbf{sg}({\tilde{\mathbf{z}}}_u))+D(t({\tilde{\mathbf{z}}}_u),\mathbf{sg}({\mathbf{z}}_u))\left)\right]$$

为了进一步确保下游任务的性能，在增加二元交叉熵损失函数 ${\mathcal{L}}_c$，最终整体loss如下：

$$\underset{{\theta }_{\mathrm{ENC}},{\theta }_t,{\theta }_f}{\min }{\mathbb{E}}_u\left[(1-\lambda ){\mathcal{L}}_c\right]+\lambda {\mathcal{L}}_s$$

其中，正则化系数 $\lambda$ 控制下游节点分类损失 ${\mathcal{L}}_c$ 和 公平稳定目标损失 ${\mathcal{L}}_s$ 之间的权衡。

为了进一步在GNN结构中强制公平与稳定，对每层消息传递网络执行层级归一化：
$${\tilde{\mathbf{W}}}_a^k={\mathbf{W}}_a^k/\sigma \left({\mathbf{W}}_a^k\right)$$

2.3 Learning Fair Node Representations with Graph Counterfactual Fairness

论文来源：2022年 ACM International Conference on Web Search and Data Mining（CCF-B）

论文代码：https://github.com/jma712/GEAR

Motivation

现有的反事实公平仅仅简单考虑翻转敏感属性的值来生成反事实样本，忽视了两个可能导致偏见的事实：

1. 每个节点的敏感属性可能因果地影响当前节点的预测；
2. 当前节点的敏感属性可能因果地影响其它特征或者图结构

研究考虑上述两种偏见（即每个节点及其邻居的敏感属性的潜在偏见以及敏感属性对非敏感属性的因果效应所导致的偏见）的图反事实公平表示学习

Contribution

1. 提出了一个新的公平概念——图反事实公平，它考虑了从敏感属性到图模型预测的不同因果路径所带来的潜在偏差。
2. 提出了GEAR来学习图反事实公平性的节点表示。具体来说，对于每个节点，我们最小化了从原始数据中学习到的表示与具有不同敏感属性值的增广反事实之间的差异。
3. 在合成图和真实世界图上进行了广泛的实验。结果表明，所提出的方法在多个公平性概念上优于现有的基线，并且在下游任务中取得了可比的预测性能。

Method

GEAR整体框架图

GEAR旨在学习图反事实公平性的节点表示。如图所示，GEAR主要包括三个关键部分：（1）子图生成；（2）反事实数据增广；（3）公平表示学习。在子图生成中，GEAR为每个节点提取一个上下文子图，该子图包含节点本身(中心节点)及其最近邻居的局部图结构。在反事实数据增广中，GEAR生成这些子图中节点的敏感属性被扰动的反事实。基于增广的反事实，公平表示学习组件利用Siamese网络来最小化从原始数据中学习到的表示与同一节点的反事实之间的距离。

子图生成
$$\begin{array}{c}{\mathcal{G}}^{(i)}=\left\{{\mathcal{V}}^{(i)},{\mathcal{E}}^{(i)},{\mathrm{X}}^{(i)}\right\}=\left\{{\mathrm{A}}^{(i)},{\mathrm{X}}^{(i)}\right\}\\ {\mathcal{V}}^{(i)}=\mathrm{TOP}\left({\mathrm{R}}_{i,:},k\right)\\ {\mathrm{A}}^{(i)}={\mathrm{A}}_{{\mathcal{V}}^{(i)},{\mathcal{V}}^{(i)}},{\mathrm{X}}^{(i)}={\mathrm{X}}_{{\mathcal{V}}^{(i)},:}\end{array}$$
反事实数据增广
$${\mathcal{L}}_a={\mathcal{L}}_r+\beta {\mathcal{L}}_d$$

$${\mathcal{L}}_r={\mathbb{E}}_{q(H\mid \mathbf{X},\mathrm{A})}[-\log (p(\mathbf{X},\mathrm{A}\mid H,\mathrm{S}))]+\mathrm{KL}[q(H\mid \mathbf{X},\mathrm{A})\Vert p(H)]$$

$${\mathcal{L}}_d=\sum _{b\in [B]}\mathbb{E}[\log (D(\mathbf{H},b))]$$

公平表示学习
$$\mathcal{L}={\mathcal{L}}_p+\lambda {\mathcal{L}}_f+\mu \Vert \theta {\Vert }^2$$

$${\mathcal{L}}_p=\frac{1}{n}\sum _{i\in [n]}l\left(f\left({\mathrm{z}}_i\right),y_i\right)$$

$${\mathcal{L}}_f=\frac{1}{|\mathcal{V}|}\sum _{i\in \mathcal{V}}\left(\left(1-{\lambda }_s\right)d\left({\mathrm{z}}_i,{\overline{\mathrm{z}}}_i\right)+{\lambda }_{s}d\left({\mathrm{z}}_i,{\underline{\mathbf{z}}}_i\right)\right)$$

$$\begin{array}{c}{\mathbf{z}}_i={\left(\varphi \left({\mathbf{X}}^{(i)},{\mathbf{A}}^{(i)}\right)\right)}_i\\ {\overline{\mathbf{z}}}_i=\mathrm{AGG}\left(\left\{{\left(\varphi \left({\mathbf{X}}_{S_i\leftarrow 1-s_i}^{(i)},{\mathbf{A}}_{S_i\leftarrow 1-s_i}^{(i)}\right)\right)}_i\right\}\right)\\ {\underline{\mathbf{z}}}_i=\mathrm{AGG}\left(\left\{{\left(\varphi \left({\mathbf{X}}_{S_{\neg i}^{(i)}\leftarrow \mathrm{SMP}\left({\mathrm{S}}_{\neg i}^{(i)}\right)}^{(i)},{\mathbf{A}}_{S_{\neg i}^{(i)}\leftarrow \mathrm{SMP}\left({\mathrm{S}}_{\neg i}^{(i)}\right)}^{(i)}\right)\right)}_i\right\}\right)\end{array}$$

2.4 Learning Fair Graph Representations via Automated Data Augmentations

论文来源：2023年 International Conference on Learning Representations

论文代码：https://github.com/divelab/DIG

Motivation

现有方法总是依赖于对公平图数据属性的某些假设，以设计固定的数据增广策略。然而，公平图数据的确切属性在不同情况下可能会有很大差异，所以这些方法并不能在所有数据集上始终如一地取得良好的性能。因此，启发式设计的增广可能并不总是在不同的应用场景中生成公平的图形数据。

研究自动化的图数据增广来学习公平的表示。

Contribution

1. 提出了一种用于公平图表示学习的自动图增广框架Graphair。
2. 为了提升模型的公平性，采用对手模型从增广图数据中预测敏感属性。为了确保下游性能，利用对比学习来保留原始图中的有用信息，以最大限度地提高原始图和增广图之间的一致性。
3. 实验结果表明，在多个节点分类数据集上，Graphair在公平-准确性权衡性能方面始终优于许多基线。

Method

Graphair整体框架图

包括三个可学习的模型，分别是GNN编码器 $f$, 数据增广模型 $g$ 以及对手模型 $k$，整体优化目标如下：
$$\underset{f,g}{\min }\underset{k}{\max }L=\underset{f,g}{\min }\underset{k}{\max }\alpha L_{\text{adv}}+\beta L_{\text{con}}+\gamma L_{\text{reconst}}$$

数据增广模型 $g$:

• 对边的扰动：
  $$Z_A=\mathrm{ML}{P}_A(Z),\widetilde{A^{\prime }}=\sigma \left(Z_A{Z}_A^T\right),A_{ij}^{\prime }\sim \mathrm{Bernoulli}\left({\widetilde{A^{\prime }}}_{ij}\right)\mathrm{for}i,j=1,\cdots ,n$$

• 对节点特征屏蔽：
  $$Z_X=\mathrm{ML}{P}_X(Z),\tilde{M}=\sigma (Z_X),M_{ij}\sim \mathrm{Bernoulli}\left({\tilde{M}}_{ij}\right)\mathrm{for}i,j=1,\cdots ,n,X^{\prime }=M\odot X$$

对手模型 $k$： $k$ 被优化以最大化敏感属性的预测精度，而 $g$ 被优化以减轻 $A^{\prime }$ 和 $X^{\prime }$ 中的偏差，使得对手模型 $k$ 难以从 $A^{\prime }$ 和 $X^{\prime }$ 中识别出敏感属性信息。
$$\underset{g}{\min }\underset{k}{\max }{L}_{\text{adv}}=\underset{g}{\min }\underset{k}{\max }\frac{1}{n}\sum _{i=1}^n\left[S_i\log {\hat{S}}_i+(1-S_i)\log \left(1-{\hat{S}}_i\right)\right]$$
仅使用对抗性训练可能会导致增强模型 $g$ 崩溃为平凡的解决方案。例如，$g$ 可以学习总是生成一个完全图，并将所有节点特征设置为零，其中不包含偏差，因为所有节点都是等效的。这种增广图根本没有信息量，因为它们失去了输入图中的所有信息。为了在生成的图中保留输入图中信息量最大的部分，在训练过程中还使用了对比学习目标，对比目标的节点对损失函数如下：
$$l(h_i,h_i^{\prime })=-\log \frac{\exp \left(\sin (h_i,h_i^{\prime })/\tau \right)}{{\sum }_{j=1}^n\exp \left(\sin (h_i,h_j^{\prime })/\tau \right)+{\sum }_{j=1}^n{1}_{[j\ne i]}\exp \left(\sin (h_i,h_j)/\tau \right)}$$

$$L_{\text{con}}=\frac{1}{2n}\sum _{i=1}^n\left[l(h_i,h_i^{\prime })+l(h_i^{\prime },h_i)\right]$$

为了防止增强模型 $g$ 生成的图与输入图偏差过大，在整体训练目标中添加了一个基于重构的正则化项，基于重建的正则化项损失函数如下：
$$\begin{gathered} L_{\mathrm{reconst}}=L_{\mathrm{BCE}}(A,\widetilde{A^{\prime }})+\lambda L_{\mathrm{MSE}}(X,X^{\prime }) \\ =-\sum _{i=1}^n\sum _{j=1}^n\left[A_{ij}\log \right({\widetilde{A^{\prime }}}_{ij})+(1-A_{ij})\log (1-{\widetilde{A^{\prime }}}_{ij}\left)\right]+\Vert X-X^{\prime }{\Vert }_F^2, \end{gathered}$$

3. 总结

1. 大部分工作主要关注一种敏感属性，每种敏感属性也只考虑两种模态，并没有考虑数值敏感属性的情况。
2. 同时考虑不同敏感属性需要进一步研究。调查交叉公平性并不意味着提高每个属性的模型公平性，而是同时适应几个敏感属性，如年龄和性别，我们需要确保模型对像年轻女性这样的子群体也是公平的。
3. 现有方法主要针对的是同质图上的公平性问题，对于像异质图与二部图等图结构是否也存在公平性问题需要进一步探索。
4. 大多数公平性方法都要求修改GNNs的模型参数，对于大图模型来说并不高效。两类方法可以参考：（1）以数据集为中心的方法：在数据集层面做一定的预处理，以消除大规模数据集自身存在的偏见，从而避免大图模型学习到其中的偏见。（2）参数高效的微调：对于训练好的大图模型，利用prompt tuning、adapter tuning等参数高效的方法去提高其公平性。