【报告】当“无线通信”遇到“图神经网络”—

转载请注明出处：小锋学长生活大爆炸[xfxuezhang.cn]

课程报告，随便做的，仅供参考~

B站视频：https://www.bilibili.com/video/BV1tM4y1v7t4/

以下格式默认为：先放图，再放文字

前面的同学介绍了传统方法和经典深度学习方法在无线通信中的应用，最后，这里我再向大家介绍一个比较新的概念——图神经网络。接下来，我就简单介绍一下图神经网络以及无线通信与图神经网络能如何结合使用。

下面将从以下四个方面展开。

由于无线通信环境的复杂性，如随机信道衰落和干扰，以及不可避免的硬件损伤所引起的非线性等情况，使得无线通信系统的数学模型有时不能准确地反映实际情况。此外，随着大规模无线通信方案(如大规模MIMO)的普及，相应的数学模型变得更加复杂，相关优化算法的计算复杂度也变得更高。

此外，由于各种神经网络模型具有强大的表示能力和较低的推理复杂度。因此，机器学习ML技术，特别是深度学习(DL)技术在自然语言处理(NLP)和计算机视觉(CV)等其他领域取得了巨大的成功。

基于以上两点，近年来，越来越多的研究者开始采用机器学习的方法来研究无线通信中的挑战性问题，例如无线电资源管理、通道估计、联合源通道编码等，并取得了不错的性能提升。

随着人们对更高服务质量(QoS)的需求不断增加和大数据的爆炸式增长，基于机器学习和深度学习的无线技术逐渐成为第六代无线通信的主流，并超越了传统的基于模型的设计范式。

开发基于深度学习的方法有两种不同的方法。

第一种是数据驱动的方法，通过使用神经网络代替传统的构建块，从而直接学习问题的最优输入输出映射。

第二种是模型驱动的方法，将神经网络用来代替经典算法中的一些策略。

对于这两种范式，一个基本的设计组件是底层神经架构，它控制着训练和泛化的性能。

早期的尝试采用即插即用的方法，并采用继承自计算机视觉等应用的神经架构，例如，多层感知器或卷积神经网络。

尽管这些经典架构在小规模无线网络上实现了近乎最佳的性能和快速执行；但当用户数量变大时，性能就会出现严重的下降。

更具体的来说。

神经网络通常需要大量的训练样本。然而，在一般的无线通信系统中，训练样本通常比较难收集。同时，过多的训练样本会增加训练过程的内存消耗和时间消耗。

其次，对于大多数现有的工作，神经网络模型的结构高度依赖于系统的大小，例如天线/用户的数量。而且5G及以上网络通常具有密集部署的接入点、数百个客户端以及动态变化的客户端数量和信噪比等特点，这使得应用基于MLP或基于CNN的方法无效。

最后，大多数现有的基于机器学习的无线算法都是集中式的，可能存在高信令成本、低可扩展性和灵活性、计算限制以及单点故障等问题。

因此，这些神经网络模型缺乏泛化能力，不能用于系统规模变化的情况。我们需要寻找一些新的方法来应对这些问题。

为了提高可扩展性和泛化能力，一个有前途的方向是设计专门用于无线网络的神经网络体系结构。最近的一个尝试是使用图神经网络，它可以利用无线网络的图拓扑信息。基于GNN的方法在资源管理、端到端通信、MIMO检测等应用中都取得了不错的成果。

比如，对于波束形成问题，在拥有50个用户的网络上训练的GNN能够在拥有1000个用户的更大网络中获得近乎最佳的性能。

由于可以并行执行，GNN的计算效率很高，并且是迄今为止能够在毫秒内为数千个用户找到近乎最佳的波束形成器的唯一方法。

此外，gnn比其他神经网络模型更有效地利用图信息，特别是图拓扑信息，这可以减少所需的训练样本数量，并提升模型性能。

其次，gnn可以处理不同大小的输入图。此外，gnn的操作自然是去中心化的，这对大规模无线通信系统很有吸引力。

而且，GNN 是最强大的 DMP(动态马尔可夫决策过程) 算法，也就是说，只要选择合适的可学习权值，GNN可以表示任何 DMP 算法。这也从算法的角度证明了在无线网络中采用 GNN 是合理的。

因此，将GNN应用于无线通信技术中，是一个非常有前途的方向。

既然图这么强大，那什么是图。

图是用于表示点与点之间存在某种关系的结构，是一个很悠久又很经典的数据结构。图可以用来建模为很多结构，比如用来表示分子结构、文字、社交网络、以及图生成等等。

以图片为例，常规的图片由排列整齐的像素点组成，如果将其中的部分节点提取出来，就构成了一个抽象度更高的Graph，并且节点之间保持了拓扑关系。

图由节点集合和边集合表示。

在无线通信的上下文中，节点可以为表示用户、AP、天线、基站、边缘设备等，节点特征是该节点的属性(例如，节点的重要性)。

边可以表示为通信链路、干扰链路或某些连接模式等，而边特征是该边的属性(例如，信道状态信息)。

图神经网络GNN是一种用于处理图数据的机器学习模型，建立在传统神经网络的基础上，通过考虑节点之间的连接关系来对图数据进行建模和分析。它的基本思想是通过迭代地更新节点的表示，将节点的邻居信息进行聚合，然后将聚合结果作为节点新的表示。因此，节点的表示将会逐步融入更广阔的上下文信息，从而提高对节点的理解和表示能力。

GNN模型由一个或多个层组成，而GNN模型的训练主要包括聚合操作和组合操作。在聚合步骤中，聚合函数用于为每个目标顶点聚合来自前一个GNN层的传入相邻顶点的特征向量。在组合步骤中，组合函数使用神经网络操作变换每个顶点的聚合特征向量。最终的嵌入向量可以输入到其他机器学习技术中(例如，多层感知和强化学习，以进一步进行节点级的分析，例如设备的开/关预测。或者边级的分析，比如预测链路的拥塞状态。此外，所有节点的嵌入向量还可以总结成一个图级嵌入向量，用于图级任务，如网络的吞吐量预测。

经过粗略统计，近年来，GNN在谷歌学术上的文章量呈指数级增涨，预计2023年将可能达到3636篇。

下面介绍几个相关的比较新的工作。

第一个是将图神经网络用在大规模MIMO网络的信道跟踪上。

针对高移动性场景下的大规模多输入多输出网络，研究提出了一种基于GNN的大规模MIMO时变信道的在线CSI预测方案。首先利用少量导频来实现初始信道估计。然后将得到的信道数据以图形的形式表示出来，并通过沿图形边缘的权重来描述信道的空间相关性。并且设计了一个基于GNN的信道跟踪框架，该框架包括一个编码器、一个核心网络和一个解码器。

然后在仿真实验中对所提出的系统进行了评估。除了表中GNN框架的参数，还设置BS处天线数为32，信道衰减服从复高斯分布，路径数为20，到达方向角服从在[−π，π]上的均匀分布，采样时间为0.02ms，载波频率为3 GHz，天线间距为λ/2。

最后的实验表明，基于GNN的方法在所有对比实验中，取得了最好的结果，特别是在高信噪比区域。在移动场景下，也一直保持着优势。

这个是将图神经网络用于用户的调度任务。

可重构智能表面（RIS）能够智能地操纵入射电磁波的相位，以改善基站（BS）和用户之间的无线传播环境。研究重点介绍RIS辅助的多用户下行网络的调度方面。具有排列不变性和等方差属性的图神经网络，可用于适当地调度用户并设计RIS配置以实现高整体吞吐量，同时考虑用户之间的公平性。

研究提出了一个三阶段的GNN框架。

在第一阶段，应用于所有潜在用户但具有非常短的试点的GNN，可以在考虑用户优先级的同时产生优化的时间表。

在第二阶段，第二个GNN仅适用于预定用户，以生成优化的 RIS 配置。

最后，对优化后的RIS配置下的整体低维有效信道进行重新估计，以设计BS波束成形器。

在实验部分。考虑了一个RIS辅助的多用户MISO网络，有8个BS天线、128个RIS反射元件以及32个用户。链路信道遵循瑞利衰落，反射信道遵循Rician衰落。

将所提出的数据驱动方法与传统的基于信道估计的方法进行比较。给定估计信道，采用贪婪调度的方法，通过块坐标下降优化波束成形矩阵和反射系数，实现加权和速率最大化。

仿真结果表明，与传统的基于信道估计的方法相比，所提出的算法可以在显著降低导频开销的情况下获得比传统方法更好的性能，实现网络效用的最大化，并且无需明确的信道估计。

GNN也可以方便地与其他深度学习方法结合使用。在这项工作中，将图神经网络与深度强化学习结合，进行5G网络中资源分配的预测。

5G及以后的移动网络日益复杂，以及这些网络需要支持的大量设备和新用例，使得无线网络中本已复杂的资源分配问题成为一项最大的挑战。将深度Q网络扩展与图神经网络相结合，可以更好地模拟预期奖励函数。其中，GNN 的目标是学习如何最好地近似RL中的Q函数。

研究主要关注用户关联（UA）问题，也就是用户应该连接到哪个连接提供商（例如基站），以最大化全局系统的效用函数。

通过模拟仿真实验，可以看到所提方法的性能比基线方法和Q学习方法都要好，并且提供了更高的系统效用和更低的用户拒绝率。

由于GNN本身的发展没几年，各领域基于GNN的研究还比较新颖，因此GNN本身的未来发展以及无线通信场景下的发展方向也有很多，这里简单列举几个。

第一个是GNNs的新无线应用：GNN4Com 将重心放在无线资源分配方面，但在其他无线应用中的潜力仍未被充分利用，尤其是在物理层通信方面。由于传统方法不能将 CSI 反馈扩展到大规模 MIMO 系统中，因此 GNN 可以作为与天线数量无关的优秀选择。虽然 GNN4Com 通常集中于特定的网络层，但跨层优化对于提高整体通信系统的性能至关重要。因此，我们需要研究如何在跨层优化中纳入 GNN。此外，也有很多研究是关于如何优化Com从而更好的加速GNN，比如通信的丢失重传机制等。

第二点是有效的GNN训练策略：神经网络训练阶段通常需要大量时间和资源。虽然 GNN4Com 目前的工作大多在离线模式下训练 GNN，但训练仍然存在成本，可能成为实际应用的瓶颈。解决方案可以利用多设备计算资源，采用联邦学习和边缘学习等方案来协作训练 GNN 模型。使用数据增强和对比学习等技术减少 GNN 所需的训练数据量。提高 GNN 在无线网络中的训练效率是未来的重要方向。

第三个是GNN推理的无线机制或协议：由于无线信道衰落和噪声等因素的影响，分布式 GNN 推理的精度会不可避免地受到影响。为了实现 GNN，需要开发用于鲁棒的无线机制/协议，例如功率控制，自适应性调制和编码等。此外，在邻居节点之间共享隐藏层嵌入向量需要控制同步和传输延迟。因此，开发高效的同步协议和资源分配对于实现 GNN 在无线通信中也很重要。

第四个是GNN训练和推理时的隐私保护：隐私保护是无线通信的核心问题之一，GNN的训练和推理都可能导致隐私泄露。因为在训练过程中，训练样本来源于系统日志文件或用户的本地数据，易暴露用户私人信息。可以使用带噪声的样本进行训练、或使用联邦学习方案来保护用户隐私。在推理阶段，去中心化的GNN推理依赖信息交换，这也会导致隐私问题。可以开发保护隐私的通信技术。此外，还需要在保护用户隐私的同时实现GNN的分散控制。