【综述型论文】图神经网络总结

news2024/10/7 10:20:59

文章目录

  • 图神经网络
    • 基于模型结构分类的图神经网络
      • 1. 循环图神经网络(ResGNNs)
      • 2. 卷积图神经网络
        • 基于谱域的ConvGNNs(Spectral-based ConvGNNs)
        • 基于空域的ConvGNNs(Spatial-based ConvGNNs)
        • 谱域图卷积模型和空域图卷积模型的对比
        • 图卷积模型中的下采样策略
      • 3. 图自编码器(GAEs)
      • 4. 时空图神经网络(STGNNs)
      • 总结
  • 各种图类型适用的模型
    • 1. 有向图
    • 2. 无向图
    • 3. 异构图
    • 4. 带边信息的图
    • 5. 动态图
    • 6. 多维图
  • 数据集
  • 学术单词

以下内容基于如下文献:

A Comprehensive Survey on Graph Neural Networks

图神经网络

基于模型结构分类的图神经网络

  • 常见循环图神经网络和卷积神经网络
    在这里插入图片描述
  • 常见卷积神经网络的性能比较
    在这里插入图片描述

1. 循环图神经网络(ResGNNs)

循环图神经网络(Recurrent graph neural networks,ResGNNs):假设图中的一个节点不断地与它的邻居交换信息/消息,直到达到稳定的平衡
在这里插入图片描述

2. 卷积图神经网络

卷积图神经网络(Convolutional graph neural networks, ConvGNNs):是通过聚集节点 v v v 自身的特征 x v x_v xv 和邻居的特征 x u x_u xu来生成节点v的表示,其中 u ∈ N ( v ) u∈N(v) uN(v)。与RecGNNs不同,ConvGNNs堆叠多个图卷积层来提取高级节点表示。下图(a)表示节点分类,图(b)表示图分类。
在这里插入图片描述

基于谱域的ConvGNNs(Spectral-based ConvGNNs)

在这里插入图片描述

代表模型:ChebNet、GCN、DGCN(Directed Graph Convolutional Network)、lightGCN

基于空域的ConvGNNs(Spatial-based ConvGNNs)

在这里插入图片描述

代表模型:GraphSage、GAT、LGCN、DGCNN、DGI、ClusterGCN

谱域图卷积模型和空域图卷积模型的对比

由于效率、通用性和灵活性问题,空间模型比谱模型更受欢迎。

  1. 谱模型的效率低于空间模型:谱模型要么需要进行特征向量计算,要么需要同时处理整个图。空间模型通过信息传播直接在图域进行卷积,因此对大型图具有更强的可伸缩性。计算可以在一批节点中进行,而不是在整个图中进行。
  2. 依赖于图傅里叶基的谱模型对新图的泛化能力较差:他们假设一个固定的图形。对图的任何扰动都会导致特征基的变化。基于空间的模型在每个节点上执行局部图卷积,其中权重可以在不同的位置和结构之间轻松共享。
  3. 基于谱的模型仅限于在无向图上操作。基于空间的模型更灵活地处理多源图输入:如边输入[15],[27],[86],[95],[96],有向图[25],[72],有符号图[97],异构图[98],[99],因为这些图输入可以很容易地合并到聚合函数中。

图卷积模型中的下采样策略

在GNN生成节点特征后,我们可以将其用于最后的任务。但是,直接使用所有这些特征在计算上具有挑战性,因此,需要一个下采样策略。根据目标和它在网络中扮演的角色,这种策略有不同的名称,但它们的机制非常相似。:

  • 池化(pooling):旨在通过对节点进行下采样来减少参数的大小,以生成更小的表示,从而避免过拟合、排列不变性和计算复杂性问题
  • 读出(readout):主要用于生成基于节点表示的图级表示。
    h G = m e a n / m a x / s u m ( h 1 ( K ) , h 2 ( K ) , . . . , h n ( K ) ) , K 是当前最后一个图卷积层的索引。 h_G = mean/max/sum(h_1^{(K)},h_2^{(K)},...,h_n^{(K)}),K是当前最后一个图卷积层的索引。 hG=mean/max/sum(h1(K),h2(K),...,hn(K))K是当前最后一个图卷积层的索引。

3. 图自编码器(GAEs)

图自编码器(Graph autoencoders ,GAEs):是一种无监督学习框架,它将节点/图编码到潜在的向量空间中,并从编码的信息重构图数据。GAEs用于学习网络嵌入和图生成分布。图©展示了用于网络嵌入的GAE。
在这里插入图片描述
在这里插入图片描述

4. 时空图神经网络(STGNNs)

时空图神经网络(Spatial-temporal graph neural networks,STGNNs)旨在从时空图中学习隐藏模式,这在各种应用中变得越来越重要,如交通速度预测[72]、驾驶员机动预测[73]和人体动作识别[75]。stgnn的关键思想是同时考虑空间依赖性和时间依赖性。图(d)展示了用于时空图预测的STGNN。
在这里插入图片描述
代表模型:

GCRN、DCRNN、Structural-RNN 、ST-GCN、StemGNN

总结

  • 循环图神经网络(ResGNNs):GNN、GraphESN、GGNN、SSE
  • 基于谱域的ConvGNNs:ChebNet、GCN、DGCN(Directed Graph Convolutional Network)、lightGCN
  • 基于空域的ConvGNNs:GraphSage、GAT、LGCN、DGCNN、DGI、ClusterGCN
  • 图自编码器(GAEs):GAE、VGAE
  • 时空图神经网络(STGNNs):GCRN、DCRNN、Structural-RNN 、ST-GCN、StemGNN

各种图类型适用的模型

1. 有向图

适用模型:GraphSAGE、GAT

2. 无向图

GCN

3. 异构图

异构图:指存在几种不同类型的节点

4. 带边信息的图

带边信息的图:边带有额外的信息。有两种解决方案:

  • 把这类图查分成二部图(二部图:把一个图的顶点划分为两个不相交子集 ,使得每一条边都分别能连接两个集合中的顶点。如果存在这样的划分,则此图为一个二分图),把带信息的边变成节点。即:开始节点 - 边节点 - 结束节点
  • 对于不同类型的边采用不同的权重矩阵来传播

5. 动态图

动态图:将复杂网络表示为随时间变化的结构

https://arxiv.org/pdf/2005.07496.pdf
https://arxiv.org/pdf/2203.10480.pdf

6. 多维图

多维图指的是节点之间有多种关系,形成一个多维度的图

数据集

在这里插入图片描述

学术单词

  • Taking sth as an example:以…为例

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/425638.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Python遥感开发之FY的批量处理

Python遥感开发之FY的批量处理0 FY遥感数据1 批量提取数据2 批量拼接TIF数据3 批量HAM转WGS投影(重要)4 批量掩膜裁剪介绍FY数据的格式,以及FY数据的批量提取数据、批量拼接数据、批量投影转换、批量掩膜裁剪等操作。本博客代码参考《 Hammer…

MySQL SQL优化 【建议熟读并背诵】

插入数据 批量插入数据 insert into tb_test values(1,Tom),(2,Cat),(3,Jerry);手动控制事务 start transaction; insert into tb_test values(1,Tom),(2,Cat),(3,Jerry); insert into tb_test values(4,Tom),(5,Cat),(6,Jerry); insert into tb_test values(7,Tom),(8,Cat…

在Windows中使用Linux命令安装这款软件就可以

由于平时经常使用Linux命令,所以导致在Windows的cmd中输入命令的时候经常打错,提示不是内部或外部命令,也不是可运行的程序。 那么有办法将补全cmd命令,使Linux中的命令在Windows中也能使用呢? 下面我来讲解如何在Win…

微服务架构-服务网关(Gateway)-服务网关在微服务中的应用

服务网关在微服务中的应用 我们将目光转向Spring Cloud应用的外围,讨论微服务架构下的各个模块如何对外提供服务。 1、对外服务的难题 微服务架构下的应用系统体系很庞大,光是需要独立部零的基础组件就有注册中心、配置中心和服务总线、Turbine异常聚…

【版本控制】Github同步Gitee镜像仓库自动化脚本

文章目录Github同步Gitee镜像仓库自动化脚本前言什么是Hub Mirror Action?1.介绍2.用法配置步骤1.生成密钥对2.GitHub私钥配置3.Gitee公钥配置4.Gitee生成私人令牌5.Github绑定Gitee令牌6.编写CI脚本7.多仓库同步推送8.定时运行脚本总结Github同步Gitee镜像仓库自动…

Softmax和Cross Entropy Loss在分类问题中的作用

本文以三分类神经网络为例,讲解Softmax和Cross Entropy Loss在分类问题中的作用。 首先,对类别标签进行一位有效编码: y[y1,y2,y3]Ty[y_{1},y_{2},y_{3}]^{T}y[y1​,y2​,y3​]T yi{1,if(iy)0,otherwisey_{i}\left\{\begin{matrix} 1 ,& …

形式语言和自动机总结----正则语言RE

第3-4章正则表达式 正则表达式的设计举例 正则表达式的运算 正则表达式的优先级 举例 1.倒数第三个字符是1 (01)*1(01)(01) 2.不含有连续的0 (101)*(0) 3.含有000 (01)*000(01&a…

【算法LearnNO.1】算法介绍以及算法的时间复杂度和空间复杂度

目录 一、算法 1、算法概述 2、算法的5个特性 3、设计算法的标准 二、时间复杂度 1、时间复杂度的介绍 2、渐进时间复杂度的求法 3、计算时间复杂度的代码举例(平方阶示例) 4、时间复杂度排序 三、空间复杂度 一、算法 1、算法概述 算法就是解…

蔚来试水辅助驾驶订阅,NOP+能否吃蟹?

作者 | 德新 编辑 | 王博2021年的NIO Day上,随着当时ET7发布,蔚来最早宣布了智能驾驶订阅服务:NAD,月费680元。 两年后,辅助驾驶订阅模式终于开始落地:蔚来将从7月1日起,对NOP进行收费&#xff…

Nginx基础教程

Nginx 目标 Nginx简介【了解】 Nginx安装配置【掌握】 一、Nginx简介 Nginx称为:负载均衡器或 静态资源服务器:html,css,js,img ​ Nginx(发音为“engine X”)是俄罗斯人编写的十分轻量级的HTTP服务器,是一个高性能的HTTP和反向代理服务器,同时也是一个IMAP/P…

索引优化、优化,你又是一个好MongoDB!!!博学谷狂野架构师

MongoDB索引优化 作者: 博学谷狂野架构师GitHub:GitHub地址 (有我精心准备的130本电子书PDF)只分享干货、不吹水,让我们一起加油!😄 索引简介 索引通常能够极大的提高查询的效率,如果没有索引&a…

【pg数据库状态监控相关参数展示】

1、最近项目中做了一个postgresql数据库监控状态功能的需求,需求如下图 2、研究好久,终于在pg数据库的官方文档中找到了相关视图参数, 文档连接如下: 数据库基础信息: http://www.postgres.cn/docs/9.3/functions-in…

开源项目:数据库表结构生成文档工具

目录 一、软件介绍 二、技术框架 三、功能介绍 四、代码展示 1、获取数据库信息部分代码 2、导出Html文档代码 五、运行效果 六、项目开源地址 一、软件介绍 今天给大家分享我自己编写的数据库表结构文档生成工具,方便大家在实际开发当中,可以很方便导出…

JAVA常用工具-文件操作相关IO

IO技术在JDK中算是极其复杂的模块,文件管理都依赖IO技术,而且都是编程的难点,想要整体理解IO流,先从Linux操作系统开始, Linux空间隔离 Linux使用是区分用户的,这个是基础常识,其底层也区分用…

【MQTT协议】使用Mosquitto实现mqtt协议(二):编写视频帧的发布/订阅服务

目录一、Mosquitto中的QoS定义QoS1和3区别二、安装base64库三、cjson简介四、主程序代码五、调用Mosquitto库使用的cmakelist更多内容详见 【MQTT协议】使用c实现mqtt协议(Mosquitto源码编译)一、Mosquitto中的QoS定义 MQTT协议中的QoS(Qual…

CLIP论文拜读及理解

文章目录一、clip论文阅读二、prompt1.除prompt之外的预训练语言模型2.prompt2.1. prompt定义2.2. prompt类型2.3. prompt重构2.3.1 prompt template2.3.2 Answer engineering2.4 多个 prompt的使用2.5 prompt的训练总结参考(博文、论文)一、clip论文阅读…

Windows系统安装WSL,并安装docker服务

背景 因为工作需要,要在电脑上执行sh脚本,并启动docker服务执行具体逻辑。因为我的电脑是windows系统,对做本任务来说,比较吃力,所以想到使用wsl,让windows电脑具有linux电脑的能力。 什么是 WSL 2 WSL 2 …

JVM的类加载的过程以及双亲委派模型

目录 1、加载 (加载字节码文件,生成.class对象) 2、验证(验证Class文件是否符合规范) 3、准备 (为静态变量分配内存并设置变量初始值) 4、解析(初始化常量池中的一些常量&#…

索引的分类

1.唯一索引 给表中某一列设置为了唯一约束(这列不允许出现重复数据)后,数据库会为将这一列设置索引,这个索引叫做唯一索引(主键那一列是一个特殊的唯一索引,不仅要满足唯一索引这一列不可以出现重复数据,而且这一列还…

Android opencv

install cmake cpp folder,新建c项目 获取 OpenCV4Android SDK O4A_SDK 下载,并解压 ~/Downloads/OpenCV-android-sdk$ tree -d -L 2 . ├── apk ├── samples │ ├── 15-puzzle │ ├── camera-calibration │ ├── color-blob-detection │ ├…