图神经网络 7大高效创新思路分享,附17篇最新顶会论文和代码

news2024/11/17 7:32:55

2024年了,图神经网络方向还好发论文吗?答案当然是能。

图神经网络在处理非欧空间数据和复杂特征方面具有明显的优势,且已成为了深度学习领域的热点,在学术界和工业界都有着广泛的研究和应用。不仅如此,图神经网络与CV和NLP领域交叉,容易有创新点,因此仍然是我们发论文的好方向。

但想要找到创新点,我们需要在传统的GNN基础上,考虑一些尚未被充分挖掘的方向和技术挑战。根据这点,我总结了一些值得学习借鉴的图神经网络创新思路,分为异构图处理、动态图学习、扩散3D数据、GNN隐私、GNN可解释性、技术结合、跨领域应用7大方向,并分享了每个方向的必读论文和代码17篇,包含2024年最新。

论文和代码看文末获取

异构图处理

1.Ordered GNN: Ordering Message Passing to Deal with Heterophily and Over-smoothing

通过消息传递的顺序处理异质性和过平滑问题

「简述:」论文提出了一种有向图神经网络(Ordered GNN),用于解决异质性和过平滑问题。传统的图神经网络中,消息传递是随机的,可能导致节点表示变得难以区分,无法有效地学习远离的节点之间的依赖关系。同时,具有不同标签的相邻节点的特征可能会被错误地混合在一起,导致异质性问题。为了解决这个问题,作者提出了一种有序的消息传递方法,将特定块的神经元用于特定跳数内的消息传递。

2.Two Sides of the Same Coin: Heterophily and Oversmoothing in Graph Convolutional Neural Networks

图卷积神经网络中的异质性和过平滑问题

「简述:」论文提出了一种统一的理论框架,解释了图卷积神经网络(GCN)中的过平滑和异质性问题。作者通过两个量化指标来描述节点:节点的相对度和节点级别的异质性。他们发现这两个指标之间的相互作用可以解释过平滑和异质性问题,并预测GCN的性能。基于这些见解,作者提出了两种策略来解决这些问题,并在实验中证明了其有效性。

3.Revisiting heterophily for graph neural networks

重新审视图神经网络中的异质性问题

「简述:」论文关注图神经网络(GNNs)在处理异质性数据集时的性能问题。作者提出了一种新的自适应通道混合(ACM)框架,可以更好地应对节点之间的不同相似性分布。在基准节点分类任务上,使用ACM增强的基线模型表现出更好的性能。

4.EvenNet: Ignoring Odd-Hop Neighbors Improves Robustness of Graph Neural Networks

忽略奇数跳邻居可以提高图神经网络的鲁棒性

「简述:」论文提出了一种新的简单而鲁棒的图神经网络(GNN)模型EvenNet,该模型在频域中设计并对应于一个偶数多项式图滤波器。通过在空间和频域的理论分析,作者发现忽略奇数跳邻居可以提高GNN的鲁棒性。实验结果表明,EvenNet在泛化同质和异质图方面优于全阶模型,并且在对抗结构攻击时无需引入额外的计算成本,同时在传统的节点分类任务上保持竞争力。

动态图学习

1.FreeDyG: Frequency Enhanced Continuous-Time Dynamic Graph Model for Link Prediction ICLR 2024

用于链接预测的频率增强连续时间动态图模型

「简述:」论文提出了一种新的简单方法,名为频率增强分解连续时间动态图(FreeDyG)模型,用于链接预测。FreeDyG通过从历史一跳邻居中提取节点表示,将动态图学习问题转化为在连续时间点上观察节点交互的时间序列分析问题。与之前主要关注时间域的方法不同,作者深入到频率域,从而能够更深入、更细致地提取交互模式,揭示周期性和“转移”行为。

2.Dynamic Heterogeneous Graph Attention Neural Architecture Search

动态异构图注意力神经架构搜索

「简述:」论文提出了动态异质图注意力搜索(DHGAS),用于自动设计DHGNN。作者通过设计一个联合关注节点的异质和动态邻居的注意力框架,以及一个参数化空间来确定注意力应该如何进行参数化,来应对现有DHGNN需要大量人力投入且无法适应不同场景的挑战。最后,作者设计了一个多阶段可微分搜索算法来高效地探索搜索空间。实验结果表明,该方法在链接预测、节点分类和节点回归等任务上表现优异。

3.Encoder-Decoder Architecture for Supervised Dynamic Graph Learning: A Survey

监督动态图学习的编码器-解码器架构

「简述:」近年来,随着在线服务的普及,产生了大量的用户活动数据。这些数据被收集用于分析用户行为并提供更好的服务。其中大多数数据可以建模为图形,例如社交网络图和用户-视频交互图。然而,随着时间的推移,这些图形需要不断演变以反映现实世界中的动态变化,这就引出了动态图的概念。但是,动态图中所包含的时间信息给分析和部署带来了新的挑战。本文提出了一个基于动态图演变理论的三阶段循环时间学习框架,旨在解释时间信息的学习方法。在此框架下,本文对监督动态图学习的不同可学习编码器-解码器架构进行了分类和审查。该调查可以为研究人员和工程师在为其动态学习任务寻找合适的图形结构时提供有用的指导方针。

扩展到3D数据

1.RadarGNN: Transformation Invariant Graph Neural Network for Radar-basedPerception

基于雷达感知的变换不变图神经网络

「简述:」论文提出了一种新颖的图神经网络,用于基于雷达的感知任务。该模型不仅考虑了点本身的特征,还考虑了点之间的关系。为了解决雷达点云稀疏和数据可用性差的问题,该模型设计了同时考虑点特征和点对特征的方法,并将其嵌入到图中的边缘中。此外,该研究还提出了一种通用的转换不变性方法,可以应对未见过的场景和有限的数据可用性。

GNN与隐私安全

1.A Survey on Privacy in Graph Neural Networks!Attacks,Preservation, and Applications

图神经网络中的隐私调查:攻击、保护和应用

「简述:」本文旨在填补现有图神经网络隐私保护技术的空白,总结针对图数据的攻击方式,分类GNN中的隐私保护技术,并回顾可用于分析/解决GNN隐私问题的数据集和应用。同时,作者提出了未来研究的潜在方向,以建立更好的隐私保护GNN。

图的可解释性

1.Explainability in Graph Neural NetworksA Taxonomic Survey

图神经网络的可解释性

「简述:」论文提供了图神经网络(GNN)解释性方法的统一和分类视角。作者指出,深度学习方法在许多人工智能任务上的性能不断提高,但其难以解释。为了解决这个问题,研究人员开发了后处理技术来解释预测结果,从而推动了可解释性领域的进展。最近,图像和文本数据的深度模型的解释性已经取得了显著的进展。在图数据领域,GNN及其解释性正在迅速发展。然而,目前还没有统一的GNN解释性方法,也没有标准的基准和测试平台来进行评估。因此,本文提供了一个统一的、分类的GNN解释性方法的调查。作者对现有方法的共同点和差异进行了统一和分类处理,为进一步的方法发展奠定了基础。

2.KerGNNs: Interpretable Graph Neural Networks with Graph Kernels

具有图核的可解释图形神经网络

「简述:」论文提出了一种新颖的GNN框架KerGNNs,将图核集成到GNN的消息传递过程中。受卷积神经网络(CNN)中卷积滤波器启发,KerGNNs采用可训练的隐藏图作为图滤波器,并将其与子图结合使用图核更新节点嵌入。此外,作者还表明MPNN可以视为KerGNN的特殊情形。作者将KerGNN应用于多个与图相关的任务,并使用交叉验证进行公平比较。实验结果表明,该方法与现有最先进技术相比具有竞争力的性能,显示出增加GNN表示能力的巨大潜力。

结合其他技术

1.Energy-based Out-of-Distribution Detection for Graph Neural Networks

基于能量的图神经网络分布外检测

「简述:」论文探讨了图结构数据的分布外检测问题,并提出了基于能量函数的分布外判别器。该判别器直接从使用标准分类损失训练的图神经网络中提取能量函数,为基于图神经网络的图学习提供了一种简单、强大和高效的分布外检测模型,称为GNNSAFE。该模型具有理论性质,可以保证在分布内和分布外样本之间的检测分数具有可区分的间隔,并且可以通过无学习的能量信念传播方案进一步加强。

2.Learning on Graphs with Out-of-Distribution Nodes

学习具有分布外节点的图

「简述:」论文提出了一种新颖的图神经网络模型OODGAT,用于处理具有分布外节点的图学习问题。该模型通过显式地建模不同类型节点之间的相互作用,并在特征传播过程中将内点和异常值分开,从而在分布外检测任务上取得了显著的性能提升。同时,OODGAT在已知类别的分类任务上也表现良好或相当。

3.GraphDE: A Generative Framework for Debiased Learning and Out-of-Distribution Detection on graphs

一种用于图上偏差学习和分布外检测的生成框架

「简述:」论文提出了一种用于图数据去偏学习和分布外检测的生成式框架GraphDE。该模型通过建模图生成过程来描述图数据中分布的变化,并引入了一个额外的潜在环境变量作为指示器。然后,定义了一个变分分布,即识别模型,以在GNN的训练过程中推断环境。通过将生成模型实例化为两个组件的混合体,作者推导出了一种易于处理的学习目标,并从理论上证明了该模型可以自动识别和降低训练过程中的异常值,同时产生有效的分布外检测器。

跨领域应用

1.Company-as-Tribe: Company Risk Assessment On Tribe-Style Graph With Hierarchical Graph Neural Networks(风险评估)

使用分层图神经网络对部落式图进行公司风险评估

「简述:」论文提出了一种新颖的层次图神经网络方法,用于部落式图形的公司财务风险评估。作者将每个上市公司及其股东视为一个部落,利用财务新闻建立部落之间的联系,并将公司财务风险评估问题重新定义为部落式图形上的公司财务风险评估。该方法通过两层的层次图神经网络实现了有效且高效的风险评估,在现实世界的公司数据集上进行的广泛实验表明,该方法在财务风险评估方面比之前的竞争方法有显著的改进。

2.Temporal and Heterogeneous Graph Neural Network for Financial Time Series Prediction(金融)

用于金融时间序列预测的时序异构图神经网络

「简述:」论文提出了一种基于时序异构图神经网络的方法,用于预测股票价格变动。作者利用历史价格生成公司关系图,并使用transformer编码器将价格变动信息编码为时序表示。然后,他们提出一种异构图注意力网络来联合优化金融时间序列数据的嵌入,并推断目标变动的概率。通过在美国和中国股市进行广泛的实验,该方法被证明比其他基线方法更有效和优越。此外,该方法还被部署在实际的量化算法交易系统中,并获得比其他基线方法更好的累计投资组合回报。

3.Emerging drug interaction prediction enabled by a flow-based graph neural network with biomedical network(医学)

基于生物医学网络的流程图神经网络实现新兴药物相互作用预测

「简述:」论文提出了一种名为EmerGNN的图神经网络方法,用于准确预测新兴药物之间的相互作用。作者利用生物医学网络中的丰富信息来提高预测准确性。EmerGNN通过提取药物对之间的路径、将信息从一个药物传播到另一个药物并结合路径上的相关生物医学概念来学习药物对的成对表示。生物医学网络上的不同边被赋予不同的权重以指示目标DDI预测的相关性和重要性。总体而言,EmerGNN在预测新兴药物相互作用方面比现有方法更准确,并能识别生物医学网络上最相关信息。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“GNN创新”获取全部论文+代码

码字不易,欢迎大家点赞评论收藏

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1372075.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

如何在集简云中调用GPTs(Assistant) API

我们在OpenAI中创建了GPTs(Assistant)后,希望放到其它软件中使用,比如 抖音私信,抖音评论,微信公众号,钉钉,飞书,企业微信...... 要如何实现这样的功能呢? 您可以使用集简云的 “数…

科研上新 | 第3期:大模型推进科研边界;大模型的道德价值对齐;优化动态稀疏深度学习模型;十亿规模向量搜索的高效更新

者按:欢迎阅读“科研上新”栏目!“科研上新”汇聚了微软亚洲研究院最新的创新成果与科研动态。在这里,你可以快速浏览研究院的亮点资讯,保持对前沿领域的敏锐嗅觉,同时也能找到先进实用的开源工具。 本期内容速览 01…

JavaScript日期和时间处理手册

🧑‍🎓 个人主页:《爱蹦跶的大A阿》 🔥当前正在更新专栏:《VUE》 、《JavaScript保姆级教程》、《krpano》 ​ ​ ✨ 前言 日期和时间在应用开发中是非常常用的功能。本文将全面介绍JavaScript中处理日期和时间的方…

vscode设置python脚本运行参数

1 添加配置文件 点击到你要配置的python文件,然后右上角点击 运行 ,再点击 添加配置 再点击 “Pyhton文件” 选项(其实就是在选择 当前的python文件 进行配置) 接着就生成了配置文件 lanunch.json 2 参数配置 再上面代码的基础上…

1月10号代码随想录左叶子之和

404.左叶子之和 给定二叉树的根节点 root ,返回所有左叶子之和。 示例 1: 输入: root [3,9,20,null,null,15,7] 输出: 24 解释: 在这个二叉树中,有两个左叶子,分别是 9 和 15,所以返回 24示例 2: 输入: root [1]…

206. 反转链表(Java)

题目描述: 给你单链表的头节点 head ,请你反转链表,并返回反转后的链表。 输入: head [1,2,3,4,5] 输出: [5,4,3,2,1] 代码实现: 1.根据题意创建一个结点类: public class ListNode {int val…

【详细】双系统 Ubuntu 如何给根目录扩容

1.分配出一块未分配空间(需要和Ubuntu系统存储分区位于同一个硬盘上) 这一步我直接利用windows系统自带的“创建并格式化硬盘分区”功能进行的。 如图,在想要切割出来一部分空间的卷上右键,选择压缩卷选项,之后输入空…

使用Windbg动态调试目标进程的一般步骤详解

目录 1、概述 2、将Windbg附加到已经启动起来的目标进程上,或者用Windbg启动目标程序 2.1、将Windbg附加到已经启动起来的目标进程上 2.2、用Windbg启动目标程序 2.3、Windbg关联到目标进程上会中断下来,输入g命令将该中断跳过去 3、分析实例说明 …

leetcode:1716. 计算力扣银行的钱(python3解法)

难度:简单 Hercy 想要为购买第一辆车存钱。他 每天 都往力扣银行里存钱。 最开始,他在周一的时候存入 1 块钱。从周二到周日,他每天都比前一天多存入 1 块钱。在接下来每一个周一,他都会比 前一个周一 多存入 1 块钱。 给你 n &am…

安卓文件传输工具---Android File Transfer中文

Android File Transfer是一款专为安卓设备设计的文件传输工具,可以帮助用户快速方便地在安卓设备和计算机之间传输文件。这款软件支持多种文件类型,包括图片、音乐、视频、文档等,使得用户可以轻松地将文件从计算机传输到安卓设备&#xff0c…

[足式机器人]Part2 Dr. CAN学习笔记-动态系统建模与分析 Ch02-7二阶系统

本文仅供学习使用 本文参考: B站:DR_CAN Dr. CAN学习笔记-动态系统建模与分析 Ch02-7二阶系统 1. 二阶系统对初始条件的动态响应 Matlab/Simulink - 2nd Order Syetem Response to IC2. 二阶系统的单位阶跃响应 2nd Order System Unit Step Response3. 二…

CNN——GoogLeNet

1.GoogLeNet简介 GoogLeNet是谷歌推出的基于Inception模块深度卷积神经网络结构。L和N大写还是为了致敬LeNet。在随后的两年中一直在改进,形成了Inception V2、Inception V3、Inception V4等版本。GoogLeNet(Inception-V1),在Imag…

微服务下多模块拆分,公用类调用与模块隔离性怎么兼得呢

前言 在一个微服务项目中,为了追求低耦合,会根据业务板块对主系统进行切分为一个个子模块,模块间相互隔离,但是这样子就会导致一个问题:对于一些在多个子模块中都适用的配置类、工具类、封装类等都需要拷贝冗余到各个模…

大数据本地环境搭建-Linux基础环境搭建

1.安装VMware 下载 VMware Workstation Pro | CN 2.配置虚拟网卡 3.Windows网络配置 4.安装centos7.9 Download (centos.org) 4.1 新建虚拟机 如果开机的时候电脑蓝屏使用WindowsR输入optionalfeatures 打开启用或关闭Windows功能->勾选打开以下两项 重启 继续安装ce…

静态网页设计——滑板官网(HTML+CSS+JavaScript)(dw、sublime Text、webstorm、HBuilder X)

前言 声明:该文章只是做技术分享,若侵权请联系我删除。!! 感谢大佬的视频:https://www.bilibili.com/video/BV1Cw411u7hj/?vd_source5f425e0074a7f92921f53ab87712357b 源码:https://space.bilibili.com…

LeetCode 2807.在链表中插入最大公约数

【LetMeFly】2807.在链表中插入最大公约数 力扣题目链接:https://leetcode.cn/problems/insert-greatest-common-divisors-in-linked-list/ 给你一个链表的头 head ,每个结点包含一个整数值。 在相邻结点之间,请你插入一个新的结点&#x…

Kafka集群部署 (KRaft模式集群)

KRaft 模式是 Kafka 在 3.0 版本中引入的新模式。KRaft 模式使用了 Raft 共识算法来管理 Kafka 集群元数据。Raft 算法是一种分布式共识算法,具有高可用性、可扩展性和安全性等优势。 在 KRaft 模式下,Kafka 集群中的每个 Broker 都具有和 Zookeeper 类…

Springboot3(一、lambda、::的应用)

文章目录 一、使用lambda简化实例创建1.语法:2.示例:3.Function包3.1 有入参,有返回值【多功能函数】3.2 有入参,无返回值【消费者】3.3 无入参,有返回值【提供者】3.4 无入参,无返回值 二、类::方法的使用…

centos7上升级mysql8.0.21到mysql8.0.35版本

1、下载安装包 cd /home/soft/mysql8.0.35 wget https://dev.mysql.com/get/Downloads/MySQL-8.0/mysql-8.0.35-1.el7.x86_64.rpm-bundle.tar 2、解压压缩包 3、停止掉mysqld服务 systemctl stop mysqld 4、强制安装新的版本包 rpm -ivh mysql-community-common-8.0.35-1.el…

富士康注资21亿元河南成立电动车公司 | 百能云芯

富士康在河南注册成立富士康新能源汽车产业发展有限公司,注册资本达人民币5亿元,展现了其在电动车产业的持续布局。这一全资子公司将致力于从事汽车零部件及配件制造、电机制造、新材料技术研发、新能源汽车整车销售等业务。作为鸿海集团的全资子公司&am…