Layer-refined Graph Convolutional Networks for Recommendation
论文:https://arxiv.org/abs/2207.11088
源码:https://github.com/enoche/MMRec/blob/master/README.md
摘要
基于图卷积网络(GCN)的抽象推荐模型综合了用户-项目交互图的节点信息和拓扑结构,具有良好的性能.然而,这些基于GCN的推荐模型不仅在堆叠太多层时会出现过平滑,而且在用户-项目交互中会存在噪声,从而导致性能退化。本文首先指出了现有的基于GCN的推荐模型中存在的过度平滑和解崩溃的问题。具体而言,这些模型通常会聚合所有层的嵌入以进行节点更新,并由于过度平滑而在几个层内实现最佳推荐性能。相反,如果我们将可学习的权重放在层嵌入上以进行节点更新,权重空间将总是塌陷到一个固定点,在该点上,自我层的权重几乎占据了所有权重。本文提出了一种基于层的GCN模型LayerGCN,该模型在GCN的信息传播和节点更新过程中内斯层的表示进行了定义。此外,以往的基于GCN的推荐模型在不区分噪声节点的情况下,将所有邻居节点的信息聚合在一起,降低了推荐性能。我们的模型进一步修剪了用户-项目交互图的边,遵循度敏感的概率而不是均匀分布。
动机
在lightGCN中随着节点更新次数增多,自我层的权重越来越大,直至出现过渡平滑。
自我层的加权总是占主导地位,这妨碍了来自高阶(即多跳距离)邻居的信息集成到当前节点表示中。产生权重塌缩
概念
本文采用和LightGCN相同的转换矩阵,随后采取边丢去,每条边丢弃的概率如下:
d分别表示节点i的度,节点j的度。基于上述的概率进行边采样,来代替A矩阵,用Ap来表示,然后对矩阵Ap进行归一化处理。
2) Layer-refined Graph Convolution (LayerGC):
受到残差网络的启发,每层节点更新如下:
要计算每层的节点与原始节点的相似度,节点i和j之间的相似度计算如下。
通过Readout函数获得最终的节点表示,通过用户和物品向量的点击获取预测分数