Interest-aware Message-Passing GCN for Recommendation(www 21)

news2024/11/18 23:29:26

论文地址:https://arxiv.org/abs/2102.10044

 BACKGROUND

GCN信息聚合的模式非常适合推荐,但众所周知在模型设计的时候通常只能堆叠2-3层,再多就会出现过平滑问题(结点特征之间没有区分度),LightGCN证明了GCN中的特征转化和非线性激活不适用于协同过滤,通过去除这两个组件可在一定程度上缓解过平滑问题,使得模型可以堆叠更多层(将层数拓展到了4层左右),LightGCN信息聚合方式如下,可以看到是对邻居特征进行简单加权求和,无筛选机制,在高层信息聚合时会因兴趣不相同邻居用户的存在,而引入噪声,使得学到的特征向量次优。本文提出了一种根据用户兴趣对用户进行分组(组图)的方法,进一步去除兴趣不同用户造成的干扰,将GNN层数拓展到了7层左右。

METHOD

G_s  =  S\epsilon \{1,2,\cdot \cdot \cdot \cdot \cdot \cdot ,N_s\} 代表一个分组/子图(兴趣一样的用户组成的集合)

本文根据用户兴趣对用户进行了分组,用户相似的用户及其交互过的物品构成子图

一、message-passing

1.1 一层邻居聚合

e_u^{(1)} = \sum_{i \epsilon N_u}\frac{1}{\sqrt{\left | N_u \right |}\sqrt{\left | N_i \right |}}e_i^{(0)}

e_i^{(1)} = \sum_{u \epsilon N_i }\frac{1}{\sqrt{\left | N_i \right |}\sqrt{\left | N_u \right |}}e_u^{(0)}   

其中 e_u^{(0)},e_i^{(0)}代表 ID embedding

1.2 高层邻居聚合

 e_u^{(k+1)} = \sum_{is \epsilon N_u}\frac{1}{\sqrt{\left | N_u \right |}\sqrt{\left | N_i \right |}}e_{is}^{(k)}        

e_{is}^{(k+1)} = \sum_{u \epsilon N_i^s}\frac{1}{\sqrt{\left | N_i \right |}\sqrt{\left | N_u \right |}}e_u^{(k)}

e_{is}^{(k)}:子图(分组)s中的物品i经过k层图卷积后的embedding向量

角标 is\ \epsilon \ N_u:子图s中用户u的邻居节点i

注:此处的GCN是在兴趣分组中进行的,分组按用户兴趣进行划分,用户交互过的物品属于用户所在分组。每个用户仅属于一个分组,而物品可属于多个分组(分属于两个分组的用户u_1,u_2 都与物品i发生过交互)

因为物品可属于多个分组,所以此处将物品的特征向量,表示成各分组中特征的和e_i^{(k)} = \sum_{s\epsilon S}e_{is}^{(k)}

1.3 层间连接 

e_u = \sum_{i=0}^{K}\frac{1}{K+1}e_u^{i} 

二、Subgraph Generation Module

本文将子图划分当作节点分类任务

特征提取:F_u = \sigma (W_1(e_u^{(0)}+e_u^{(1)})+b1),对id_embedding和一阶邻居聚合结果进行特征提取

用户节点分类:U_o = W_3(\sigma (W_2F_u+b_2)))+b_3U_o的维度等于用户分组的数目。

三、优化

3.1 预测

\widehat{r}_{ui} = u\top v

3.2损失函数

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/502814.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【是C++,不是C艹】 引用的概念 | 引用的使用 | 引用与指针的区别

💞💞欢迎来到 Claffic 的博客💞💞 👉 专栏:《是C,不是C艹》👈 前言: 前面带大家学习了函数重载等C基础,这期继续C基础的学习:引用。 注&#xff1…

最常用的js混淆加密解

JS混淆加密是一种用于保护JS代码的技术,它能够将代码变得难以理解和修改,从而提高代码的安全性。但是,当我们需要修改和维护这些代码时,我们就会面临困难。因此,在某些情况下,我们需要解这些JS代码。 下面…

新唐NUC980使用记录(5.10.y内核):访问以太网(LAN8720A) 启用SSH

文章目录 目的修改内核和设备树以访问以太网制作根文件系统并启用SSH总结 目的 这篇文章主要测试新唐NUC980(5.10.y内核)访问以太网(PHY为LAN8720A)以及启用SSH。 这篇文章中内容均在下面的开发板上进行测试: 《新唐…

【三维几何学习】网格可视化-Cube engraving数据集

网格可视化-Cube engraving数据集 引言一、blender二、meshlab三、3D查看器 引言 三角网格(Triangular Mesh)分类数据集 MeshCNN: A Network with an Edge 可参考以上链接深入了解 or 下载数据集。Cube engraving(论文叫法)数据集,又称为Cubes classification datas…

ClickHouse之Explain查看执行计划

文章目录 前言基本语法EXPLAIN 类型EXPLAIN PLANEXPLAIN ASTEXPLAIN SYNTAXEXPLAIN PIPELINEEXPLAIN ESTIMATE 补充忠告 前言 在 clickhouse 20.6 版本之前要查看 SQL 语句的执行计划需要设置日志级别为 trace 才能 可以看到,并且只能真正执行 sql,在执…

快商通联合创始人李稀敏入选“科技专家库专家名单”

3月10,厦门市科学技术局关于2023年第一批拟入选科技专家库专家名单进行公示。经过层层审核,快商通联合创始人李稀敏入选“科技专家库专家名单”。 据了解,厦门市科学技术局的“科技专家库专家名单”是由市科技局精心挑选的一批优秀专家&…

Unsupervised Domain Adaption (UDA)及domain shift介绍

UDA UDA想解决的问题是目标域上数据标签的缺乏,具体而言,存在着源域和目标域,源域上存在大量的标注样本对 D s { ( X i , y i ) } D_s\{(X_i,y_i)\} Ds​{(Xi​,yi​)},我们可以在上面以有监督的方式训练各种模型,但此…

常见舆情监测系统的分类和特点

随着网络和社交媒体的发展,舆情监测系统逐渐成为企业和政府机构必备的工具之一。舆情监测系统可以帮助企业和政府机构全面了解公众对其品牌、产品、政策等的反应和态度,及时发现和解决问题,提高公信力和形象。本文将介绍常见的舆情监测系统的…

Python Tox

tox其核心作用是支持创建隔离的 Python 环境,在里面可以安装不同版本的 Python 解释器与各种依赖库,以此方便开发者做自动化测试、打包、持续集成等事情。 简单来说,tox 是一个管理测试虚拟环境的命令行工具。 我介绍一种应用场景&#xff…

如何在Jetpack Compose中设置渐变背景

如何在Jetpack Compose中设置渐变背景 只需几步即可通过平滑渐变增强应用程序的用户界面 虽然它经常出现在网络前端的世界中,但渐变背景可以为您的移动应用程序增添专业和美观的触感,使其对您的用户更具吸引力。 第 1 步:创建渐变画笔 为…

Semantic Segmentation using Adversarial Networks

首次将GAN用于语义分割,用于辨别分割图是来自GT还是来自分割网络。作者的想法来自借助GAN可以检测和矫正GT和模型分割图的高阶不一致。最后在Standford和PASCAL VOC 数据集上验证了想法。 对抗学习: 使用两个权重和的混合损失函数进行优化,第…

从win7升级到win10过程中遇到的问题:安装工具无法运行、卸载VMware

目录 1. 概述2. 微软官方安装工具无法运行3. 控制面板的卸载程序里面找不到VMware4. 输入产品密钥5. 安装完后仍然未激活6. 雨林木风 1. 概述 因为新电脑还没有到,把上学时候的笔记本翻出来顶一顶。旧笔记本还是win7,我的鼠标没办法使用,干脆…

HDCTF web复现

[HDCTF 2023]SearchMaster 传data 使用{if}标签闭合达到命令执行的效果 {if phpinfo()}{/if} NSSCTF{f578f8ba-246e-452b-b070-22bc4fc4313d} Smarty模板注入&CVE-2017-1000480 - 先知社区 (aliyun.com) [HDCTF 2023]YamiYami 非预期解 第一个连接 跳转到百度&#xf…

远程访问(内网穿透)

文章目录 介绍cpolar安装使用终端访问远程桌面访问 仅靠ssh,等只能实现同局域网下的服务器访问,本文介绍使用cpolar内网穿透工具实现非同局域网下的访问 介绍 远程:1804 ubuntu 软件依赖:ssh,xrdp, cpolar…

【K8s】资源管理与实战入门

文章目录 一、资源管理1、资源管理介绍2、YAML语言语法3、资源管理方式4、命令式对象管理--kubectl5、命令式对象配置6、声明式对象配置7、报错 二、实战入门1、namespace2、Pod3、Label4、deployment5、Service 一、资源管理 1、资源管理介绍 在kubernetes中,所有…

如何有效的向 AI 提问 ?

文章目录 〇、导言一、Base LLM 与 Instruction Tuned LLM二、如何提出有效的问题 ?1. 明确问题:2. 简明扼要:3. 避免二义性:4. 避免绝对化的问题:5. 利用引导词:6. 检查语法和拼写:7. 追问细节…

7天获邀请函|环境科学研究学者持加拿大麦吉尔大学Offer申报CSC

I老师要求2周内获得邀请函且指定加拿大。我们只用了7天时间就获得加拿大排名榜首的麦吉尔大学邀请函,整整提前了一半时间,效率奇高。 I老师背景: 申请类型:CSC访问学者 工作背景:某研究所研究人员 教育背景&#xf…

g++编译静态库与动态库

该文目的是基本理清一个在linux在c静态库与动态库的编译和使用 一个非常基础的一节,简单的整合了一下目前已有的文章 前提准备: 文件: touch SoDemoTest.h one.cpp two.cpp three.cpp main.cpp代码 /* SoDemoTest.h */ #ifndef _SO_DEMO_TEST_HEADE…

【Ubuntu22.04】内网部署Ubuntu Server 22.04.2

镜像下载 方式一:官网下载 https://ubuntu.com/download/server 方式二:清华镜像站 https://mirrors.tuna.tsinghua.edu.cn/ubuntu-releases/22.04.2/ 方式三:百度网盘 链接: https://pan.baidu.com/s/1g24PDfAiPVsxMm7DVpERdg?pwd1020 …

myql的三种删除方式:delete truncate drop

前言 在 MySQL 中,删除的方法总共有 3 种:delete、truncate、drop,而三者的用法和使用场景又完全不同,接下来我们具体来看。 1.delete detele 可用于删除表的部分或所有数据,它的使用语法如下: delete …