WWW2021 | 5篇图神经网络在推荐中的应用_飞道的博客

WWW2021 | 5篇图神经网络在推荐中的应用

2021-03-17 22:54 844人阅读评论(0)

■ WWW2021

WWW (这两年改名叫TheWebConf了)会议是由图灵奖得主Tim创办的学术会议，内容涵盖互联网相关的一切主题。中国计算机协会将其认证为CCF-A类顶级会议，难度极大。中一篇吹一年????

这里推荐5篇WWW中有关图神经网络在推荐中的应用论文

1.Graph Neural Networks for Friend Ranking in Large-scale Social Platforms

2.Learning Intents behind Interactions with Knowledge Graph for Recommendation

3.Interest-aware Message-Passing GCN for Recommendation

4.RetaGNN: Relational Temporal Attentive Graph Neural Networks for Holistic Sequential Recommendation

5.Self-Supervised Multi-Channel Hypergraph Convolutional Network for Social Recommendation

1.Graph Neural Networks for Friend Rankingin Large-scale Social Platforms

GNN最近在图学习上取得了实质性进展。虽然GNN具有丰富的表达能力，但是GNN在大规模社交模型上的应用仍然有待研究。其中一个常见的的工业应用问题是朋友推荐问题——在大型社交平台上通常有这样的问题：（1）有相当一部分用户是不活跃的，这样他们的结构和参与信息就是受限的；（2）用户们会使用不同的交互方式与不同的团体交流。

本文研究了GNN在朋友推荐方面的应用。为了利用平台动作中的丰富信息，我们在用户特征和边上交流特征等信息来对朋友进行排行，进而进行朋友推荐。我们设计了一个神经架构GRAFRANK来学习用户的表示。特别地，GRAFRANK利用特定模型的邻居聚合器和跨模型的注意力机制来学习多方面的用户表示。

GRAFRANK在两个几百万的用户数据集上相比于当前的先进模型表现出色。

图1

GraFRank的总体框架：一组????特定模式的邻居聚合器来计算????中间用户表示；跨模型注意力层通过捕获每个模型的区别方面来计算最终用户表示形式。

图2

可以看到GRAFRANK在数据集上比当前的先进模型表现要好（MRR指标比最好的标准高出30%-43%）

2.Learning Intents behind Interactions with Knowledge Graphfor Recommendation

知识图谱在推荐系统中起到越来越重要的作用。近期的技术趋势是基于GNN来建立端到端模型。但是现存的基于GNN的关系模型是粗粒度的，因而不能（1）在细粒度上确认用户-物品的关系，（2）发现关系依赖来保存长连接的语义信息。

KGIN设计了两个部分来解决上述问题：（1）用户意图模型。（2）关系路径感知聚合。

图3

基于节点和关系路径感知聚合模型的实例，其中的实线和虚线表示节点之间传递的信息。

在这项研究中，我们用辅助的物品知识研究用户-物品的互动后的意图，并且提出了新的模型——KGIN。我们将每个意图看做一个KG关系的注意力组合，来独立不同的意图，使模型的能力和可解释性更强。除此之外，我们还为GNN设计了一个新的信息聚合模型，可以递归地聚合长连接的关系序列。这个模型让我们可以提取用户意图的有用信息，将他们编码为用户和物品的表示。三个基准数据集上的实验结果证明我们的模型表现得比其他先进模型（如KGAT、KGNN-LS、CKAN）优秀。

图4

KGIN模型图

图5

3.Interest-aware Message-Passing GCN for Recommendation

GCN在推荐领域具有很大的潜力，但是基于GCN的推荐模型经常会遇到过度平滑的问题。近期出现的模型LightGCN和LR-GCN模型在一定程度上缓解了这个问题，但是他们忽视了一个重要因素——在图卷积运算中，没有其中一个用户的共同兴趣的高阶邻居用户也可以包括于其他用户的embedding。因而多层卷积会使具有不同兴趣的用户得到类似的embedding。因此我们提出消息传递GCN模型（IMP-GCN）。这个模型比目前的先进模型性能更好。

图6

有两个子图的IMP-GCN模型阐述。

图7

实验结果

4.RetaGNN: Relational Temporal Attentive Graph NeuralNetworks for Holistic Sequential Recommendation

顺序推荐（SR）可以精准地根据用户最近浏览的物品，为其推荐一系列物品。一个重要的任务是在不重复训练的情况下创建用户和物品的embedding。因为用户-物品的互动可能非常稀疏，另一个重要任务是创建可转换的SR，将一个领域得到的丰富知识转换到另一个领域。在这项工作中，我们提出了一个新的基于深度学习的模型——关系时序注意力图神经网络（RetaGNN）。RetaGNN的中心思想有三个方面：

1.为了具有归纳和可转移的能力，我们从局部子图上的用户-项目对训练了关系注意力GNN，其中可学习的权重矩阵位于用户、项目和属性之间的各种关系上，而不是节点或边上。

2.用户偏好的长期和短期时间模式是通过提出的顺序自我注意力机制进行编码的。

3.我们设计了一个关系感知的正则化术语，以更好地训练RetaGNN。

图8

模型图

图9

实验结果

5.Self-Supervised Multi-Channel Hypergraph ConvolutionalNetwork for Social Recommendation

在推荐系统中，当用户-物品互动数据很稀疏时，社会关系通常用于提升推荐质量。目前大部分的社交推荐模型挖掘一对关系来发现潜在的用户偏好。但是，现实生活中的用户互动是非常复杂的，而且用户的关系是高阶的。超图可以提供一种自然的方式来对高阶关系进行建模。这里我们通过利用高阶用户关系提出了多频道超图卷积网络来加强社交推荐。