盘点 | AAAI2020中的四篇推荐系统好文

AAAI中推荐系统的文章并不多，目之所及处仅有四篇。内容上覆盖了评论推荐、多目标推荐以及图神经网络等话题。

本文基于AAAI中的这四篇推荐系统论文，展开瞅一瞅它们都讲了些什么。

第一篇文章：可解释评论的推荐中的非对称层次网络与专注的交互

Asymmetrical Hierarchical Networks with Attentive Interactions for Interpretable Review-Based Recommendation

论文链接: https://arxiv.org/pdf/2001.04346.pdf

关键词：Hierarchical ; Review

基于用户评论的推荐确实是一个非常值得研究的主题。大多数推荐系统都是为了挖掘用户显式行为背后的隐式反馈，试图去Get到用户的意图。与这样的动机相比，评论是用户主动给出的意图，相比之下更加准确。现有的方法通常将给定用户或物品的所有评论合并到一个长文档中，然后以相同方式处理用户和物品文档。

但是，实际上，这两组评论是截然不同的。用户的评论反映了他们购买的各种商品，因此其主题非常不同，而一项商品的评论仅与该单个商品相关，因此在局部上是同质的。看上去怎么像绕口令似的，那么我简单地翻译一下：

我买了一条新的裙子并且对这条裙子给出了评论，我这个评论是只针对我这次买的这条裙子的。你如果拿我这条评论去预测我对其他裙子的偏好，这就有问题了。

在这项工作中，我们开发了一种新颖的神经网络模型，该模型通过非对称的注意力模块正确地解决了这一重要差异。形式上分为两个模块：

用户模块学习仅关注与目标物品相关的那些信号
物品模块学习有关物品属性的最显著内容

文章中所提出的多层次的范式解释了这样一个事实，就是说并非所有的评论都是同样有用的，也不是每个评论中的所有句子都一样中肯。

本文的贡献是极大的：在这项工作中强调了评论推荐中的不对称的注意力问题。为了解决这个问题，提出了一种灵活的神经结构，即AHN，其特点是它的非对称注意模块来区分用户嵌入和物品嵌入与评论的学习，以及它的层次范式来提取细粒度的句子和评论信号。

识别了不对称注意力问题，并提出基于评论的推荐。
提出了AHN，一种新的深度学习架构，它不仅捕获了评论数据的不对称和层次特征，同时还支持结果的可解释性。

推荐系统----2020会议文章集锦

换言之，这是一个能够”具体评论具体分析“的新颖方法，值得一看~

第二篇文章：会话推荐系统的贝叶斯方法

A Bayesian Approach to Conversational Recommendation Systems

论文链接: https://arxiv.org/pdf/2002.05063.pdf

关键词：Bayesian; Conversational RS

本文提出了一个基于贝叶斯方法的会话推荐系统。在与用户进行任何交互之后，将更新物品上的概率质量函数，信息理论标准将优化交互的形状，并确定何时应终止会话并因此推荐最可能的项目。

作者从基本结构判断中得出用于建模交互的参数的先验概率的专用启发技术。这样的先验信息可以与历史数据结合，以区分具有不同推荐历史的物品。

在纯贝叶斯方法的基础上，作者提出了一种新的自动推荐方法。该方法假设系统和用户之间存在动态交互，从而提供自定义和自适应的推荐。本文所介绍的框架为未来的发展奠定了基础，其中问题的动态生成是为了改善系统的会话性质。这可以基于一个自然语言生成系统，与物品属性的结构化概率描述和用户需求的激发交互。

推荐系统----2020会议文章集锦

第三篇文章：多目标推荐系统的多梯度下降

Multi-Gradient Descent for Multi-Objective Recommender Systems

论文链接: https://arxiv.org/pdf/2001.00846.pdf

关键词：Multi-Gradient Descent; Multi-Objective RS

推荐系统需要反映应用它们的环境的复杂性。我们对可能有益于用户的知识越了解，推荐系统的目标就越多。此外，除了法律和道德约束外，可能还有多个利益相关者-卖方，买方，股东。迄今为止，为具有相关或不具有相同规模的多个目标同时进行优化是非常困难的。

推荐系统的复杂应用场景，使我们又需要多目标模型，但是又很难做好。哎呀，成人的世界就是这么的复杂。

作者为推荐系统（MGDRec）引入了随机的多梯度下降方法来解决此问题。不仅如此，而且通过梯度归一化，将具有不同规模的根本不同的目标组合到一个一致的框架中。文中表明，不相关的目标（如优质产品的比例）可以提高准确性。通过使用随机性，避免了计算完整梯度的陷阱，并为其适用性提供了明确的条件。

该文章的主要思想如下：

本文利用多梯度下降法，结合不同的目标，找到一组多目标推荐问题的解决方案。
本文将梯度归一化的新思想引入到多梯度推荐中。这允许我们通过使用子梯度来放松单个目标的可微性条件，将根本不同的目标组合到同一个目标函数中。这种灵活性允许我们处理来自多个涉众的目标。

推荐系统----2020会议文章集锦

第四篇文章：记忆增强图神经网络的序列化推荐

Memory Augmented Graph Neural Networks for Sequential Recommendation

论文链接: https://arxiv.org/pdf/1912.11730.pdf

关键词：GNN; Sequential RS

用户与物品的交互的时间顺序可以揭示许多推荐系统中时间演变和顺序的用户行为。用户将与之交互的项目可能取决于过去访问的项目。但是，用户和项目的大量增加使得顺序推荐系统仍然面临着不小的挑战：

1. 短期用户兴趣建模的难度；
2. 难以吸引长期用户兴趣；
3. 物品共现模式的有效建模。

为了解决这些挑战，提出了一种内存增强图神经网络（MA-GNN），以捕获长期和短期的用户兴趣。

具体来说，作者应用图神经网络在短期内为物品上下文信息建模，并利用共享内存网络捕获物品之间的长期依赖关系。除了对用户兴趣进行建模外，还采用了双线性函数来捕获相关项目的共现模式。结果证明了我们的模型对Top-K序列化推荐任务的有效性。

本文的主要观点概括如下：

为了对用户的短期和长期兴趣进行建模，提出了一种记忆增强的图神经网络来捕捉物品的短期上下文信息和长期依赖关系。
为了有效地融合短期和长期兴趣，作者在GNN框架中加入了一个闸门机制，以自适应地结合这两种隐藏的表示。
为了显式地建模物品共现模式，使用了双线性函数来捕捉物品之间的特征相关性。

推荐系统----2020会议文章集锦

MA-GNN的模型架构

ECAI，全称为 European Conference on Artificial Intelligence，是欧洲主要的人工智能会议:

ECAI2020，第 24 届欧洲人工智能大会，此次会议共收到了 1443 篇有效论文，其中 1363 篇完整论文和 80 篇短论文，最终接收了 365 篇完整论文和 36 篇短文，接受率为 26.8％:

Joint Modeling of Local and Global Behavior Dynamics for Session-based Recommendation.

一篇建模用户全局与局部行为动态性的基于会话的推荐系统。

Directional Adversarial Training for Recommender Systems.

这篇论文中，设计了一种对抗训练（DAT）策略，即在适当的限制下，用户和物品的嵌入向量都朝着其相似的邻居方向变化，通过将这种协同过滤信号作为扰动注入推荐系统模型的训练过程中的，使得模型的泛化效果得到了较大提升。

Shallow Neural Models for Top-N Recommendation.

这篇论文是我比较感兴趣的，因为目前的推荐模型非深即宽，加深结构可以增加泛化能力，加宽结构可以提取交叉特征。因此大部分研究都是基于此展开的，要么加深网络，要么加宽网络。所以看到该论文题目，用于 TopN 推荐的浅神经网络，比较好奇是如何利用这样的浅层结构来打败复杂模型产生 SOTA 性能的，期待一读。

国际顶级学术会议WWW2020定在2020年4月20-24日于中国台湾举办。受COVID-19疫情影响(疫情赶紧过去吧)，大会将在线上举行。

本次会议共收到了1129篇论文投稿，录用217篇，录取率仅为19.2%。其中关于推荐系统的论文大约38篇，推荐系统占比17.5%，可见推荐系统的研究受到学术界的广泛关注。另外，值得注意的是，接收的推荐系统论文中大部分都是与工业界合作的产物，因此不管是学术界还是工业界，推荐系统都是研究的热点与重点。

针对这38篇论文，我们进行了梳理分类，如下表所示:

推荐系统----2020会议文章集锦

可见，推荐系统应用的文章以及序列化推荐的文章占比较大；随后是提升推荐效率、社会化推荐、常规推荐以及利用强化学习推荐；其次是兴趣点推荐、冷启动问题研究、推荐系统中的安全性、推荐公平性以及可解释推荐的文章；最后是各有一篇跨域推荐、利用知识图推荐、对话推荐系统以及用于点击率预估的推荐。

Practical RS:

Graph Enhanced Representation Learning for News Recommendation
Weakly Supervised Attention for Hashtag Recommendation using Graph Data
Personalized Employee Training Course Recommendation with Career Development Awareness
Understanding User Behavior For Document Recommendation
Recommending Themes for Ad Creative Design via Visual-Linguistic Representations
paper2repo: GitHub Repository Recommendation for Academic Papers

Sequential RS:

Adaptive Hierarchical Translation-based Sequential Recommendation
Attentive Sequential Model of Latent Intent for Next Item Recommendation
Déjà vu: A Contextualized Temporal Attention Mechanism for Sequential Recommendation
Intention Modeling from Ordered and Unordered Facets for Sequential Recommendation
Future Data Helps Training: Modeling Future Contexts for Session-based Recommendation
Keywords Generation Improves E-Commerce Session-based Recommendation

Effcient RS:

Learning to Hash with Graph Neural Networks for Recommender Systems
LightRec: a Memory and Search-Efficient Recommender System
A Generalized and Fast-converging Non-negative Latent Factor Model for Predicting User Preferences in Recommender Systems
Efficient Non-Sampling Factorization Machines for Optimal Context-Aware Recommendation

Social RS:

Efficient Non-Sampling Factorization Machines for Optimal Context-Aware Recommendation
The Structure of Social Influence in Recommender Networks
Few-Shot Learning for New User Recommendation in Location-based Social Networks

Explainability for RS:

Directional and Explainable Serendipity Recommendation
Dual Learning for Explainable Recommendation: Towards Unifying User Preference Prediction and Review Generation

POI RS:

Next Point-of-Interest Recommendation on Resource-Constrained Mobile Devices
A Category-Aware Deep Model for Successive POI Recommendation on Sparse Check-in Data

General RS:

Efficient Neural Interaction Function Search for Collaborative Filtering
Learning the Structure of Auto-Encoding Recommenders
Deep Global and Local Generative Model for Recommendation

Fairness in RS:

Hierarchical Visual-aware Minimax Ranking Based on Co-purchase Data for Personalized Recommendation
FairRec: Two-Sided Fairness for Personalized Recommendations in Two-Sided Platforms

RL for RS:

Off-policy Learning in Two-stage Recommender Systems
Hierarchical Adaptive Contextual Bandits for Resource Constraint based Recommendation

Cross-domain RS:

Exploiting Aesthetic Preference in Deep Cross Networks for Cross-domain Recommendation

Knowledge Graph RS:

Reinforced Negative Sampling over Knowledge Graph for Recommendation

Conversational RS:

Latent Linear Critiquing for Conversational Recommender Systems

CTR for RS:

Adversarial Multimodal Representation Learning for Click-Through Rate Prediction

首先，我们来说一说今年的IJCAI。好像一直在被吐槽，从一开始的灭霸操作5147 篇文章直接Summary Reject掉2191篇文章（拒稿率42%）

Sequential RS

Adversarial Oracular Seq2seq Learning for Sequential RecommendationPengyu Zhao, Tianxiao Shui, Yuanxing Zhang, Kecheng Xiao, Kaigui Bian
Collaborative Self-Attention Network for Session-based RecommendationAnjing Luo, Pengpeng Zhao, Yanchi Liu, Fuzhen Zhuang, Deqing Wang, Jiajie Xu, Junhua Fang, Victor S. Sheng
Memory Augmented Neural Model for Incremental Session-based RecommendationFei Mi, Boi Faltings

Cross-Domain RS

A Graphical and Attentional Framework for Dual-Target Cross-Domain RecommendationFeng Zhu, Yan Wang, Chaochao Chen, Guanfeng Liu, Xiaolin Zheng
Learning Personalized Itemset Mapping for Cross-Domain RecommendationYinan Zhang, Yong Liu, Peng Han, Chunyan Miao, Lizhen Cui, Baoli Li, Haihong Tang

POI RS

Contextualized Point-of-Interest RecommendationPeng Han, Zhongxiao Li, Yong Liu, Peilin Zhao, Jing Li, Hao Wang, Shuo Shang
Discovering Subsequence Patterns for Next POI RecommendationKangzhi Zhao, Yong Zhang, Hongzhi Yin, Jin Wang, Kai Zheng, Xiaofang Zhou, Chunxiao Xing
An Interactive Multi-Task Learning Framework for Next POI Recommendation with Uncertain Check-insLu Zhang, Zhu Sun, Jie Zhang, Yu Lei, Chen Li, Ziqing Wu, Horst Kloeden, Felix Klanner

Explainable RS

Explainable Recommendation via Interpretable Feature Mapping and Evaluation of ExplainabilityDeng Pan, Xiangrui Li, Xin Li, Dongxiao Zhu
Synthesizing Aspect-Driven Recommendation Explanations from ReviewsTrung-Hoang Le, Hady W. Lauw
Towards Explainable Conversational RecommendationZhongxia Chen, Xiting Wang, Xing Xie, Mehul Parsana, Akshay Soni, Xiang Ao, Enhong Chen

News RS

User Modeling with Click Preference and Reading Satisfaction for News RecommendationChuhan Wu, Fangzhao Wu, Tao Qi, Yongfeng Huang
HyperNews: Simultaneous News Recommendation and Active-Time Prediction via a Double-Task Deep Neural NetworkRui Liu, Huilin Peng, Yong Chen, Dell Zhang

Cold-Start in RS

Internal and Contextual Attention Network for Cold-start Multi-channel Matching in RecommendationRuobing Xie, Zhijie Qiu, Jun Rao, Yi Liu, Bo Zhang, Leyu Lin

General RS

Deep Feedback Network for RecommendationRuobing Xie, Cheng Ling, Yalong Wang, Rui Wang, Feng Xia, Leyu Lin
Intent Preference Decoupling for User Representation on Online Recommender SystemZhaoyang Liu, Haokun Chen, Fei Sun, Xu Xie, Jinyang Gao, Bolin Ding, Yanyan Shen
Neural Tensor Model for Learning Multi-Aspect Factors in Recommender SystemsHuiyuan Chen, Jing Li

第43届国际信息检索研究和发展大会（SIGIR）将于2020年7月25-30日在美丽的中国西安举行。此次大会共收到了555篇长文投稿，录用147篇，长文录取率26.4%；共收到了507篇短文投稿，录用153篇，短文录取率30%。

正因为推荐与搜索是解决信息过载的两种有效途径，因此虽然是关于检索的会议，但通过下图可以看出推荐（Recommendation）占据了很大比例，与搜索（Search+Retrieval）不相上下。另外，图与网络（Graph/Network）数据成为研究的主要对象，毕竟许多待研究的对象都可以表示为图。值得注意的是，神经网络（Neural）仍然排在前列；融合知识（Knowledge）的搜索/推荐系统也被许多研究者研究。除此之外，强化学习也出现在了排行榜中，可见利用强化学习的思想来迭代优化搜索/推荐逐渐成为流行。

推荐系统----2020会议文章集锦

另外，还注意到今年SIGIR开办了一场关于对话推荐/检索的Tutorial，感兴趣的小伙伴可以多多关注。想提前了解对话推荐（Conversational RS，CRS）的朋友，可以公众号后台回复【CRS】获取对话推荐系统最新综述。

前言

第58届国际计算语言学协会年会（ACL，The Association for Computational Linguistics）将于2020年7月6号-8号线上举行。官网公布了ACL2020的论文收录名单，共计收录778篇论文，本次ACL大会共提交了3429篇论文，长文录取率为25%。作为自然语言处理（NLP）领域的顶会，其中有一些涉及NLP技术的推荐系统论文也会投稿于此。

第37届机器学习国际会议（ICML，International Conference on Machine Learning）将于2020年7月12日至18日线上举行。官网公布了ICML2020的论文收录名单，共计收录1088篇论文，本次ICML大会共提交了4990篇论文，录取率为21.8%。

推荐系统-ICML2020

本文介绍 ICML2020 中 4 篇与推荐系统相关的论文。分别为：

低通协同过滤推荐的图卷积网络
推荐系统中 [email protected] 度量的优化与分析
有序非负矩阵分解在推荐中的应用
推荐系统中的长期社会福利优化：一种约束匹配方法

图卷积网络（GCN）广泛应用于推荐等图数据学习任务中。然而，当面对较大的图时，图卷积计算量很大，因此现有的 GCN 中都进行了简化，但由于过于简化而受到严重影响。为了弥补这一差距，这篇文章利用 GCN 中原有的图卷积，提出了一种低通协同过滤（LCF），使其适用于大型图。LCF 的设计消除了观测数据中曝光和量化带来的噪声，并无损地降低了图形卷积的复杂度。实验表明，LCF 提高了图卷积的有效性和效率，并且提出的 GCN 的性能明显优于现有的 GCN。您可以在 https：//github.com/wenhui-yu/lcfn 上查看代码。

推荐系统----2020会议文章集锦

所有模型在两个数据集上的性能（“Imp”表示相对提高，“BB”表示最佳基线）

2. Optimization and Analysis of the [email protected] Metric for Recommender Systems

推荐系统----2020会议文章集锦

https://proceedings.icml.cc/static/paper_files/icml/2020/1095-Paper.pdf

现代推荐和通知系统必须稳健地应对数据失衡、建议/通知数量限制以及用户之间的异类接触。[email protected] 度量结合了 partial-AUC 度量和 [email protected] 度量，最近被提出用于评估上面所述的推荐系统，并已在实际部署中使用。从概念上讲，[email protected] 衡量正确的将排名靠前的正实例排在排名靠前的负实例前面的概率。由于排名靠前的点所呈现的组合特征，人们对 [email protected] 的特点和优化方法知之甚少，文章中分析了 [email protected] 的学习理论特性，特别是它在评价现代推荐系统中的优势，并提出了在一定的数据规则条件下保持一致的新的替代物。然后，文章提供了基于梯度下降的算法来直接优化替代物。文章的分析和实验评估表明，[email protected] 确实在 partial-AUC 和 [email protected] 上表现出了一定的双重行为，而且在各种应用中，所提出的方法都优于所有的基线。综上所述，文章的结果推动了 [email protected] 在具有不同用户参与度的大规模推荐系统中的使用。

推荐系统----2020会议文章集锦

在Movielens, Citation 和 Behance 数据集上不同方法的 [email protected] 增益(以%为单位)。值越高越好。该方法的性能优于基线，尤其是[email protected]

3. Ordinal Non-negative Matrix Factorization for Recommendation

推荐系统----2020会议文章集锦

https://proceedings.icml.cc/static/paper_files/icml/2020/4539-Paper.pdf

这篇文章介绍了一种新的有序数据非负矩阵分解（NMF）方法，称为 OrdNMF. 有序数据是类别之间表现出自然排序的分类数据。具体地说，它们可以在具有显式数据（例如评级）或隐式数据（例如量化播放数量）的推荐系统中找到。OrdNMF 是一个概率潜在因子模型，它推广了伯努利—泊松分解（BePoF）和泊松分解（PF）在二值化数据上的应用。与这些方法相反，OrdNMF 避开了二进制化，可以利用更丰富的数据表示形式。文章设计了一种有效的变分算法，该算法基于合适的模型增广，并与变分 PF 相关。特别地，提出的算法保持了 PF 算法的可扩展性，可以应用于海量稀疏数据集。在显式和隐式数据集上的推荐实验表明 OrdNMF 在二值化数据上的性能优于 BePoF 和 PF.

推荐系统----2020会议文章集锦

4. Optimizing Long-term Social Welfare in Recommender Systems: A Constrained Matching Approach

推荐系统----2020会议文章集锦

https://proceedings.icml.cc/static/paper_files/icml/2020/3138-Paper.pdf

大多数推荐系统（RS）研究假设用户的效用可以独立于其他代理（例如，其他用户、内容提供商）的效用而最大化。在现实环境中，这通常不是真的—— RS 生态系统的动态性耦合了所有代理的长期效用。这项工作将探讨内容提供商除非获得一定级别的用户参与，否则无法继续生存的设定。文章将这一背景下的推荐问题描述为诱导动力系统中的均衡选择问题，并证明了该问题可以作为一个最优约束匹配问题来求解。文中证明，即使在一个简单的、风格化的动态 RS 模型中，标准的短视推荐方法——总是将用户与最好的提供商相匹配——也表现不佳。文章中开发了几种可扩展的技术来解决匹配问题，并将其与用户遗憾和公平的各种概念联系起来，在实用意义上这些结果是更公平的。

推荐系统----2020会议文章集锦

当用户/提供商嵌入是倾斜的时，由于不太受欢迎的提供商放弃平台，短视的推荐产生次优的用户福利

Graph Convolutional Network for Recommendation with Low-pass Collaborative Filters

https://arxiv.org/abs/2006.15516.pdf

Optimization and Analysis of the [email protected] Metric for Recommender Systems
Optimizing Long-term Social Welfare in Recommender Systems: A Constrained Matching Approach
Ordinal Non-negative Matrix Factorization for Recommendation

https://arxiv.org/pdf/2006.01034.pdf

网络表示学习&图神经网络相关

Learning to Ask More: Semi-Autoregressive Sequential Question Generation under Dual-Graph Interaction.
Every Document Owns Its Structure: Inductive Text Classification via Graph Neural Networks.
GCAN: Graph-aware Co-Attention Networks for Explainable Fake News Detection on Social Media.
Integrating Semantic and Structural Information with Graph Convolutional Network for Controversy Detection.
Line Graph Enhanced AMR-to-Text Generation with Mix-Order Graph Attention Networks.
Query Graph Generation for Answering Multi-hop Complex Questions from Knowledge Bases.
A Graph Auto-encoder Model of Derivational Morphology.
AMR Parsing via Graph-Sequence Iterative Inference.
Semantic Graphs for Generating Deep Questions.
A Novel Graph-based Multi-modal Fusion Encoder for Neural Machine Translation.
Relational Graph Attention Network for Aspect-based Sentiment Analysis.
Syntax-Aware Opinion Role Labeling with Dependency Graph Convolutional Networks.
Entity-Aware Dependency-Based Deep Graph Attention Network for Comparative Preference Classification.
Heterogeneous Graph Neural Networks for Extractive Document Summarization.
Dependency Graph Enhanced Dual-transformer Structure for Aspect-based Sentiment Classification.
Document Modeling with Graph Attention Networks for Multi-grained Machine Reading Comprehension.
Aligned Dual Channel Graph Convolutional Network for Visual Question Answering.
Multimodal Neural Graph Memory Networks for Visual Question Answering.
Fine-grained Fact Verification with Kernel Graph Attention Network
Continuous Graph Neural Networks

知识图谱

Query Graph Generation for Answering Multi-hop Complex Questions from Knowledge Bases.
Grounded Conversation Generation as Guided Traverses in Commonsense Knowledge Graphs.
Can We Predict New Facts with Open Knowledge Graph Embeddings? A Benchmark for Open Link Prediction.
The Dialogue Dodecathlon: Open-Domain Knowledge and Image Grounded Conversational Agents.
Knowledge Graph Embedding Compression.
Orthogonal Relation Transforms with Graph Context Modeling for Knowledge Graph Embedding.
Breaking Through the 80% Glass Ceiling: Raising the State of the Art in Word Sense Disambiguation by Incorporating Knowledge Graph Information.
SEEK: Segmented Embedding of Knowledge Graphs.
SKEP: Sentiment Knowledge Enhanced Pre-training for Sentiment Analysis.
Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings.
Knowledge Graph-Augmented Abstractive Summarization with Semantic-Driven Cloze Reward.
A Re-evaluation of Knowledge Graph Completion Methods.
ReInceptionE: Relation-Aware Inception Network with Joint Local-Global Structural Information for Knowledge Graph Embedding.
Connecting Embeddings for Knowledge Graph Entity Typing.
Low-Dimensional Hyperbolic Knowledge Graph Embeddings.

CIKM2020 | 最新9篇推荐系统相关论文

第29届国际计算机学会信息与知识管理大会CIKM2020将于2020年10月19日-10月23日在线上召开。CIKM是CCF推荐的B类国际学术会议，是信息检索和数据挖掘领域顶级学术会议之一。本届CIKM会议共收到投稿920篇，其中录用论文193篇，录取率约为21%。此次整理的论文大部分来自人大、清华和华为。

题目：S3-Rec: Self-Supervised Learning for Sequential Recommendation with Mutual Information Maximization

作者：周昆，王辉，赵鑫，朱余韬，王思睿，张富铮，王仲远，文继荣

概述：近年来，深度学习在序列化推荐领域取得了巨大成功，已有的序列化推荐模型通常依赖于商品预测的损失函数进行参数训练。但是该损失函数会导致数据稀疏和过拟合问题，其忽视了上下文数据与序列数据之间的关联，使得数据的表示学习的并不充分。为解决该问题，本文提出了S3-Rec这一模型，该模型基于自注意力模型框架，利用四个额外的自监督训练函数来学习属性、商品、序列之间的特殊关系。在这里，本文采用了互信息最大化技术来构造这些自监督函数，以此来统一这些关系。在六个数据集上的充分实验表明本文提出的模型能够取得State-of-the-art的效果，其在数据量受限和其他推荐模型上也能带来较大的提升。关于自监督学习可参考Self-Supervised Learning论文整理。

推荐系统----2020会议文章集锦

题目：Diversifying Search Results using Self-Attention Network

作者：秦绪博，窦志成，文继荣

概述：搜索结果多样化的目标是使得检索得到的结果能够尽量覆盖用户提出问题的所有子话题。已有的多样化排序方法通常基于贪心选择(Greedy Selection)过程，独立地将每一个候选文档与已选中的文档序列进行比较，选择每一个排序位置的最佳文档，生成最后的文档排序。而相关研究证明由于各候选文档的边际信息收益并非彼此独立，贪心选择得到的各个局部最优解将难以导向全局最佳排序。本文介绍了一种基于自注意力网络(Self-Attention Network)的方法，可以同步地衡量全体候选文档间的关系，以及候选文档对不同用户意图的覆盖程度，有效地克服原有方法受限于贪心选择过程的局限性，并在TRECWebTrack09-12数据集上获得更好的性能。

推荐系统----2020会议文章集锦

题目：PSTIE: Time Information Enhanced Personalized Search

作者：马正一，窦志成，边关月，文继荣

概述：基于深度学习的个性化搜索模型通过序列神经网络（例如RNN）对用户搜索历史进行序列建模，归纳出用户的兴趣表示，取得了当前最佳的效果。但是，这一类模型忽略了用户搜索行为之间细粒度的时间信息，而只关注了搜索行为之间的相对顺序。实际上，用户每次查询之间的时间间隔可以帮助模型更加准确地对用户查询意图与文档兴趣的演化进行建模。同时，用户历史查询与当前查询之间的时间间隔可以直接帮助模型计算用户的重查找（re-finding）行为概率。基于此，本文提出了一个时间信息增强的个性化搜索模型。我们设计了两种时间感知的LSTM结构在连续时间空间中对用户兴趣进行建模，同时直接将时间信息利用在计算用户重查找概率中，计算出了更加准确的用户长短期兴趣表示。我们提出了两种将用户兴趣表示用于个性化排序的策略，并在两个真实数据集上取得了更好的效果。

推荐系统----2020会议文章集锦

论文：Learning Better Representations for Neural Information Retrieval with Graph Information

作者：李祥圣，Maarten de Rijke, 刘奕群，毛佳昕，马为之，张敏，马少平

概述：目前的检索模型多数基于文本间的匹配。然而，对于一个搜索会话，用户的行为之间是具有联系的，这样的联系可以用图的方式表示出来。例如用户在会话搜索中修改查询的过程可以知道那些查询之间是相似的，用户点击文档后，可以知道查询与文档之间的关联性。利用这样的两个网络，我们可以构建一个由用户行为组成的图网络。在传统的文本匹配模式上，进一步地引入行为图信息帮助检索模型更好地理解用户搜索意图。检索模型可以利用图信息，对输入的查询进行相似节点查询。同理，对于候选文档也可以利用相似节点查询。通过引入邻接节点信息，丰富当前节点的语义表示。

现有的图模型的工作主要分为两种：网络嵌入式表示方法与图神经网络方法。基于这两种方法，我们提出了两种利用图信息改进检索模型的方法，两种方法的示意图如下所示：

推荐系统----2020会议文章集锦

题目: GraphSAIL: Graph Structure Aware Incremental Learning for Recommender Systems

概述：推荐系统可以帮助用户很方便的从在线服务中获取想要的信息，在提升用户体验方面起着越来越重要的作用，也累计了越来越多的用户数据。随着图神经网络（GNNs）的出现，基于用户-物品二部图来学习用户、物品表达展现出了巨大的优势。但是，GNN模型的训练复杂度很高，难以频繁地更新以提供最新的用户、物品个性化表达。在本研究中，我们提出通过增量的方式更新基于GNN的推荐模型，以大大缩短训练时间，从而可以更频繁地更新模型。我们设计了一种图结构感知增量学习框架GraphSAIL，以克服在增量方式训练模型时常常出现的灾难性遗忘问题。GraphSAIL实现了一种可以保存每个节点的局部结构、全局结构和自信息的图结构信息保存策略，从而在增量更新期间可以更好的保留用户的长期偏好（以及物品的长期属性）。GraphSAIL是首个对基于GNN的推荐模型进行增量更新的框架，在两个公共数据集上与其它增量学习技术的对比展示出了GraphSAIL的优越性。我们进一步在大规模工业数据集上验证了我们的框架的有效性。

推荐系统----2020会议文章集锦

图1：GraphSAIL全局结构蒸馏示例

推荐系统----2020会议文章集锦

题目：Personalized Re-ranking with Item Relationships for E-commerce

概述：在大规模商用推荐系统中，重排序(re-ranking)是一项非常关键的任务。重排序模型在已有初始排序的基础上，进行更精细的排序建模，以提高最终推荐结果的准确性。但是，现有的推荐重排序模型大多忽略了以下两个问题：（1）忽略了列表中商品与商品之间的相互关系和影响，例如拥有可替代(substitutable)或者互补(complementary)关系的商品出现在同一列表中，会影响到用户对于另一商品的满意度；（2）对所有用户使用单一的重排序策略，而忽略了用户个性化的偏好和意图。为了解决这些问题，我们构造了一个异构图来融合初始排序信息和商品关系信息。我们设计了一个基于图神经网络的框架IRGPR，通过递归的方式逐步聚合来自多跳邻域的依赖关系和结构信息。同时，我们还提出了一个新颖的意图嵌入网络，对个性化的用户意图进行显式建模。大量在真实数据集上的实验证实了IRGPR在重排序任务上的有效性。进一步分析表明，对商品关系和个性化意图建模有助于提升重排序的推荐效果。【诺亚推荐与搜索团队自研成果】

推荐系统----2020会议文章集锦

图2：IRGPR模型结构

推荐系统----2020会议文章集锦

题目：TGCN: Tag Graph Convolutional Network for Tag-Aware Recommendation

概述：标签感知推荐系统 (Tag-aware recommender systems)利用了用户对物品的标注标签作为一种辅助信息来提升推荐性能，传统的基于深度学习的标签感知推荐模型单纯依靠基于标签的特征来表征用户和物品，这种方式难以有效解决标签空间的稀疏性、模糊性和冗余性等弊端。为了解决这个问题，我们将用户的标注记录以无向带权异构图的形式进行组织，通过邻居来提供额外的内容信息。在本工作中，我们提出了一个基于图神经网络的模型TGCN。TGCN针对不同类型的邻居节点采用不同的采样和聚合操作，并利用注意力网络来识别邻居和节点类型的重要性。此外，利用卷积神经网络作为类型聚合方式从而建模多粒度的特征交互。我们在公开数据集和产品数据集进行验证，TGCN模型在各个评价指标上均优于现有的标签感知推荐模型。【诺亚推荐与搜索团队自研成果】

推荐系统----2020会议文章集锦

图3：TGCN模型结构

推荐系统----2020会议文章集锦

题目：U-rank: Utility-oriented Learning to Rank with Implicit Feedback

概述：使用隐式反馈进行排序学习是许多现有信息系统、推荐系统最重要的任务之一。信息系统、推荐系统一般都有特定的优化目标，例如，增加点击量和提高收入。我们泛称该优化目标为收益。很多时候，我们希望有一个算法能够直接最优化收益。然而，现有的排序算法原则并不能够最大化收益。为此，我们提出了一种新型排序框架，U-rank，将期望收益最大化的问题建模为物品和位置的二分图最大权重匹配问题。该框架考虑位置偏置对收益的影响，通过借助位置感知的深度点击率预测模型，计算二分图的权重为在特定query下该物品被放到某个位置的收益。我们借鉴了有效的Lambdaloss框架来最大化该二分图匹配问题，这个框架得到了理论和经验分析的支持。我们在三个benchmark数据集和二个的私有数据集上进行了大量的实验，充分展示了U-rank在优化收益的目标上表现优于许多state-of-the-arts算法。此外，U-rank已经部署到一个商业推荐系统，线上A/B测试中观察到U-rank相对生产基线大幅提升了点击率和转化率。【诺亚推荐与搜索团队，上海交大Apex实验室俞勇/张伟楠老师团队联合研究成果】

推荐系统----2020会议文章集锦

图4：将排序问题建模成二分图最大权重匹配问题

推荐系统----2020会议文章集锦

题目：AutoFeature: Searching for Feature Interactions and Their Architectures for Click-through Rate Prediction

概述：点击率预测问题是商业推荐系统中一个重要研究课题。而在这个课题中中，如何有效建模特征交互是一个核心研究点。但是，现有的方案要么对于某一阶交互建模了所有可能的特征交互，要么需要人工去选择特征交互。这些模型使用了相同的网络结构或者函数去建模所有的特征交互，从而忽略了不同特征交互之间复杂度的不同。为了解决这些问题，我们提出了一个基于神经网络架构搜索的模型AutoFeature，去自动化的找到潜在有用的特征交互，并且选择合适的神经网络结构去建模不同的特征交互。首先，我们设计了一个灵活的搜索空间，使得覆盖了很多流量的深度推荐模型如PIN，PNN，DeepFM等，并且能够建模高阶特征交互。其次，我们提出了一个高效的神经网络架构检索算法，能够迭代循环的将搜索空间划分成多个子空间，并且从中采样出高质量的神经网络结构。我们在公开数据集上进行了充分的实验，验证了AutoFeature的精度和效率。【诺亚推荐与搜索团队，AI基础理论团队联合研究成果】

推荐系统----2020会议文章集锦

图5：AutoFeature的神经网络架构搜索流程图

KDD 2020 推荐系统论文一览

KDD是推荐领域一个顶级的国际会议。本次接收的论文按照推荐系统应用场景可以大致划分为：CTR预估、TopN推荐、对话式推荐、序列推荐等。同时，GNN、强化学习、多任务学习、迁移学习、AutoML、元学习在推荐系统的落地应用也成为当下的主要研究点。此届会议有很大一部分来自工业界的论文，包括Google、Microsoft、Criteo、Spotify以及国内大厂阿里、百度、字节、华为、滴滴等。

CTR Prediction

1. AutoFIS: Automatic Feature Interaction Selection in Factorization Models for Click-Through Rate Prediction 【华为诺亚】

简介：本文采用AutoML的搜索方法选择重要性高的二次特征交互项、去除干扰项，提升FM、DeepFM这类模型的准确率。
论文：https://arxiv.org/abs/2003.11235

2. Category-Specific CNN for Visual-aware CTR Prediction at JD.com 【京东】

论文：https://arxiv.org/abs/2006.10337

3. Towards Automated Neural Interaction Discovering for Click-Through Rate Prediction 【Facebook】

论文：https://arxiv.org/abs/2007.06434

Graph-based Recommendation

1. A Framework for Recommending Accurate and Diverse Items Using Bayesian Graph Convolutional Neural Networks 【华为诺亚】

2. An Efficient Neighborhood-based Interaction Model for Recommendation on Heterogeneous Graph 【Amazon】

论文：https://arxiv.org/abs/2007.00216

3. M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems 【阿里】

简介：本文通过关联多个视角的图(item-item图、item-shop图、shop-shop图等)增强item表征，用于item召回。
论文：https://arxiv.org/abs/2005.10110

4. Handling Information Loss of Graph Neural Networks for Session-based Recommendation

5. Interactive Path Reasoning on Graph for Conversational Recommendation

论文：https://arxiv.org/abs/2007.00194

6. A Dual Heterogeneous Graph Attention Network to Improve Long-Tail Performance for Shop Search in E-Commerce 【阿里】

7. Gemini: A Novel and Universal Heterogeneous Graph Information Fusing Framework for Online Recommendations 【滴滴】

Conversational Recommendation

1. Evaluating Conversational Recommender Systems via User Simulation

论文：https://arxiv.org/abs/2006.08732

2. Improving Conversational Recommender Systems via Knowledge Graph based Semantic Fusion

论文：https://arxiv.org/abs/2007.04032

3. Interactive Path Reasoning on Graph for Conversational Recommendation

论文：https://arxiv.org/abs/2007.00194

CF and Top-N Recommendation

1. Dual Channel Hypergraph Collaborative Filtering 【百度】

笔记：https://blog.****.net/weixin_42052231/article/details/107710301

2. Probabilistic Metric Learning with Adaptive Margin for Top-K Recommendation 【华为诺亚】

3. Controllable Multi-Interest Framework for Recommendation 【阿里】

论文：https://arxiv.org/abs/2005.09347

4. Embedding-based Retrieval in Facebook Search 【Facebook】

论文：https://arxiv.org/abs/2006.11632

5. On Sampling Top-K Recommendation Evaluation

Embedding and Representation

1. Compositional Embeddings Using Complementary Partitions for Memory-Efficient Recommendation Systems 【Facebook】

论文：https://arxiv.org/abs/1909.02107

2. PinnerSage: Multi-Modal User Embedding Framework for Recommendations at Pinterest 【Pinterest】

论文：https://arxiv.org/abs/2007.03634

3. SimClusters: Community-Based Representations for Heterogeneous Recommendations at Twitter 【Twitter】

4. Time-Aware User Embeddings as a Service 【Yahoo】

论文：https://astro.temple.edu/~tuf28053/papers/pavlovskiKDD20.pdf

Sequential Recommendation

1. Disentangled Self-Supervision in Sequential Recommenders 【阿里】

论文：http://pengcui.thumedialab.com/papers/DisentangledSequentialRecommendation.pdf

2. Handling Information Loss of Graph Neural Networks for Session-based Recommendation

3. Maximizing Cumulative User Engagement in Sequential Recommendation: An Online Optimization Perspective 【阿里】

论文：https://arxiv.org/pdf/2006.04520.pdf

RL for Recommendation

1. Jointly Learning to Recommend and Advertise 【字节跳动】

论文：https://arxiv.org/abs/2003.00097

2. BLOB: A Probabilistic Model for Recommendation that Combines Organic and Bandit Signals 【Criteo】

3. Joint Policy-Value Learning for Recommendation 【Criteo】

论文：https://www.researchgate.net/publication/342437800_Joint_Policy-Value_Learning_for_Recommendation

Multi-Task Learning

1. Privileged Features Distillation at Taobao Recommendations 【阿里】

论文：https://arxiv.org/abs/1907.05171

Transfer Learning

1. Learning Transferrable Parameters for Long-tailed Sequential User Behavior Modeling 【Salesforce】

2. Semi-supervised Collaborative Filtering by Text-enhanced Domain Adaptation 【阿里】

论文：https://arxiv.org/abs/2007.07085

AutoML for Recommendation

1. Neural Input Search for Large Scale Recommendation Models 【Google】

论文：https://arxiv.org/abs/1907.04471

2. Towards Automated Neural Interaction Discovering for Click-Through Rate Prediction 【Facebook】

论文：https://arxiv.org/abs/2007.06434

Federated Learning

1. FedFast: Going Beyond Average for Faster Training of Federated Recommender Systems

Evaluation

1. Counterfactual Evaluation of Slate Recommendations with Sequential Reward Interactions 【Netflix, Spotify】

论文：https://arxiv.org/abs/2007.12986

2. Evaluating Conversational Recommender Systems via User Simulation

论文：https://arxiv.org/abs/2006.08732

3. On Sampled Metrics for Item Recommendation 【Google】

4. On Sampling Top-K Recommendation Evaluation

Debiasing

1. Debiasing Grid-based Product Search in E-commerce 【Etsy】

论文：http://www.public.asu.edu/~rguo12/kdd20.pdf

2. Counterfactual Evaluation of Slate Recommendations with Sequential Reward Interactions 【Netflix, Spotify】

论文：https://arxiv.org/abs/2007.12986

3. Attribute-based Propensity for Unbiased Learning in Recommender Systems: Algorithm and Case Studies 【Google】

论文：https://research.google/pubs/pub49273/

POI Recommendation

1. Geography-Aware Sequential Location Recommendation 【Microsoft】

论文：http://staff.ustc.edu.cn/~liandefu/paper/locpred.pdf

Cold-Start Recommendation

1. MAMO: Memory-Augmented Meta-Optimization for Cold-start Recommendation

论文：https://arxiv.org/abs/2007.03183

2. Meta-learning on Heterogeneous Information Networks for Cold-start Recommendation

论文：https://ink.library.smu.edu.sg/cgi/viewcontent.cgi?article=6158&context=sis_research

Others

1. Improving Recommendation Quality in Google Drive 【Google】

论文：https://research.google/pubs/pub49272/

2. Temporal-Contextual Recommendation in Real-Time 【Amazon】

论文：https://assets.amazon.science/96/71/d1f25754497681133c7aa2b7eb05/temporal-contextual-recommendation-in-real-time.pdf

RecSys2020推荐系统论文集锦

第14届推荐人自己的年会RecSys已在9月22日到26日在线上举行。大会围绕着推荐系统相关问题进行了3场KeyNotes，5场Tutorials，接收了41篇长文，26篇短文。

通过对主题演讲以及教程的总结发现，此次大会主要聚焦在了推荐系统中的Bias问题以及对话推荐系统、对抗机器学习在推荐中的应用等。

主题演讲为以下3个：

4 Reasons Why Social Media Make Us Vulnerable to Manipulation.

by Filippo Menczer.
Bias in Search and Recommender Systems.

by Ricardo Baeza-Yates.
"You Really Get Me": Conversational AI Agents That Can Truly Understand and Help Users.

by Michelle Zhou.

大会教程为以下6个：

Adversarial Learning for Recommendation: Applications for Security and Generative Tasks - Concept to Code.

by Vito Walter Anelli et al.
Bayesian Value Based Recommendation: A modelling based alternative to proxy and counterfactual policy based recommendation.

by David Rohde et al.
Counteracting Bias and Increasing Fairness in Search and Recommender Systems.

by Ruoyuan Gao et al.
Introduction to Bandits in Recommender Systems.

by Andrea Barraza-Urbina et al.
Tutorial on Conversational Recommendation Systems.

by Zuohui Fu et al.
Tutorial: Feature Engineering for Recommender Systems.

by Benedikt Schifferer et al.

另外，大会揭晓了今年的最佳论文奖、最佳论文提名奖、最佳短文奖。具体标题及单位如下：

Progressive Layered Extraction (PLE): A Novel Multi-Task Learning (MTL) Model for Personalized Recommendations
by H. Tang, J. Liu, M. Zhao, X. Gong (Best Long Paper)
Exploiting Performance Estimates for Augmenting Recommendation Ensembles
by G. Penha, R. L. T. Santos (Best Long Paper Runner-up)
ADER: Adaptively Distilled Exemplar Replay Towards Continual Learning for Session-based Recommendation
by F. Mi, X. Lin, B. Faltings (Best Short Paper)

最后，小编为大家收集整理了部分相关主题的论文。其中对论文的总结发现，除了以下列出的大类外，还有一些非常有意思的工作，比如对可复现性和公平对比的思考、多智能体强化学习与推荐系统的结合、对矩阵分解和神经协同过滤方法的思考等等。

一. 序列推荐

From the lab to production: A case study of session-based recommendations in the home-improvement domain.
ADER: Adaptively Distilled Exemplar Replay Towards Continual Learning for Session-based Recommendation.
Exploring Longitudinal Effects of Session-based Recommendations.
Long-tail Session-based Recommendation.
Context-aware Graph Embedding for Session-based News Recommendation.
Investigating the Impact of Audio States & Transitions for Track Sequencing in Music Streaming Sessions.

二. 可解释性推荐

Explainable Recommendation for Repeat Consumption.
Explainable Recommendations via Attentive Multi-Persona Collaborative Filtering.
Providing Explainable Race-Time Predictions and Training Plan Recommendations to Marathon Runners.

三. 无偏的和公平的推荐

Bias in Search and Recommender Systems
Debiasing Item-to-Item Recommendations With Small Annotated Datasets.
Keeping Dataset Biases out of the Simulation: A Debiased Simulator for Reinforcement Learning based Recommender Systems.
Unbiased Ad Click Prediction for Position-aware Advertising Systems.
Unbiased Learning for the Causal Effect of Recommendation.
Unbiased Implicit Recommendation and Propensity Estimation via Combinational Joint Learning.
The Connection Between Popularity Bias, Calibration, and Fairness in Recommendation.
Counteracting Bias and Increasing Fairness in Search and Recommender Systems.
Counteracting Bias and Increasing Fairness in Search and Recommender Systems.
The Connection Between Popularity Bias, Calibration, and Fairness in Recommendation.
Fairness-aware Recommendation with librec-auto.
Ensuring Fairness in Group Recommendations by Rank-Sensitive Balancing of Relevance.

推荐系统----2020会议文章集锦

盘点 | AAAI2020中的四篇推荐系统好文

第一篇文章：可解释评论的推荐中的非对称层次网络与专注的交互

第二篇文章：会话推荐系统的贝叶斯方法

第三篇文章：多目标推荐系统的多梯度下降

第四篇文章：记忆增强图神经网络的序列化推荐

ECAI，全称为 European Conference on Artificial Intelligence，是欧洲主要的人工智能会议:

ECAI2020，第 24 届欧洲人工智能大会，此次会议共收到了 1443 篇有效论文，其中 1363 篇完整论文和 80 篇短论文，最终接收了 365 篇完整论文和 36 篇短文，接受率为 26.8％:

国际顶级学术会议WWW2020定在2020年4月20-24日于中国台湾举办。受COVID-19疫情影响(疫情赶紧过去吧)，大会将在线上举行。

针对这38篇论文，我们进行了梳理分类，如下表所示:

Practical RS:

Sequential RS:

Effcient RS:

Social RS:

Explainability for RS:

POI RS:

General RS:

Fairness in RS:

RL for RS:

Cross-domain RS:

Knowledge Graph RS:

Conversational RS:

CTR for RS:

首先，我们来说一说今年的IJCAI。好像一直在被吐槽，从一开始的灭霸操作5147 篇文章直接Summary Reject掉2191篇文章（拒稿率42%）

Sequential RS

Cross-Domain RS

POI RS

Explainable RS

News RS

Cold-Start in RS

General RS

推荐9篇近期社会化推荐论文

第43届国际信息检索研究和发展大会（SIGIR）将于2020年7月25-30日在美丽的中国西安举行。此次大会共收到了555篇长文投稿，录用147篇，长文录取率26.4%；共收到了507篇短文投稿，录用153篇，短文录取率30%。

另外，还注意到今年SIGIR开办了一场关于对话推荐/检索的Tutorial，感兴趣的小伙伴可以多多关注。想提前了解对话推荐（Conversational RS，CRS）的朋友，可以公众号后台回复【CRS】获取对话推荐系统最新综述。

推荐论文列表

Sequential RS

Graph-based RS

Cold-start RS

Efficient RS

Knowledge-aware RS

Robust RS

Group RS

Conversational RS

RL for RS

Cross-domain RS

Explainable RS

POI RS

others

推荐系统论文列表

Research Track Papers

Sequential RS

Conversational RS

Cold-Start in RS

Collaborative Filtering

Efficient RS

Others

Applied Data Science Track Papers

Google

Alibaba

Amazon

Pinterest

Bytedance

DiDiChuxing

Twitter

前言

推荐相关论文列表

推荐系统-ACL2020

推荐系统-ICML2020

2. Optimization and Analysis of the [email protected] Metric for Recommender Systems

3. Ordinal Non-negative Matrix Factorization for Recommendation

4. Optimizing Long-term Social Welfare in Recommender Systems: A Constrained Matching Approach

网络表示学习&图神经网络相关

知识图谱

CIKM2020 | 最新9篇推荐系统相关论文

KDD 2020 推荐系统论文一览

CTR Prediction

Graph-based Recommendation

Conversational Recommendation

CF and Top-N Recommendation

Embedding and Representation