Neural Attentional Rating Regression with Review-level Explanations阅读笔记
原文链接
简介
在电商平台中,Review信息对于用户而言是十分有用的,然而,却很少有人对Review的有效性进行研究。本文提出了Neural Attentional Regression model with Review-level Explanations (NARRE) ,在进行评分预测的同时考虑Review的有效性,在Review层面对推荐结果进行解释。
评分预测是推荐系统中常见的任务。大多数方法都是基于协同过滤的,例如PMF等,这类方法最大的问题在于无法对推荐提供可解释性。很多研究表明在推荐中提供可解释性,是非常有用的。缺乏可解释性的推荐不能真正让用户信服。在大多数电商网站中,允许用户评论产品并给予评分,用户评论信息中会通常包含关于产品有用的特征,例如quality, material, color 等。在本文中,评论的有效性usefulness of a review 即用户能否根据用户做出是否购买的决定。下图举例说明什么是有效评论和无效评论
本文的两个大的主要想法:
- 提出了一个新的想法,即不同的评论在项目建模方面有不同维度的贡献,并导致对其他用户在消费使用方面的不同用途。
- 引入了Neural Attentional Regression with Reviews-level Explanation (NARRE)。
基础工作
LFM:利用矩阵因子分解的方法构建的用户u对项目i评分的建模公式
DeepCoNN:使用卷积神经网络处理review,并且将用户和被推荐项目分别并行建模最后用FM结合起来并作评分预测
嵌入层:给定长度为T的输入文本,用word2vec进行embedding
卷积层:产生特征
最大化池层:找到最重要的特征
全连接层:
NARRE
基于上述CNN Text Processor,本文加上了Neural Attentional Regression with Review以及最后的预测层,为何要这么做?(涉及到DeepCoNN的局限性)
1.maxpool会覆盖其他有用的评论中的特征,这会有缺陷(一个item不可能只有一个评论)
2.第i个item的第l条评论(特征向量)
不可能每条特征对item的贡献都相同,这时候就需要加权重。
因此而引入Neural Attentional Regression with Review。输入为和(用户ID嵌入,写评论的用户)
该结构一共分为项目和用户两个部分,接下来以为例(类似),具体阐述结构。
1.item下的每一篇评论转化为词向量矩阵。
2.Items’ Reviews’ Attention进行如下操作
t为隐藏层的大小
3.Item id embedding 表示第i个item第l条评论的权重
4.预测层,用户偏好与项目特征匹配
实验结果及总结
总结:总的来说,此篇文章思路清晰,从评论角度出发的想法较好的解决了其中存在的小众特征易被覆盖的问题,且给出了推荐的可解释性。
想法:因为推荐中无论是项目或者用户,必须有评论交互且较为频繁时,该方法会非常准确。但是其实有相当一部分人不喜欢评论或者对item表达具体的态度(比如上面举的视频和评论 的例子,视频播放量为8.4万,评论量仅有62条),那么该如何给他们推荐呢?
我觉得可以以某种方式加入隐式反馈信息来针对性的进行推荐或者降噪(不常评论的人可以作为推荐依据,常评论的人可以用来降噪),因此具体细节还需思考。