基于对比学习和自注意力机制的时间接近度上的顺序推荐
内容提要
该文综述序列推荐研究,核心是建模用户历史行为的时间动态与上下文影响,方法包括上下文化时间注意力、时间图序列推荐、自注意力关系推断、对比学习多任务模型及双向Transformer框架,旨在缓解数据稀疏与噪声并提升推荐性能,多个模型在公开数据集上优于基线。
延伸解读
时间动态建模的演进
文章梳理了从2016年到2022年序列推荐中时间动态建模的演进:早期工作如TimelyRec关注用户偏好的周期性与演化,随后Temporal Graph Sequential Recommender引入连续时间二分图,再到上下文化时间注意力机制动态校准历史行为影响。这一脉络显示,研究者逐渐从静态时间戳转向对时间上下文敏感的动态建模,以更精细地捕捉用户兴趣变化。
对比学习与自注意力的结合
文章重点介绍了对比学习与自注意力机制在序列推荐中的结合。CL4SRec通过多任务对比学习缓解数据稀疏,双向Transformer框架则针对用户行为非严格从左到右的顺序问题,采用滑动窗口和多种掩码生成正样本。这些方法表明,自注意力能推断项目关系,对比学习能增强表示质量,二者互补提升推荐性能。
实证评估与基线对比
多个模型在公开数据集上进行了实证评估。上下文化时间注意力模型在两个大型公共数据集上始终优于现有顺序推荐方法;CL4SRec在四个公共数据集上达到业界领先性能;SCoRe在三个真实大规模数据集上优于强基线。这些结果说明,融合时间、注意力和对比学习的模型在多样数据场景下具有稳定的性能优势。
Q&A
什么是上下文化时间注意力机制?它在推荐系统中起什么作用?
上下文化时间注意力机制是一种动态校准不同时间段和上下文中历史行为对当前行为影响的机制,旨在应对历史事件影响的时变性和上下文依赖性,从而提高推荐系统性能。
CL4SRec模型是如何解决数据稀疏问题的?
CL4SRec是一个对比学习多任务模型,在传统下一个项目预测任务基础上,通过构建自我监督信号和数据增强,从原始用户行为序列中提取更有意义的用户模式并有效编码用户表示,从而解决数据稀疏性和参数优化问题。
双向Transformer在顺序推荐中有什么优势?
双向Transformer通过对比学习改进顺序推荐,针对用户行为不是严格从左到右顺序的问题,采用滑动窗口技术,结合Cloze任务掩码和Dropout掩码生成高质量正样本,并进行多对比学习,实验表明其表现优于传统单一对比学习。
时间图序列推荐模型Temporal Graph Sequential Recommender是如何工作的?
该模型基于时间顺序的用户行为建模,融合顺序模式和时间合作信号,采用TCT层和连续时间二分图,设计新框架,有效提高了推荐质量。
对比学习在顺序推荐中主要解决哪些问题?
对比学习在顺序推荐中主要缓解数据稀疏和噪声等问题,通过应用对比自监督学习,并利用信息增强算子构建高质量视图进行对比学习,从而提升模型性能和鲁棒性。
SCoRe模型有什么特点?
SCoRe是一种依靠用户行为和物品属性历史序列信息挖掘高阶协作信息的推荐模型,在三个真实的大规模数据集上表现均优于强基线模型。