基于多头注意力机制的电影推荐方法研究

摘要

在计算机和多媒体技术不断发展和成熟的今天，看电影也逐渐成为人们的日常娱乐活动，但互联网大数据的到来也同样带来了信息过载的问题，如何在数量和种类繁多的电影中找到用户所喜欢的，也是在推荐系统研究中的首要问题。电影推荐方面，传统的协同过滤推荐算法主要以用户对电影的评分作为推荐的依据，而用户和电影的其他多种特征数据，如用户的年龄、职业、爱好，电影的简介、评论等大多数重要的信息都没有充分利用起来，这样做的缺点是缺乏对用户行为偏好的精细定位。本文针对这样的问题提出了基于用户偏好学习的电影推荐模型CBLSC。此外，为了解决并行执行以及数据稀疏性问题，本文在CBLSC模型的基础之上，提出了基于自注意力机制的用户个性化电影推荐模型CBLAMF。通过不同模型的对比实验分析，表明本文提出的CBLAMF模型可以获得比其他方法更好的性能。本文详细的研究内容如下：　　(1)提出一种基于用户偏好学习的电影推荐CBLSC模型。该模型可以将单个电影的简介划分为多个句子，然后依次通过卷积层神经网络来提取特征表示，来充分理解电影简介的特征信息。接着再使用LSTM顺序地集成这些句子特征，来构建整个句子特征表示，这样就能结合电影简介中的上下文信息来抓取单词之间的细微差异，从而更准确的获取到电影简介中的关键信息。在得到了电影简介中的特征之后，最后再结合用户和电影的其他属性特征以及电影的评分信息来进行相似度计算，就可以得到为用户推荐的前N项电影的推荐结果。　　(2)提出一种结合自注意力机制用户偏好电影推荐模型CBLAMF。模型中融入多头注自意力机制的目的是进行多次缩放点积的并行计算，然后将相互独立的注意力计算单元拼接在一起，最后再通过一个线性单元转换成期望大小的维度输出。因此，CBLAMF模型可以通过自注意力机制来获得输入和输出的全局依赖关系，来学习输入序列的内部依赖关系，然后把这种依赖关系输入到每个多头自注意力机制层，同时结合上一次输出的信息来生成下一个特征表示。这也使得本文的模型能够自适应的结合上下文信息，从而更加精确的获取特征信息。此外，在计算得到特征输出之后，使用矩阵分解来计算出特征评分来为用户提供推荐，这样也很好的解决了数据稀疏性的问题。　　(3)实验结果和分析。基于推荐系统性能的评估标准，本文基于所提方法与其他电影推荐方法综合相比教，且具有较好的性能。

目录

声明

目 录

第 1 章 绪 论

1.1 研究背景和意义

1.2 国内外研究现状

1.2.1 推荐系统的研究现状

1.2.2 深度学习的研究现状

1.2.3 注意力机制的研究现状

1.3 本文的研究内容

1.4 本文的组织结构

第 2 章 相关技术

2.1神经网络

2.1.1 深度神经网络

2.1.2 卷积神经网络

2.1.3 双向长短记忆网络

2.2注意力机制

2.2.1 注意力机制

2.2.2 多头自注意力机制

2.3 矩阵分解

2.4 本章小结

第 3 章 基于用户偏好学习的电影推荐模型

3.1 引言

3.2 模型架构

3.3 模型结构设计

3.4 推荐表生成

3.5 模型分析

3.6 本章小结

第 4 章 基于多头自注意力机制的个性化电影推荐模型

4.1 问题定义

4.2 基于 ConvMF 模型的改进

4.2.1 ConvMF 模型的介绍

4.2.2 基于 ConvMF 模型的改进设计

4.3 基于 CBLAMF 的电影推荐模型

4.3.1 多头自注意力模块

4.3.2 CBLAMF 模型的构建

4.4 本章小结

第 5 章 实验及结果分析

5.1 实验流程设计

5.1.1 数据集

5.1.2 实验环境

5.1.3 评价指标

5.1.4 对比基线

5.2 实验结果与分析

5.2.1 实验结果

5.2.2 实验分析

5.3 案例分析

5.4 本章小结

结 论

参考文献

附录 A 攻读学位期间发表的学术论文

致 谢