一种基于知识蒸馏的深度序列推荐算法模型压缩方法

摘要

本发明公开了一种基于知识蒸馏的深度序列推荐算法模型压缩方法，首先将收集的用户行为源数据进行数据预处理，将得到的用户交互行为序列作为数据集；然后，使用得到的数据集来训练老师模型，老师模型的架构是任意一种深度序列推荐算法模型，老师模型的架构更大，即中间层状态维度更大和中间层数量更多；接下来，使用训练好的老师模型指导学生模型的训练，在本发明中，学生模型的架构和老师模型的主体架构必须一致。本发明使用了“相邻模型块参数共享”和“自适应EMD”，共同作用于最后的模型。本发明贴合深度序列推荐算法模型的特点，结果表明，经过本发明训练出的深度推荐推荐算法模型在推荐准确度方面有着较大幅度的提升。