基于分层注意力机制的神经网络垃圾评论检测模型

摘要

针对现有垃圾评论识别方法很难揭示用户评论的潜在语义信息这一问题,提出一种基于层次注意力的神经网络检测(HANN)模型.该模型主要由以下两部分组成:Word2Sent层,在词向量表示的基础上,采用卷积神经网络(CNN)生成连续的句子表示;Sent2Doc层,基于上一层产生的句子表示,使用注意力池化的神经网络生成文档表示.生成的文档表示直接作为垃圾评论的最终特征,采用softmax分类器分类.此模型通过完整地保留评论的位置和强度特征,并从中提取重要的和综合的信息(文档任何位置的历史、未来和局部上下文),挖掘用户评论的潜在语义信息,从而提高垃圾评论检测准确率.实验结果表明,与仅基于神经网络的方法相比,该模型准确率平均提高5％,分类效果显著改善.