基于注意力机制和LSTM的文本情感分析

摘要

为准确地从文本信息中提取出文本所蕴含的情感,笔者提出一种基于注意力机制的长短期记忆网络(Long Short-Term Memory,LSTM)模型。该模型首先将文本转化为词向量矩阵,作为双向长短期记忆网络的输入,进而学习文本词语、句子之间的序列关系,最后引入注意力机制,将双向LSTM的输出与注意力机制相结合,得到的结果经全连接层后输入softmax分类器进行情感极性分析。实验结果表明,引入注意力机制的LSTM模型相较于传统机器学习方法(Support Vector Machine,SVM)以及标准的LSTM模型能够更精确地捕捉文本情感倾向,提升分类精度。