基于改进型LSTM的文本情感分析模型研究

摘要

文本情感分析是自然语言处理领域的一大研究方向.文本情感分析本质上属于文本二分类问题,问题的核心是将一段文本所表达的情感分为正向和负向两类.传统的文本分类算法在进行文本情感分析时,不能很好地考虑到词与词之间的关联性以及词语之间的极性转移.针对LSTM神经网络模型在文本情感分析中的不足,设计并提出了基于改进型LSTM的文本情感分析模型.为了降低在原始LSTM模型中采用随机梯度下降法进行参数更新所带来的不确定性,提出一种基于向量空间的伪梯度下降法.在迭代过程中,为了减轻模型准确率的振荡现象,提出带有修正项的二元交叉熵损失函数,使改进后的模型有选择性地针对分类模糊的数据进行更新.实验结果表明,改进后的模型在分类正确率以及迭代效率上有所改进.