基于注意力机制和改进型RNN的Web文本情感分析研究

摘要

随着互联网的飞速发展，各种新生事物层出不穷，其中各大门户网站、电子商务和社交软件为代表的新兴即时媒体的出现显然已成为我们获取信息和交流思想的重要平台。通常，这些 Web 文本中往往蕴含有网民的丰富情感，如何对它们进行数据挖掘，获取一定的实用价值已经日益成为当今自然语言处理和人工智能领域的研究热点。本文主要针对基于深度学习模型的Web 文本情感分析展开研究，相关工作内容如下： （1）研究了卷积神经网络（CNN）和支持向量机（SVM）在Web文本分类任务上的应用。针对传统卷积神经网络在 Web 文本分类上的平庸表现，提出了一种基于改进型CNN和SVM的Web文本分类算法模型：CNN+SVM。该模型首先使用glove工具构建Web文本词向量，然后把传统的卷积神经网络更改为5个平行放置的CNN模型进行训练，最后采用SVM分类器输出结果，取得了良好的文本分类效果，准确率接近92.5%。 （2）研究了循环神经网络（RNN）和注意力机制在Web文本情感分析任务上的应用。针对已分类的Web 文本数据集，结合情感分析任务的特点，提出了一种基于自注意力和双向 GRU的Web 文本情感分析算法模型：BiGRU+Self-attention。该模型首先采用谷歌开源工具word2vec构建Web文本词向量，然后在传统CNN模型上进行特征筛选，并将所得数据输入引入自注意力的双向GRU模型继续训练，最后通过SVM分类器输出分类结果。实验表明，该算法能够明显提高Web文本情感分析效果，准确率达到了93.9%。

目录

第一个书签之前