基于改进注意力模型的网络舆情趋势预测研究

摘要

[目的/意义]网络舆情预测一直是网络安全领域的关注重点,由于结果和影响因素之间存在的非线性关系,循环神经网络非常适于舆情时序的预测,但是使用循环神经网络进行序列预测时较长时间间隔的历史数据特征易趋于消失,因此对长时间跨度序列的预测效果欠佳.传统注意力模型虽可以解决此问题,但是进行每步预测需要对所有历史数据进行计算,消耗时间过大.[方法/过程]根据舆情特点设计了一种改进的注意力模型的网络舆情模型,仅对关键节点的历史数据的编码器输出通过卷积神经网络进行注意力特征提取,动态分配权重到相应的记忆单元以体现序列特点,最终将所得注意力特征传入解码器用于时序预测.[结果/结论]实验结果表明,与传统注意力模型相比,该模型可以大幅缩短训练时间,有着更好的预测精度,针对不同的舆情话题进行趋势预测也有很好的稳定性.