结合主题感知与通信代理的文本摘要模型

摘要

针对传统自动文本摘要模型受循环神经网络长度限制而无法生成高质量的长文本摘要这一问题,提出了一种结合主题感知与通信代理的文本摘要模型。首先,将编码器划分为相互之间存在通信的多个代理,以解决长短期记忆网络输入序列较长而不能联合先验信息生成摘要的问题;然后,使用联合注意力机制加入主题信息,提高生成摘要与源文本的相关性;最后,使用带有强化学习的混合训练方法对模型进行训练,解决曝光偏差问题,直接对评价指标进行优化。实验结果表明,该模型不仅生成了主题突出的长文本摘要,并且得分比目前最先进的模型有一定提升。说明在主题信息的帮助下,该通信代理模型能够更好地生成长文本摘要。