基于全局编码信息的生成式自动文摘模型

摘要

目前主流的生成式自动文摘方法通常采用基于注意力机制的序列到序列模型,然而此方法只能使解码器关注于原文本中重要单词的语义信息,无法对每一维度的语义特征进一步筛选。经本文研究发现,编码端输出的隐状态语义信息存在噪声,解码器应该对各维度语义信息进行判断,选择对文摘生成更有益的语义特征。因此,本文提出了基于全局编码信息的生成式自动文摘模型,并构造一个融合全局编码信息的选择门控单元,二者相互协作,共同解决编码器输出信息存在噪声的问题。实验结果表明,本文提出的模型在TTNews数据集上获得优于前人的结果,通过组件消融分析验证各组件对文摘生成的积极作用。