基于BERTScore指导的文本摘要技术

摘要

为提升文本摘要结果的准确性与可读性,文中使用了结合BERTScore的强化学习模型将抽取式与生成式两种文本摘要方法相融合,该方法改善了其他模型存在的对表示相同含义的不同词汇评分低以及分数高的结果可能包含错误信息的现象。模型使用BERTScore对生成的摘要结果评分,根据该分值更新策略梯度参数和当前状态,同时通过将该分值作为反馈指导下一次抽取行为来不断优化模型。文中通过Gumbel-Softmax可微再参数化技术解决了模型不可微的问题。实验结果表明,文中提出的方法更注重摘要的内容并得到较好的摘要结果,在CNN/DailyMail数据集上与以Rouge作为反馈的模型相比,评价指标Rouge-1:+0.46,Rouge-L:+0.63,评价指标BERTScore提升了2.35。