基于词向量查询模型的文本简化方法

摘要

本发明公布了一种基于词向量查询模型的文本简化方法，基于序列到序列模型，在解码时参照注意力机制得到解码器的隐状态和所有词汇的词向量的相关度，作为下一步待生成的词语的可能性的度量；包括：设计文本编码器，对原文本进行压缩；设计文本简化解码生成器，循环地在每一时刻计算当前的隐层向量和上下文向量；求得词表中每个词的检索相关度，输出当前时刻预测的词语，获得一段完整的经过简化的文本；训练生成简化文本的模型，最小化预测的词语与实际目标词语的对数似然；训练后即生成完整的简化文本。本发明能够提高生成文本的质量和准确度，且大幅减少现有方法的参数个数，降低训练时间和内存占用。