融合多角度特征的文本匹配模型

摘要

文本匹配是自然语言处理的一个核心研究领域,深度文本匹配模型大致可以分为表示型和交互型两种类型,表示型模型容易失去语义焦点难以衡量词上下文重要性,交互型模型缺少句型、句间等全局性信息.针对以上问题提出一种融合多角度特征的文本匹配模型,该模型以孪生网络为基本架构,利用BERT模型生成词向量进行词相似度融合加强语义特征,利用Bi-LSTM对文本的句型结构特征进行编码,即融合文本词性序列的句型结构信息,使用Transformer编码器对文本句型结构特征和文本特征进行多层次交互,最后拼接向量推理计算出两个文本之间的相似度.在Quora部分数据集上的实验表明,本模型相比于经典深度匹配模型有更好的表现.