基于分段注意力匹配网络的跨领域少样本关系分类

摘要

针对跨领域少样本关系分类任务,该文提出分段注意力匹配网络PAMN.基于句子相似度计算的少样本学习算法有较好的领域适应性,PAMN在句子相似度算法上进行改进,针对关系抽取问题,将句子分段进行匹配,能更准确地计算关系分类实例间的相似度.PAMN由编码层和句子匹配层组成.在编码层,PAMN使用预训练模型BERT对句子对进行编码,根据实体位置将句子分为三段,通过动态段长进行段长领域自适应.在句子匹配层,PAMN使用基于分段注意力机制的文本匹配方法计算查询实例与支持集合中实例的相似度,取均值作为查询实例与该支持集合的相似度.实验结果显示,PAMN在FewRel 2.0领域适应任务中取得了目前该测评榜单上的最好效果.