基于带注意力机制CNN的联合知识表示模型

摘要

知识表示学习在自然语言处理领域获得了广泛关注,尤其在实体链指 、关系抽取及自动问答等任务上表现优异.然而,大部分已有的表示学习模型仅利用知识库中的结构信息,无法很好地处理新的实体或关联事实极少的实体.为解决该问题,该文提出了引入实体描述信息的联合知识表示模型.该模型先利用卷积神经网络编码实体描述,然后利用注意力机制来选择文本中的有效信息,接着又引入位置向量作为补充信息,最后利用门机制联合结构和文本的向量,形成最终的联合表示.实验表明,该文的模型在链路预测和三元组分类任务上与目前最好的模型性能相近.