一种基于预训练语言模型的科技资源关系抽取方法及装置

摘要

本发明公开了一种基于预训练语言模型的科技资源关系抽取方法及装置。该方法包括如下步骤：将待关系分类的科技资源语句，输入到基于预训练语言模型训练好的科技资源关系抽取模型中；科技资源关系抽取模型输出的结果为该科技资源语句中两个实体之间的关系类别。本发明基于海量无监督数据训练的预训练语言模型，可以提供更加高效的语言特征学习能力，同时避免了使用外部预训练词向量带来的多义词问题。并且，结合度量学习方法，将科技资源关系抽取问题与小样本学习问题相结合，旨在通过学习少量的训练数据，实现较强的关系抽取能力，在标注数据较为匮乏的情况下也可以达到不错的关系分类效果。