基于BERT的机构名命名实体细粒度实体识别研究

摘要

机构名识别是命名实体识别的核心任务之一,其识别效果的优劣极大地影响着下游知识图谱构建、意图搜索等任务。现有的机构名实体识别在工作中存在着实体标注粒度通常过粗,识别率低的问题。基于以上,提出一种不依赖人工特征选择和领域知识的端到端细粒度识别模型(BERT-BiLSTM-CRF)。该模型在传统实体识别模型BiLSTM-CRF的基础上引入BERT预训练模型,通过引入BERT预训练语言模型获取动态字向量表示,有效解决了由于缺乏大量训练语料而无法获得丰富语义信息的问题,然后将BERT和BiLSTM-CRF模型联合起来进行实体识别,学习语料上下文信息和标签转移关系,最终获得机构名细粒度类别标签。同时,根据实际应用需求重新划分了机构名的类别,对数据集进行了细粒度的语料标注。实验表明,该模型在使用的训练数据集上,F1值最佳,达到了92.41%,相较于主流序列标注模型准确率更高,具有浅在应用价值。