融合多网络特征提取的命名实体识别方法

摘要

在中文命名实体识别任务中,虽然经典模型BERT-BiLSTM-CRF取得了不错的效果,编码层Bi LSTM可以有效地提取到文本的全局特征,但在建模时无法兼顾到局部空间特征。针对此问题提出了改进的BBIMC模型,采用将BiLSTM网络和IDCNN网络相结合的方式对特征提取层进行改进,并引入多头注意力机制加强模型聚焦于关键信息特征的能力,进一步提升了模型的性能。使用预训练语言模型BERT得到动态语义向量,将动态语义向量通过BiLSTM编码得到文本序列的上下文特征;通过IDCNN融入实体附近的局部空间特征,并引入多头注意力机制获取词语间潜在的关联,使模型更加关注与实体相关的字符;结合CRF进行实体标签的最优序列标注。采用中文社区问答cMedQANER数据集进行实验,实验结果表明,改进后的模型可以捕获更丰富的语义特征,提升了模型识别实体的能力。