基于深度学习的命名实体识别方法研究

摘要

命名实体识别作为自然语言处理研究的基础,主要任务是识别文本中的地名、人名、组织机构名等专有名词。针对BERT模型的不足,以轻量化模型为目的进行改进,在保证精度的前提下,减少模型训练时间并提高特征提取能力。采用Albert和RoBERTa-WWM代替BERT,并结合BiLSTM-CRF模型分别进行实验。实验结果表明,Albert在采用跨层参数共享机制减少大量参数的情况下,不仅各项评价指标与BERT相差无几,并且很大程度上减少了对资源的使用。RoBERTa在采用动态掩码和全词掩盖后,F1值提升5%左右,RoBERTa的动态掩码和全词掩盖更符合中文命名实体识别研究。