基于预训练语言模型的电子病历文本命名实体识别方法

摘要

本发明属于医疗信息数据处理技术领域，具体涉及一种基于预训练语言模型的电子病历文本命名实体识别方法，包括：从公开数据集收集电子病历文本作为原始文本，并预处理；基于规范医疗术语集对经预处理的原始文本实体标注，得标注文本；将标注文本输入预训练语言模型，得字向量表示的训练文本；构建BiLSTM‑CRF序列标注模型，对训练文本进行学习，得训练的标注模型；以训练的标注模型作为实体识别模型，输入测试文本即可输出标注的类别标签序列。利用在超大规模中文语料中训练得到深层语言模型中的文本特征和语义信息，能够提供更好的语义压缩效果，避免人工标注繁琐复杂的问题，且不依赖词典和规则，提高了命名实体识别的查全率和准确率。