一种基于生物医学领域预训练模型的命名实体识别方法

摘要

本发明涉及人工智能、自然语言处理，特别涉及一种基于生物医学领域预训练模型的命名实体识别方法，包括对于输入的文本的每个词汇对应预训练结果中的词表进行分词处理，通过BioBERT的Embedding层赋予初始权重；对于超过max_batch_size的句子进行截断；连接所有的句子对，对于句首使用[CLS]标签，句尾使用[SEP]标签；通过在PubMed和PMC文本下预训练完成的BioBERT模型进行第一特征提取；将BioBERT结构的输出再次通过BiLSTM网络模型进行第二特征提取；使用CRF网络对第二特征提取得到的特征进行识别；本发明能够更精确识别生物医学领域预的实体。