基于BiLSTM-CRF的中医文言文文献分词模型研究

摘要

由于中医文献内容繁杂数目庞大、专业术语词汇较多,且包含使用文言文、古人口语等多样的书写方式,使用通用领域的分词器进行分词的效果较差.为了解决这一问题,构建了基于BiLSTM-CRF的模型对中医领域的文献尤其是文言文文献进行分词,并在中医领域文献上对比了BiLSTM-CRF模型、BiLSTM模型及主流通用中文分词器jieba、Ansj的分词结果.结果表明基于Bi-LSTM-CRF模型的分词取得了更优秀的分类性能和鲁棒性.