基于改进ERNIE-DPCNN模型的中文文本分类

摘要

利用自然语言处理中一种基于字向量的增强语言表征模型——ERNIE,通过随机隐藏部分字、词组、实体语义单元,预测上下文实现语言表征,并将ERNIE预训练模型输出的词向量输入到改进的DPCNN模型,形成改进的ERNIE-DPCNN模型,用于中文文本分类.通过实例将改进的ERNIE-DPCNN模型与ERNIE、BERT、BERT-DPCNN、ERNIE-CNN、ERNIE-RNN、ERNIE-DPCNN 6类模型在准确率、精确率、召回率、运行时间等指标上进行对比,结果表明,改进的ERNIE-DPCNN模型均优于其他模型.