基于BERT+A-Softmax的多分类模型构建与应用研究

摘要

[目的/意义]在信息分类领域中,通过传统的机器学习与深度学习的方法可以对大多数稿件进行分类并取得整体较高的准确率。但是这种方法没有对稿件文体进行区别,而现实生产环境中存在新闻类稿件多,通知报告类少等样本不均衡的情况,如果对文体不加以区分,会产生少样本文体类别准确率低的情况。[方法/过程]本文提出一种可以区别文体的深度学习分类模型方法,该方法先根据稿件文体对稿件进行分类,再根据分类结果分别调用分类模型进行进一步分类,解决样本不均衡、小样本文体类别准确率低等问题。[结果/结论]在公开的数据集上实验结果表示,相对于传统的分类模型,本文提出的多分类模型方法在性能上有了显著提高。