一种基于多任务双边分支网络的引文意图分类方法

摘要

本发明公开一种基于多任务双边分支网络的引文意图分类方法，为了缓解数据集不平衡问题对模型性能造成影响，采用双边分支网络作为基础网络结构。在训练过程中先获得原始数据集，还利用过采样技术生成反转数据集以及构建辅助数据集。为了能够引入辅助数据集的信息采用了多任务学习方法。在构建模型时采用SciBert模型作为嵌入层来提取输入的引文文本的特征向量，此外还利用注意力机制来构建注意力层，用于提高模型对引文文本中重要单词的注意力，降低对其他单词的关注度。最后模型通过一个自适应参数α在训练过程中转移模型的注意力。本发明提高了引文意图分类的准确性，从而可以更准确地预测引文的意图类别。