关于深度神经网络在交叉领域的情感分类任务中的可迁移性探究

摘要

领域自适应中交叉领域的情感分析研究近几年获得了广泛的关注。传统的做法是寻找源域和目标域相同的特征表示,或将源域和目标域的特征映射在高维空间中,使目标域的特征表达在高维空间中更加靠近源域以达到领域自适应的目的。然而由于这些方法都是直接将源域的全部网络权重迁移至目标域,没有考虑到神经网络中文本特征可能具有的层级性,因此我们提出一种基于超深度卷积神经网络(VDCNN)的层级迁移方法(TVDCNN)以探究如下几个问题:(1)交叉领域情感分类任务中可迁移的网络层有几层(2)哪几层获得了最好的迁移特征(3)不同的领域可迁移层数是否一致。在中英文的两个数据集的实验结果表明,文本的特征提取确实具有层级特征,前三层的迁移性最好,不同领域的可迁移层数基本一致,且在迁移之后对网络进行微调可以进一步提高正确率。