基于语义共现与注意力网络的问题分类方法

摘要

针对汽车故障问答文本特征稀疏、语义信息不全、深层次语义特征较难提取等问题,提出基于问题-答案语义共现的多层次注意力卷积长短时记忆网络模型(co-occurrence word attention convolution LSTM neural net-work,CACL)的问题分类方法.通过向量空间模型计算问题与答案文本中语义相似的共现词,使用注意力机制聚焦问题文本中的共现词特征,输入卷积神经网络(convolutional neural network,CNN)提取问题局部特征,通过长短时记忆网络(long short-term memory network,LSTM)及词级别注意力机制提取长距离依赖特征及其更高层次的文本特征,采用Softmax进行问题分类.结果表明,相比较于主流的问题分类方法,该方法有效提高了问题分类的精度,最高提升了10.04％的准确率.同时,试验发现当选用11个有效共现词且共现词来自问题文本时,模型的处理精度最佳.合理利用问题-答案文本语义相似的共现词,能有效提升汽车故障问题的分类性能,且共现词的个数、来源对问题的分类精度有一定的影响.