一种结合标题与正文注意力机制的文本分类方法

摘要

本发明公开了一种结合标题与正文注意力机制的文本分类方法。首先对每篇文档的标题与正文进行分词预处理，得到标题词集合和正文词集合；采用word2vec的CBOW模型训练词向量，用双向循环神经网络学习每个词结合上下文语义的表示，通过串联词向量及其左右上下文的表示，得到一个词的潜在语义向量；分别将标题词集合及正文词集合中每个词的潜在语义向量进行最大池化处理，得到标题向量及正文向量；使用标题与正文注意力机制，得到注意力向量；在计算整篇文档的向量表示后，通过soft max函数输出概率预测文本的类别。本发明解决了现有的带有标题的文本分类时忽略标题内容的重要性，把标题当作正文的一部分或忽略标题信息，导致分类结果准确度低的问题。