基于混合深度信念网络的多类文本表示与分类方法

摘要

本文开展了基于混合深度信念网络的多类文本表示与分类方法的研究，以解决传统的Bag-of-Words（BOW）表示方法忽略文本语义信息、特征提取存在高维度高稀疏的问题。文章基于文本关键字，针对多类的分类任务（如新闻文本和生物医学文本），以关键字的词向量表示作为文本输入，同时结合深度信念网络（Deep Belief Network，DBN）和深度玻尔兹曼机网络（Deep Boltzmann Machine， DBM），设计了一种混合深度信念网络（Hybrid Deep Belief Network，HDBN）模型。文本分类和文本检索的实验结果表明，基于词向量嵌入的深度学习模型在性能上优于传统方法。此外，通过二维空间可视化实验，由HDBN模型提取的高层文本表示具有高内聚低耦合的特点。