基于信息论改进的并行深度森林分类方法

摘要

本发明提出了一种基于信息论改进的并行深度森林分类方法。首先，该算法基于信息论设计了一种混合降维策略，获得降维后的数据集，有效减少了冗余及不相关特征数；其次，提出了一种改进的多粒度扫描策略对样本进行扫描，保证每个特征在扫描后以同频率出现在数据子集中，避免了因多粒度扫描不平衡的影响；最后，结合MapReduce框架，对深度森林模型每层级联结构中的随机森林进行并行化训练，同时提出了一种样本加权策略，根据级联中随机森林对样本的评估，选取评估结果较差的样本进入下一层训练，减少了层级中样本的数量，提高了算法的并行效率。本发明原理简、易实现，在运行效率和聚类精确度上都有显著提高，该方法还能在生物学，医学，天文地理学上提供巨大的帮助。