基于ReLU稀疏性的MAXOUT卷积神经网络的数据分类算法

摘要

卷积神经网络作为一种具有深度学习能力的人工学习网络,由于其具有权值数量少、网络模型复杂度低以及算法效率高等优点在很多领域被广泛应用,但是其表现在很大程度上依赖于激活函数的选取,而激活函数的选取又比较复杂,大都是依靠经验或者实验来选择,所以这个过程中会出现无先验知识可借鉴或者参数类型繁琐难以较快确定的情况.MAXOUT卷积神经网络的出现解决了激活函数难以选择的问题,在研究MAXOUT网络构架的基础上,针对其不稀疏的特性引入ReLU稀疏单元,提出了一种基于ReLU函数稀疏性的MAXOUT卷积神经网络,并在MINST和CIFAR-10两个数据集上分别进行了数据分类实验.实验结果表明,具有稀疏性的MAXOUT卷积神经网络的分类效果更加理想.