基于Split LBI算法的自动网络增长方法

摘要

本发明提供一种基于Split LBI算法的自动网络增长方法，能够在训练过程中自动增长卷积神经网络的卷积层和各层卷积核，最终得到参数量较少但是在分类任务中表现很好的神经网络模型的方法。其具体分为两种方法，一是给定神经网络模型层结构的情况下，在训练过程中自动增长各卷积层的卷积核和线性层的线性单元，最终得到训练好的、总参数量比人工设计的模型更少的、训练总代价更少的模型；二是给定一个层数很少的网络结构，训练过程中，先自动增长卷积核来确定各模块的卷积核上限，然后自动增长卷积层，最终得到训练好的、在分类任务上表现很好的模型。