基于学习自动机的深度神经网络优化方法

摘要

一种基于学习自动机的深度神经网络优化方法，在深度神经网络的训练阶段，从全连接的初始网络结构出发，在通过梯度下降迭代更新参数的过程中不断找到网络中的弱连接并将其去除，从而得到更为稀疏连接、具有更小的泛化误差的网络结构，以便用于对测试样本进行更高精度的图像分类，所述的弱连接，通过LA在训练过程中不断与神经网络交互而进行判定。本发明通过借鉴强化学习的思想，引入学习自动机算法改善传统的反向传播算法，去掉冗余连接以减少网络参数，从而提高在测试样本上的分类精度，使其具有更强的防止过拟合的能力。