深度神经网络的构造方法、系统及存储介质

摘要

本发明公开了一种深度神经网络的构造方法、系统及存储介质，该方法依据小波降噪的基本原理,采用高斯小波作为激励函数,使构造的深度神经网络神经元节点数大大降低并实现隐藏层的层与层稀疏连接。其中，深度神经网络的构造方法包括：获取第一深度神经网络中各神经元的输出值和权重值；将输出值和权重值的乘积小于第一阈值的神经元确定为低贡献神经元；去除第一深度神经网络中的低贡献神经元，得到第二深度神经网络,同时可以从权重(小波系数)估算噪声的标准偏差作为参考阈值,将网络中的小权重设置为零以进行降噪并实现稀疏连接，在保持训练精度的同时，减少训练和测试网络的时间，减少梯度爆炸、消失梯度以及过度拟合等问题的发生。