一种基于伪逆学习快速训练自编码器的近似方法

摘要

本发明涉及一种构建深度神经网络的基本模块自编码器训练方法，目的是为了克服现有深度神经网络训练算法的不足，提供一种快速训练自编码神经网络的近似方法。所述快速训练自编码器的近似方法不采用奇异值分解的方法计算编码器权重，而是采用有偏阶跃激活函数，将隐层输出矩阵近似为矩形单位阵，再采用伪逆学习算法计算解码器权重矩阵。经过权重捆绑策略得到编码器权重的估计值，再计算输入矩阵的特征值，用特征值将编码器权重归一化处理。通过归一化处理，使得隐层输出矩阵近似保持不变，提高权重捆绑的稳定性。所述快速训练自编码神经网络的近似方法不需要通过截断奇异值分解来计算编码器权重，不需要设置控制参数，计算速度快。重构误差容易控制，易用性强，有利于硬件实现。