一种卷积神经网络的压缩方法及其实现电路

摘要

本发明提出一种卷积神经网络的压缩方法及其实现电路，该方法包括步骤：(1)将卷积神经网络分为非剪枝层和剪枝层；(2)对整个卷积神经网络进行剪枝，然后重新训练，得到一个高精度的稀疏网络；(3)移除非剪枝层的权重掩膜；(4)对剪枝层进行渐进量化；(5)保持剪枝层权重不变，对非剪枝层进行线性量化，得到压缩后的卷积神经网络。该压缩方法能在保证高处理性能的情况下对卷积神经网络模型进行大幅压缩。针对此压缩方法，本发明还提出一种卷积神经网络的实现电路，包括：分布式非剪枝层硬件处理电路和剪枝层硬件处理电路，两个电路以流水线的方式共同实现卷积神经网络，以形成流水线的处理模式，大幅改善处理性能。