一种卷积神经网络模型的自适应高精度压缩方法及系统

摘要

本发明公开一种卷积神经网络模型的自适应高精度压缩方法及系统，属于人工智能、计算机视觉和图像处理领域。本发明方法首先使用差分进化算法对神经网络模型进行粗粒度剪枝，通过熵重要性判据和具有良好导向作用的目标函数在粗粒度空间中快速搜索得到接近最优的神经网络结构。然后在粗粒度搜索得到的最优个体的基础上构建细粒度搜索空间，通过差分进化算法神经网络模型进行细粒度剪枝，得到具有最优结构的网络模型。最后，使用多教师多步知识蒸馏网络恢复最优模型的性能，使其达到原始模型的精度。本发明能够完全自适应进行结构搜索剪枝和知识蒸馏，有效地压缩模型以及有效地减少计算量，并且保持剪枝模型的高精度。