基于模长聚类的深度卷积神经网络模型自适应量化方法

摘要

本发明公开的一种基于模长聚类的深度卷积神经网络模型自适应量化方法，设计了适用于FPGA计算的深度卷积深度网络低bit量化算法，主要包括网络模型参数的预处理和参数集的分组自适应量化方法。通过动态阈值获取，对模型原参数进行粗粒度化裁剪，再构建适合FPGA移位计算的初始聚类中心点集，对预处理后的模型参数进行基于模长最小法进行分组聚类，最终叠加参数类不为空的聚类中心点集，优化实现不同网络的自适应低bit量化，本量化算法复杂度适中并非常符合FPGA的计算特点，节省FPGA上的硬件资源消耗，保证模型推理精度的同时提高了模型推理速度。