一种低bit混合精度量化提升模型精度的方法

摘要

本发明提供一种低bit混合精度量化提升模型精度的方法，所述方法定性分析模型网络结构，通过对模型通道的计算及分析，确保推理不越界；以混合精度配置形式提高网络模型精度。本申请通过配置混合精度方式，确保模型在低bit过程中达到和8bit与全精度一样的精度。混合精度量化，定性分析网络的feature及weight，使得模型低bit量化精度更高。