一种卷积网络全整型量化方法及其应用方法

摘要

本发明公开了一种卷积网络全整型量化方法，属于卷积网络的量化压缩技术领域。本发明对卷积网络的输入特征图、网络权重、以及输出特征图，均采用整型表达，每层网络的前向推理过程只涉及整型计算。为保障整型量化后的性能，本发明需要对网络重新训练，并在训练中模拟网络全整型推理的结果。本发明还实现了一种全整型量化卷积网络的应用方法。相比于单精度浮点表达的卷积网络，本发明方案所占用资源更少，推理速度更快；相比于定点量化的网络，本发明对网络的输入、输出以及权重均采用固定长度整型表达，不用考虑逐层网络的输出结果的位宽带来的影响，其规整性更强，更适合于面向资源受限平台，如FPGA/ASIC等平台应用。