一种卷积神经网络低比特量化方法、系统及介质

摘要

本发明公开了一种卷积神经网络低比特量化方法，包括通过损失函数以及下降系数训练激活阈值以及第一权值，通过量化函数和激活阈值计算出特征值；创建权值值域转换函数，根据所述第一权值计算出转换值；通过所述量化函数以及所述转换值计算第二权值，以及所述第二权值的值域；将所述特征值和所述第二权值的值域转化为整型；进行推理部署，将所述第二权值的值域转换为第一比特的范围，并计算卷积得到第一卷积值，将所述第一卷积值进行反量化得到第二卷积值；本发明能够通过定点训练得到激活阈值以及权值，将权值转换为需求的低比特整型数据，并通过对卷积计算过程的变形和改造，使得最终的卷积计算完全符合低比特卷积计算的需求。