一种神经网络的计算性能优化方法及系统

摘要

本发明公开了一种神经网络的计算性能优化方法及系统，方法包括：定义激活值阈值训练方法及权重训练方法；确定神经网络的初始比特位，基于初始比特位对神经网络进行量化训练直到神经网络的推理精度满足预设要求则停止训练；随机抽取预设数量张训练图片进行推理，并在推理结束后获取神经网络每层的激活值，并基于激活值计算得到每层激活值的标准差；获取基于神经网络训练得到的每层的激活值阈值，基于每层激活值的标准差和每层的激活值阈值确定每层分布的集中性，并将各个层的集中性划分为不同的阶梯；计算每一段阶梯的集中性的值，并基于集中性的值，确定对应阶梯的量化比特位。本发明提高了神经网络的计算效率，降低了占用的存储空间。