一种基于残差卷积神经网络的量化处理方法及装置

摘要

本发明提供了一种基于残差卷积神经网络的量化处理方法及装置,该方法包括：获取卷积神经网络的第N层输出数据，对第N层输出数据进行第一量化操作以获得第一量化数据，并将第一量化数据输入至卷积神经网络的第N+1层网络；对第一量化数据进行第二量化操作以获得第二量化数据，将第二量化数据保存至存储器；获取卷积神经网络的第N+M层输出数据，并从存储器读取第二量化数据，以及根据卷积神经网络的第N+M层输出数据与第二量化数据进行逐点运算，其中，N、M为正整数。利用上述方法，节省了用于暂存残差网络中输出数据的存储空间，并减少了对存储器的访问，提高了数据的写入写出效率，降低芯片能耗。