由补偿指令使能的低精度深度神经网络

摘要

提供了一种补偿的深度神经网络(补偿‑DNN)。接收具有一组分量的第一矢量和具有一组相应分量的第二矢量。第一矢量的分量包括第一量化值和第一补偿指令，第二矢量的对应分量包括第二量化值和第二补偿指令。将第一量化值乘以第二量化值以计算原始乘积值。根据第一和第二补偿指令对原始乘积值补偿量化误差以产生补偿乘积值。将补偿的乘积值加到点积的累加值中。将累加值转换为点积的输出向量。输出向量包括输出量化值和输出补偿指令。