用于深度神经网络的硬件实现的层次化尾数位长度选择

摘要

本公开涉及用于深度神经网络的硬件实现的层次化尾数位长度选择。提供了用于选择具有缩减的尾数位长度的、用于表示输入到深度神经网络DNN的层和/或从DNN的层输出的值的定点数格式的层次化方法。该方法以每个层具有一个或多个初始定点数格式开始。这些层被分成层的子集，并且定点数格式的尾数位长度在每个子集的基础上从初始定点数格式开始迭代地缩减。如果缩减导致DNN的输出误差超过误差阈值，则丢弃该缩减，并且不再对该子集的层进行缩减。否则，对该子集中的层的定点数格式进行进一步缩减。一旦不能对任何子集进行进一步的缩减，则针对持续增加的多个子集重复该方法，直到每个子集达到预定数量的层为止。