神经网络模型的高效处理

摘要

描述了一种计算装置的编译器，该编译器标识被计算装置的应用频繁调用的神经网络模型的序列，按照该序列编译模型，并且仅当来自先前调用的另一相同序列的相同编译后的模型并非在SRAM中已经存在时，才将编译后的模型加载到硬件加速器的静态随机存取存储器(SRAM)。这样防止了不必要地将编译后的模型重新加载到SRAM中，从而提高运行速度并节省计算能量。