面向多任务处理的神经网络加速器设计

摘要

本文从多任务系统以及算法硬件协同设计的角度出发,提出了一种面向多任务处理的神经网络加速器架构.在算法方面,提出了一套多任务处理算法,能够有效挖掘多任务间的特征重复性和计算重用性;在架构设计方面,设计了能够利用网络参数共享实现多任务间计算重用的加速器架构.该架构采用基于时间片的调度方法,实现了多视觉任务的高效并行处理.实验结果表明,与目前主流的移动图形处理器(GPU)相比,本文提出的加速器能够在多任务推理阶段减少65.80％的乘法运算量,同时获得了11倍的性能提升.