一种基于SIMD的卷积运算的并行优化方法

摘要

本发明针对SIMD单指令多数据特性，提出提供一种基于SIMD的卷积运算的并行优化方法。在减少运算指令和内存读取的基础上，对feature从宽度方向进行分块，分块的宽度BN由可用的SIMD寄存器数决定，这是为了保证一次内层卷积运算数据都在寄存中，通过feature的合理分块，能够在每个块计算中复用kernel和feature，内存访问次数为原来访问次数的1/BN。具体地，本发明所述方法按块计算输出，对特征向量从宽度方向进行分块，每块的宽度由并行运算所使用的寄存器数决定，根据SIMD指令通过循环优化，在每个块中复用卷积核和部分特征向量，以保证一次内层卷积运算时所有共享数据均在寄存器中，不产生额外访存操作。