神经网络激活函数及其导数的FPGA实现

摘要

神经元的激活函数是神经网络的重要组成部分.采用折线斜率为2的次幂的分段线性逼近方法实现激活函数(sigmoid函数)及其导数的映射.该方法在FPGA实现时不需要使用硬件乘法器,而且可以节约大量的RAM单元.由于神经网络的并行计算需要消耗大量的硬件乘法器和RAM,因此,与其他方法相比,该方法为整个神经网络的FPGA实现有效地节省了大量宝贵的FPGA资源,可以较好地应用在BP神经网络的在线训练中.