一种基于加权有向图的神经网络稀疏化算法

摘要

通过加权有向图对人工神经网络的结构进行描述,神经网络被看成为由内部各个子系统和子系统之间的相互作用而构成的一个动力系统.通过讨论其中子系统即神经元自身以及它们之间连接的变化对整个动力系统的影响,在产生的扰动不影响神经网络的收敛性的前提下,提出一种稀疏化算法,可以在一定的误差允许范围内得到更稀疏的神经网络结构.文中使用这种算法对一个3层的BP网络实例进行了稀疏化实现,得到一个神经元更少的结构,说明基于加权有向图的神经网络稀疏化算法可以用于类似BP网络这种层次化的神经网络的稀疏化.