一种改进的神经网络模型结构优化方法

摘要

提出了一种改进的神经网络剪枝方法,针对基于灵敏度的剪枝算法存在因计算量大而需要工程近似存在误删节点的问题,以及基于相关度的剪枝算法无法处理输入节点的问题,提出对输入节点和隐节点采用不同的方法分别进行剪枝,对于输入节点基于灵敏度剪枝算法的基本思想进行剪枝,由于不用计算隐节点灵敏度,避免了因计算量大而需要采用工程近似导致误删节点的问题;对于隐节点,采用相关度的剪枝方法,避免了传统基于灵敏度的剪枝方法在进行跨层比较决定删除何节点时不够准确,导致误删节点的问题,最后通过仿真验证了该文所提出方法的有效性。