神经网络二阶反向传播学习算法及其应用

摘要

该文提出了多层前向神经网络的新型二阶递推学习算法，该算法不仅能使网络层误差而且使二阶导教信息因子反向传播。证明了新算法等价于Newton迭代法并且有二阶收敛速度。它实现了Newton搜索方向和Hessan阵逆的递推运算，其计算量几乎与普通递推最小二乘法相当，由算法性能分析证明新算法优于Karayanns等人的二阶学习算法。