基于多种共轭梯度法改进BP算法的分析

摘要

BP算法也称误差反向传播算法。主要思想就是正向传递信息,反向传播误差来调整网络的权值和阈值,使输出结果不断向目标函数逼近。由于BP算法本身的优点比较多常被分类、模式识别、函数逼近、数据压缩等。多年来对于BP算法的改进和应用领域研究也在不断地进行着。对于BP的算法改进主要有两种方式：一种是基于启发式进行的改进,一种是基于数值优化方式的改进。而基于数值优化的方式主要有共扼梯度法、L_M算法等。本文主要介绍BP算法的几种共轭梯度法思想,并利用实验进行对比分析,方便后续研究者的利用。