一种神经网络学习算法及其仿真

摘要

结合遗传算法与梯度下降法优点，提出了一种训练神经网络权值的混合优化算法。首先，利用全局搜索能力强的遗传算法，采用自适应变异概率，优化网络的权值，能够在进化结束时寻到全局最优点附近的点。然后，在遗传算法搜索结果的基础上，利用局部寻优能力较强的梯度下降法，从此点出发，进行局部搜索，最终达到网络的训练目标。研究说明：混合优化算法的收敛速度明显提高。