改进的粒子群算法训练BP神经网络的研究

摘要

BP神经网络被广泛的应用于模式识别、人工智能、信号处理和自动控制等诸多领域,它是被研究及应用最为广泛的人工神经网络。BP神经网络在应用过程中暴露出收敛速度慢、对初值敏感、存在局部极小点、隐含层层数及神经元数目难确定等问题。本文通过采用基于随机惯性权重的简化粒子群优化算法优化 BP神经网络的网络结构及连接权值和阀值,来克服BP神经网络存在的问题。主要工作如下所示:
　　1)为了避免粒子群优化算法中出现的早熟收敛及搜索精度不高现象,提出一种基于随机惯性权重的简化粒子群优化算法(SIWSPSO)。该算法是基于去除速度项简化结构的粒子群优化算法基础上,用随机变量来描述惯性权重,学习因子采用异步变化的策略,每个粒子的个体极值采用所有粒子个体极值的平均值代替。通过几个典型测试函数仿真及F-检验结果表明, SIWSPSO算法在搜索速度、收敛精度、鲁棒性方面较已有改进算法有了显著提高,并且具有摆脱陷入局部最优解的能力,有效地解决了标准粒子群算法离散化、早熟收敛、后期收敛速度慢等问题。
　　2)采用基于随机惯性权重的简化粒子群优化算法优化求解全局最优值,通过映射关系得出神经网络隐含层神经元数目、连接权值和阈值的初始值;为了进一步提高误差精度再使用BP算法对神经网络的连接权值和阈值进行训练学习。在新的混合算法中粒子的维度,被映射成神经网络连接权值个数、阈值个数及隐含层的层数之和。通过仿真实验,结果表明该混合算法在模式识别的分类问题中得到较高的正确率,具有较高的拟合能力。不但能避免BP神经网络对初值敏感、收敛速度慢、存在局部极小点的问题,而且在隐含层神经元选择方面不需要根据经验公式分析也能得到很好的网络拓扑结构。

目录

封面

声明

中文摘要

英文摘要

目录

第一章 绪论

1.1 研究背景和课题意义

1.2 国内外课题研究现状分析

1.3 论文的创新点

1.4 论文的结构

第二章 相关理论概述

2.1 BP神经网络

2.2 BP神经网络存在的问题

2.3 基本粒子群优化算法

2.4 标准粒子群优化算法

第三章 随机惯性权重的简化粒子群优化算法

3.1 粒子群算法存在的问题

3.2 算法的改进策略

3.3 算法流程

3.4 改进算法仿真

3.5 本章总结

第四章 改进的简化粒子群算法训练BP神经网络

4.1 神经网络设计

4.2 算法流程

4.3 性能评价

4.4 算法仿真及分析

4.5 本章小结

第五章 总结与展望

5.1 总结

5.2 展望

参考文献

致谢

攻读硕士学位期间参加的科研项目

攻读硕士学位期间发表的学术论文目录