基于改进蝙蝠算法的前向神经网络研究

摘要

对于缺少梯度、连续性、凸性特征的复杂问题模型，传统的优化算法不能满足计算时间和空间的要求。群智能算法展现出的自组织、协作、高度并行的特点，为该类优化问题提供了思路。蝙蝠算法是群智能衍生的新型启发式算法，对于待优化问题的求解不需要数学信息，算法对于目标问题的求解具有较快的收敛速度。
　　通过对蝙蝠算法的研究，发现了蝙蝠算法存在的缺陷。第一，蝙蝠个体寻优过程中大量飞跃出解空间，蝙蝠算法并没有较好的处理策略来为越界的个体分配有利的位置。第二，蝙蝠算法存在种群聚拢严重的现象，缺乏种群的多样性。算法一旦陷入局部最优解，很难发散并逃离局部吸引子的吸引。第三，蝙蝠在靠近目标时发射声波的响度和脉冲频度不协调，降低了蝙蝠算法发现新的更优解的能力。针对蝙蝠算法存在的问题，提出了越界重置策略控制越界的蝙蝠个体，将其拉回解空间内，并随机为其分配位置。并在蝙蝠种群有陷入停滞早熟状态时引入变异策略，使种群以当前最优解为中心向四周呈发射状搜索。提出采用线性渐变的方式对蝙蝠发出声波的响度和脉冲频度进行更新，使其变化与算法寻优的过程相适应。为了验证改进算法的有效性，从不同的解空间位置对比了改进算法与其他几种算法的优化能力。实验结果表明，新算法在解决多峰、高维问题上表现出更强的全局寻优能力，鲁棒性更强。
　　前向神经网络的训练问题可以看作是一个优化问题。根据误差的梯度下降反向更新网络权值的方法存在很多缺陷，如规模较大的网络收敛速度慢，网络对优化问题的逼近能力对初始权值的依赖严重，网络的泛化能力不足等问题。蝙蝠算法在解决复杂、高维的优化问题中表现出突出的性能。本文将改进后的蝙蝠算法与误差反向传播算法相结合，提出了一种新的训练前向神经网络的算法。比较新算法与误差反向传播算法训练的网络对函数的逼近能力，验证了新算法的有效性。最后，将新算法训练的网络模型应用到分类问题的研究，研究结果表明了所提网络模型的泛化能力更强。

目录

声明

摘要

1．1 研究背景与意义

1．2 国内外研究现状

1．2．1 群智能算法研究综述

1．2．2 蝙蝠算法国内外研究状况

1．3 论文研究内容和创新点

1．4 论文的组织结构

1．5 本章小结

2．1．1 蝙蝠回声定位原理

2．1．2 蝙蝠算法的结构

2．1．2 蝙蝠算法的步骤

2．1．3 蝙蝠算法的改进

2．2 人工神经网络概述

2．2．1 神经元模型

2．2．2 BP神经网络模型

2．2．3 激活函数

2．2．4 BP算法流程

2．2．5 BP算法的改进

2．3 本章小结

第三章 基于越界重置和自适应缩放的蝙蝠优化算法

3．1 蝙蝠算法存在的缺陷

3．1．1 个体越界问题

3．1．2 缺乏种群多样性

3．1．3 响度和脉冲频度的更新存在缺陷

3．2 蝙蝠算法的改进策略

3．2．1 蝙蝠算法的越界重置策略

3．2．2 自适应缩放

3．2．3 响度和脉冲频度线性渐变

3．3 改进的蝙蝠算法

3．3．1 算法流程

3．3．2 算法流程图

3．4 实验仿真

3．4．1 实验设计

3．3．2 实验结果

3．3．3 算法收敛稳定性分析

3．4 算法性能分析

3．5 本章小结

第四章 基于改进蝙蝠算法优化BP神经网络

4．1 改进的BP神经网络

4．1．1 BP算法的缺陷

4．1．2 改进策略

4．2 网络设计

4．2．1 网络参数编码

4．2．2 适应度函数设计

4．2．3 算法流程

4．2．4 算法流程图

4．3 性能评价

4．3．1 实验设计

4．3．2 实验结果

4．4 改进BP神经网络在分类问题中的应用

4．4．1 语音特征信号分类

4．4．2 鸢尾花卉分类

4．4．3 意大利葡萄酒种类识别

4．4．4 结论

4．5 本章小结

5．1 全文总结

5．2 研究展望

参考文献

致谢

攻读硕士学位期间参加的科研项目

攻读学位期间发表论文情况