基于遗传算法的前馈神经网络优化设计

摘要

本文选择适用性强的三层前馈神经网络作为优化设计对象，提出了一种具有综合控制策略的遗传算法，同时考虑编码方案、适应度函数设计、初始群体的设定和遗传操作等各环节对遗传算法收敛性能的影响，形成更高效的神经网络训练算法。 (1)选择实数编码方式，缩短个体编码的长度，将网络结构及权值同时进行编码； (2)设计能正确表现神经网络性能的适应度函数：以样本的逼近精度为主体，同时考虑网络结构对神经网络泛化性能的影响； (3)保证初始种群的多样性及均匀分布性：一部分个体的权值用零均值的正态随机向量表示，另一部分个体用权值选择范围内的随机向量表示； (4)设计并改进了适用于实数编码遗传算法的进化算子，避免早熟收敛现象的发生。将以上算法思想在MATLAB环境中实现，并用一个非线性函数逼近的例子来验证用本文算法优化设计前馈神经网络的高效性，通过与改进的BP算法——Levenberg-Marquardt算法及标准遗传算法进行实验对比，得出以下结论：该算法能快速有效地确定神经网络的结构及权值，并且训练后的神经网络具有较好的泛化能力。

目录

文摘

英文文摘

第1章绪论

1.1研究背景

1.1.1神经网络技术的研究热潮

1.1.2多层前馈神经网络在学习中遇到的困难

1.13用遗传算法优化设计前馈神经网络

1.2研究现状

1.3存在的问题

1.4研究意义及本课题的研究内容

第2章遗传算法

2.1遗传算法概述

2.2遗传算法的基本特点

2.3遗传算法的基本要素与性能分析

2.3.1编码方案

2.3.2群体设定与初始化

2.3.3适应度函数

2.3.4遗传操作

2.3.5控制参数的设定

2.4本章小结

第3章多层前馈神经网络

3.1多层前馈神经网络模型

3.2 BP算法

3.2.1 BP算法的训练过程

3.2.2 BP算法的缺陷及改进

3.2.3基于梯度学习算法的不足

3.3泛化

3.4本章小结

第4章改进的遗传算法优化设计前馈神经网络

4.1引言

4.2设计对象

4.3改进遗传算法的执行策略

4.3.1编码方案

4.3.2群体设定与初始化

4.3.3适应度函数的选择

4.3.4遗传操作

4.3.5自适应代沟的替代策略

4.4算法流程

4.5本章小结

第5章前馈神经网络优化算法的实现

5.1 MATLAB的基本理论

5.1.1 MATLAB的发展概述

5.1.2 MATLAB的主要功能

5.1.3 MATLAB的技术特点

5.2用MATLAB实现遗传算法

5.3用MATLAB实现遗传算法对前馈神经网络的优化设计

5.3.1初始化种群

5.3.2适应度函数的设计

5.3.3遗传算子的设计

5.3.4自适应代沟替代策略

5.4本章小结

第6章优化网络用于非线性函数逼近

6.1引言

6.2仿真内容

6.2.1基于本文算法的神经网络优化设计

6.2.2用改进的BP算法训练前馈神经网络权值

6.2.3用标准遗传算法训练神经网络权值

6.3仿真结果和结果分析

6.4本章小结

结论

参考文献

攻读硕士学位期间承担的科研任务与主要成果

致谢

作者简介