用于字符识别和动态系统辨识的人工神经网络设计

摘要

人工神经网络是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统，已经在诸多领域得到了广泛应用，具有重要的实践意义和理论价值。本论文在对人工神经网络进行了深入研究的基础上，根据各种神经网络自身所具有的特点，精心挑选了几种人工神经网络用于字符识别和动态系统辨识。 目前提出和应用于字符识别的神经网络有很多种，如感知器网络、BP神经网络、模糊神经网络、RBF神经网络、Hopfield网络等。由于每种网络的结构、学习算法不同，所以它们的识别能力也不同，各有特点。本论文的第一项研究工作就是选择了三种具有模式识别功能的典型网络用于26个英文字母的识别，分别是单层感知器、BP网络和Hopfield网络，并根据这三种网络在结构、算法及其特性上的不同点，进行了具体的不同的设计过程。在对网络进行识别出错率大小的测试时，是通过在标准字母上加上随机偏差模拟手写体字母作为网络的输入进行测试的。通过实验结果给出的各网络的识别出错率，着重对所设计的三种人工神经网络用于26个字母识别时网络容错性及识别能力的强弱进行了对比分析。 本论文的第二项研究工作是采用人工神经网络对动态系统进行辨识。为了体现系统的动态特性，需要选择具有动态演化过程的神经网络。递归神经网络是一种真正的动态神经网络，其网络结构中存在信息的延时及信息的反馈，所以它具备逼近系统动态过程的性能。本论文选取的是对角递归神经网络，在给出了对角递归神经网络的网络结构、学习算法以及保证网络稳定前提下的学习速率取值范围后，结合具体的系统，分别对一阶线性动态系统和二阶非线性动态系统进行了辨识，进行了详细的网络设计，包括网络结构的选定，网络参数的训练过程以及学习速率的初始值选取及其调整顺序，并从网络训练时间、训练误差及稳定性三方面角度分析了网络各参数对网络训练的影响。同时针对网络使用的DBP(Dynamic backpropagation)算法具有陷入局部极小值的缺点，引进混沌优化算法，利用混沌优化算法全局寻优的特点选取网络初始权值，将其与DBP算法结合起来对网络进行训练，并对二阶非线性动态系统进行了辨识。仿真实验结果表明混沌优化算法的引进改善了辨识效果，验证了改进方案的优越性。所给出的递归网络的设计方法，可以适用于多种递归神经网络。 最后对论文工作进行了总结与展望。

目录

文摘

英文文摘

声明

第1章绪论

1.1人工神经网络的介绍

1.1.1人工神经网络的研究历史

1.1.2人工神经网络的基本特征

1.1.3人工神经网络的分类

1.1.4人工神经网络的应用领域

1.2论文主要研究内容和章节安排

第2章人工神经网络的设计基础

2.1人工神经网络结构模型及学习规则

2.1.1前向神经网络结构模型及学习规则

2.1.2反馈网络结构模型及学习规则

2.2人工神经网络训练及设计

2.2.1前向神经网络训练及设计

2.2.2反馈网络训练及设计

2.3小结

第3章用于字符识别的三种人工神经网络的性能研究

3.1字符识别问题的重要性与实际应用背景

3.2对待识别的字符进行预处理

3.3用于字符识别的单层感知器网络的设计及仿真实验

3.3.1用理想输入训练的网络的字符识别

3.3.2用“理想加随机噪声”的输入训练的网络的字符识别

3.4用于字符识别的BP网络的设计及仿真实验

3.4.1用理想输入训练的网络的字符识别

3.4.2用“理想加随机噪声”的输入训练的网络的字符识别

3.5用于字符识别的Hopfield网络的设计及仿真实验

3.6三种人工神经网络容错性及识别性能的对比分析

第4章递归神经网络的理论

4.1递归神经网络的网络结构

4.2 DBP(Dynamic backpropagation)算法

4.3递归神经网络稳定的学习速率

第5章动态系统辨识实验及其改进

5.1递归神经网络用于系统辨识的步骤

5.2线性动态系统辨识实验

5.3非线性动态系统辨识实验

5.4基于混沌优化算法的初始权值的改进

5.4.1混沌优化算法

5.4.2基于混沌优化算法的改进及其对比实验结果的分析

5.5小结

第6章总结与展望

6.1论文的主要工作总结

6.2研究展望

参考文献

致谢

在读期间发表的学术论文与取得的研究成果