关于神经网络插值与逼近问题的研究

摘要

人工神经网络作为解决非线性问题强有力的工具，受到越来越多学者的关注.其中有关神经网络插值及对非线性动力系统逼近能力的研究是人工神经网络理论研究的热点和难点之一.此外，相对于由各种算法根据样本学习得到的学习型网络而言，通过构造法得到的网络克服了学习型网络易陷入局部极小值及收敛速度慢等缺点.再者，反馈神经网络以其高度的非线性特征，更能刻画非线性动力系统的特征.基于上述优点，本文采用构造法研究了前馈神经网络的插值与逼近及反馈神经网络对非线性动力系统的逼近能力.　　第二章介绍了两类神经网络，包括前馈神经网络(Feedforward Neural Networks，FNN)和反馈神经网络(Recurrent Neural Networks，RNN)、非线性动力系统、神经网络插值和神经网络逼近的基础知识.对于非线性动力系统来说，以时间为标准可将其分为非线性连续动力系统和非线性离散动力系统.　　第三章采用构造性的方法研究了前馈神经网络的插值与逼近能力.以Sigmoidal函数作为激活函数，构造了一元单隐层前馈神经网络.在一定条件下，证明了一元精确插值网络的存在性;此外还构造了近似插值神经网络，给出了精确插值网络和近似插值网络之间的误差;对于多元函数来说，通过对插值节点作内积处理后，借助一维空间中的方法，构造了多元精确插值与近似插值神经网络，并给出了两种网络的误差估计.　　第四章讨论了反馈神经网络对非线性动力系统的逼近能力，证明了权矩阵的秩为1的这一类反馈神经网络在反馈层相当于一个前馈神经网络.因此，在某种意义上继承了单变量实值函数的一致逼近性，并给出了该类网络的最小权矩阵.　　第五章对本论文加以总结并对进一步研究的工作进行了展望.

目录

声明

摘要

第一章 绪论

1．1 研究的背景及意义

1．2 国内外研究现状

1．3 本文的主要工作

第二章 人工神经网络理论基础

2．1 人工神经网络介绍

2．2 人工神经网络分类

2．2．1 前馈神经网络(FNN)

2．2．2 反馈神经网络(RNN)

2．3 非线性动力系统

2．4 神经网络的插值

2．5 神经网络的逼近

第三章 前馈神经网络的插值与逼近

3．1 引言

3．2 精确插值网络的存在性

3．3 插值网络对目标函数的逼近

3．4 多维空间上的近似插值神经网络

3．5 本章小结

4．1 引言

4．2 基础介绍

4．2．1 动力系统的两类逼近

4．3 轨迹逼近

4．3．1 一致逼近的轨迹闭合

4．3．2 秩为1的反馈神经网络的逼近

4．4 阴影逼近

第五章 总结与展望

5．1 总结

5．2 展望

参考文献

致谢

攻读硕士期间撰写的论文、参与的项目及个人简历